ChatGPT hat jetzt ein Portemonnaie: Der Agent zahlt, aber nie ohne Sie
OpenAI ergänzt ChatGPT um ein Portemonnaie, sodass Ihr Assistent jetzt eine Bestellung für Sie bezahlen kann. Das Prinzip passt in einen Satz: Der Agent zahlt, sieht aber nie Ihre Kartennummer. Sie hinterlegen Ihre Karte einmal und bestätigen danach jeden Kauf per Fingerabdruck oder Gesichtserkennung, wie beim Entsperren des Telefons. Der Händler erhält nur ein einmalig gültiges Zeichen ohne Bezug zu einem echten Bankkonto. Preise, Rückgaben und Streitfälle bleiben bei Ihnen. Der Dienst gilt nur für ChatGPT-Pro-Abonnenten, zunächst in den USA. Der angekündigte nächste Schritt geht weiter: dauerhafte Vollmacht mit Ausgabengrenze, erlaubten Kategorien und Zeitfenstern. Quelle : https://openai.com/index/introducing-chatgpt-wallet
Sierra fixiert, wie sich Ihre Agenten bei Shops vorstellen
Sierra veröffentlicht Version 1.0 von Poppy, einem offenen Standard, der einem persönlichen Assistenten erklärt, wie er sich bei einem Unternehmen vorstellt. Konkret ist das ein digitaler Ausweis für Agenten: Er sagt, wer der Agent ist, was er darf, und der Kunde kann die Rechte jederzeit entziehen. Shops in über 175 Ländern, die Shopify nutzen, schalten ihn automatisch ein, ganz ohne Installation, und Metas Assistent Muse nutzt ihn überall. Mehr als hundert Unternehmen testen den Standard bereits. Der Händler behält Preise, Kunden und Rückgaben: Der Agent geht durch die Tür, die Schlüssel behält er nicht. Quelle : https://sierra.ai/blog/releasing-poppy
Google misst seinen Schutz: 87 % der ausgeführten schädlichen Anweisungen werden gemeldet
Google veröffentlicht die Ergebnisse seiner Anomalie-Erkennung, eines Schutzmechanismus, der nachträglich prüft, was Agenten getan haben. In 1.774 Testläufen aus fünf fremden Test-Suites meldet das System 87 % der schädlichen Anweisungen, die die Agenten tatsächlich ausgeführt haben. Gegen Zielentfremdung und falschen Werkzeugeinsatz ist es sehr wirksam. Fast blind ist es dagegen, wenn die Anweisung im Langzeitgedächtnis des Agenten steckt: nur 4 Fälle von 18. Der Alarm funktioniert also, solange die Bitte sichtbar ist, und schweigt, wenn sie in den Daten verschwindet. Quelle : https://developers.googleblog.com/how-agent-anomaly-detection-scores-on-benchmarks-we-didnt-write/
LangChain nimmt 300 Millionen Dollar auf, um Agenten in den Unternehmen zu halten
LangChain meldet eine Finanzierungsrunde über 300 Millionen Dollar, die den Unternehmenswert auf 3 Milliarden hebt. Geführt wird sie vom Wachstumsfonds von Google, neu dabei sind der Staatsfonds von Singapur und DFJ Growth. Das Unternehmen sagt, dass mehr als 7.000 Organisationen seine kostenpflichtige Plattform nutzen, darunter Nvidia, Toyota und Salesforce. Seine Wette lautet: Wer seine Agenten selbst kontrolliert, behält auch das, was sie lernen, und dieses Wissen ist schwer zu kopieren. Das ist das direkte Gegengewicht zu den Angeboten der großen Modell- und Cloud-Anbieter. Quelle : https://www.langchain.com/blog/series-c
Ein Modell mit 145 Milliarden Parametern passt auf eine einzige Grafikkarte
Edge0, ein amerikanisches Labor, veröffentlicht die Gewichte seines Modells Edge0-145B: 145 Milliarden Parameter, dont 10 Milliarden bei jedem Wort arbeiten. Es passt auf eine einzige Grafikkarte mit 24 Gigabyte, in einem gewöhnlichen Büro-Rechner. Der Herausgeber nennt 121 Wörter pro Sekunde bei Agentenarbeit und 86,5 Punkte in einem Test, der die Arbeit eines Agenten am Terminal misst. Die Dateien lassen sich ohne Konto in zwei Formaten laden. Die Lizenz stützt sich auf die von Qwen und verlangt, den Modellnamen zu nennen, sobald mehr als 100 Millionen monatliche Nutzer oder 20 Millionen Dollar Monatsumsatz erreicht sind. Diese Zahlen stammen vom Herausgeber, eine unabhängige Prüfung ist nicht bekannt. Quelle : https://huggingface.co/Edge0/Edge0-145B-q3k
NiCE bringt eine neue Generation seiner Agentenplattform, mit Protokoll jeder Entscheidung
Der Anbieter von Kundenservice-Software NiCE stellt die neue Generation seiner Plattform Cognigy vor. Drei Neuerungen fallen auf: ein Begleiter, der Teams beim Bauen und Testen von Agenten führt, Fähigkeiten, die von einem Agenten zum nächsten weiterverwendet werden, und ein Protokoll, das jede Entscheidung, jeden Werkzeugaufruf und jeden verbrauchten Token nachzeichnet. Die Plattform spricht außerdem über offene Standards mit den Agenten der Kunden und verarbeitet Sprache durchgehend. Bestehende Kunden behalten, was bereits läuft. Quelle : https://www.nice.com/press-releases/nice-launches-next-generation-nice-cognigy-to-accelerate-enterprise-ai-agent-deployment-and-orchestration
Google Cloud bringt die Überwachung von Agenten in die Firmen-Dashboards
Google Cloud ergänzt seine Datenwerkzeuge um Überwachung und Kontrolle von Agenten. Jeder Agent kann seine Nutzungszahlen, Antwortzeiten und verbrauchten Tokens in Tabellen senden, die dem Unternehmen gehören, und dort mit den bereits genutzten Werkzeugen ausgewertet werden. Vollständige Gespräche sind freiwillig: Standardmäßig sieht man die Aktivität ohne den Inhalt der Gespräche, das ausführliche Protokoll wird Agent für Agent eingeschaltet. Vorbereitete Dashboards verfolgen aktive Sitzungen und die meistgenutzten Quellen. Quelle : https://cloud.google.com/blog/products/data-analytics/enterprise-ai-agent-observability-with-bigquery-and-looker
Amazon zeigt, wie man einen Agenten nach dem Ergebnis bezahlt, nicht nach dem Wort
Amazon veröffentlicht eine Anleitung, um jede Anfrage eines Programmier-Agenten an das passendste Modell zu schicken, gestützt auf die Fehler aus der Historie. Die Anleitung nennt auch die richtige Maßeinheit: die Kosten pro gelöster Aufgabe statt des Preises pro Wort. Ein teureres Modell, das durchkommt, kann insgesamt günstiger sein. Amazon weist darauf hin, dass es sich um Demonstrationscode ohne Produktionsgarantie handelt. Quelle : https://aws.amazon.com/blogs/machine-learning/route-coding-agent-requests-to-the-right-model-on-amazon-bedrock-with-nvidia-nemo-switchyard/
llama.cpp erreicht Version 1.0 und verspricht, Agenten nicht mehr zu zerstören
Die freie Software, die Modelle auf einem normalen Rechner laufen lässt, erreicht Version 1.0, nach dreieinhalb Jahren. Das Team verpflichtet sich, die von Programmen genutzten Funktionen nicht mehr zu ändern, ohne die Hauptversion zu erhöhen. Über 150 Modellarchitekturen werden erkannt, Dateien gibt es für Linux, macOS, Windows, Android und iOS. Für Unternehmen ist dieses Stabilitätsversprechen das entscheidende Argument: Ein lokal laufender Agent bricht nicht mehr bei jeder Aktualisierung der Laufzeitumgebung. Quelle : https://huggingface.co/blog/ggml-org/llama-cpp-v1
📊 Trend
Ein Tag, an dem der Agent auf die Seite des Geldes und der Kontrolle rückt: OpenAI öffnet ihm ein Portemonnaie, Sierra gibt ihm einen Ausweis für den Eintritt in Shops, Google misst, was sein Schutz wert ist, und LangChain nimmt 300 Millionen Dollar auf für die Idee, dass Unternehmen ihre Agenten bei sich behalten. Auf der anderen Seite wird es ruhiger: Ein riesiges Modell passt auf eine Büro-Grafikkarte, die freie Software llama.cpp verspricht, nichts mehr zu zerstören, und Amazon lernt, einen Agenten nach dem Ergebnis zu bezahlen. Der Agent wird zum Kollegen, den man ausstattet, kontrolliert und abrechnet.