ChatGPT:llä on nyt lompakko: agentti maksaa, mutta ei koskaan ilman sinua
OpenAI lisää ChatGPT:hin lompakon, joten avustajasi pystyy nyt maksamaan tilauksen puolestasi. Periaate mahtuu yhteen lauseeseen: agentti maksaa, mutta ei koskaan näe korttiasi numeroa. Rekisteröit kortin kerran ja hyväksyt jokaisen oston sormenjäljellä tai kasvotunnistuksella, samalla tavalla kuin avaat puhelimesi. Kauppa saa vain kertakäyttöisen tunnuksen, joka ei kuulu mihinkään oikeaan pankkitiliin. Hinnat, palautukset ja riidat säilyvät sinulla. Palvelu on vain ChatGPT Pro -tilaajille, ja toistaiseksi vain Yhdysvalloissa. Seuraava ilmoitettu askel menee pidemmälle: pysyvä valtuutus kulutuskatolla, sallituilla kategorioilla ja aikavälillä. Lähde : https://openai.com/index/introducing-chatgpt-wallet
Sierra määrää, miten agentit esittäytyvät kaupoille
Sierra julkaisee Poppyn version 1.0, avoimen standardin, joka kertoo henkilökohtaiselle avustajalle, miten sen pitää esittäytyä yritykselle. Käytännössä tämä on agentin digitaalinen henkilöllisyyskortti: se kertoo, kuka agentti on, mitä se får tehdä, ja asiakas voi peruuttaa luvat milloin tahansa. Yli 175 maassa toimivat Shopify-kaupat ottavat sen käyttöön automaattisesti, ilman asennusta, ja Metan Muse-avustaja käyttää sitä kaikkialla. Yli sata yritystä testaa jo standardia. Kauppa säilyttää hintansa, asiakkaansa ja palautuksensa: agentti kävelee ovesta sisään mutta ei vie avaimia mukanaan. Lähde : https://sierra.ai/blog/releasing-poppy
Google mittaa suojansa: 87 % toteutuneista vahingoillisista ohjeista tunnistetaan
Google julkaisee poikkeamistunnistimensa tulokset. Se on suojakeino, joka käy jälkikäteen läpi sen, mitä agentit tekivät. 1 774 testikertaa otettiin viidestä muiden kirjoittamasta testipaketista, järjestelmä ilmoittaa 87 % vahingoillisista ohjeista, jotka agentit todella suorittivat. Se on erittäin tehokas tavoitteen väärentämistä ja työkalujen väärää käyttöä vastaan. Mutta se on lähes sokea, kun ohje piiloutuu agentin pitkäikäiseen muistiin: vain 4 tapausta 18:sta. Hälytys toimii siis, kun pyyntö näkyy, ja vaimenee, kun se ujuttautuu dataan. Lähde : https://developers.googleblog.com/how-agent-anomaly-detection-scores-on-benchmarks-we-didnt-write/
LangChain kerää 300 miljoonaa dollaria agenttien pitämiseksi yritysten sisällä
LangChain ilmoittaa 300 miljoonan dollarin sijoituskierroksesta, joka nostaa arvonsa 3 miljardiin. Kiertoa johtaa Googlen kasvurahasto, ja uusina sijoittajina ovat Singaporen valtionrahasto ja DFJ Growth. Yhtiö kertoo, että yli 7 000 organisaatiota käyttää sen maksullista alustaa, mukana Nvidia, Toyota ja Salesforce. Yhtiön perustaja ja toimitusjohtaja Harrison Chase toteaa, että agentit muuttavat talouden ja että eri aloille erikoistuneet agentit myyvät itsensä tuotteina. Sen panostus mahtuu yhteen lauseeseen: yritys, joka hallitsee omia agenttejaan, säilyttää myös niiden oppimät asiat, ja sellaisesta osaamisesta on vaikea kopioida. Se on suora vastapaino suurten malli- ja pilvipalvelutarjoajien tarjouksille. Lähde : https://www.langchain.com/blog/series-c
145 miljardin parametrin malli mahtuu yhdelle näytönohjaimelle
Edge0, amerikkalainen tutkimuslaitos, julkaisee mallinsa Edge0-145B painot: yhteensä 145 miljardia parametria, joista 10 miljardia työskentelee jokaisen sanan kohdalla. Se mahtuu yhdelle 24 gigatavun näytönohjaimelle tavallisessa pöytäkoneessa. Julkaisija lupaa 121 sanaa sekunnissa agentin työssä ja 86,5 pistettä testissä, joka mittaa agentin työtä terminaalissa. Tiedostot ladataan ilman tiliä, kahdessa muodossa. Lisenssi nojaa Qwenin lisenssiin ja vaatii mallin nimen näyttämistä yli 100 miljoonan kuukausikäyttäjän tai yli 20 miljoonan dollarin kuukausiliikevaihto ylittäessä. Luvut ovat julkaisijan, eikä riippumatonta arviointia ole tiedossa. Julkaisija kertoo myös, että sama malli toimii hitaammin, jos näytönohjaimen muisti on pienempi, ja että nämä ovat testiolosuhteita eivät vähimmäisvaatimuksia. Lähde : https://huggingface.co/Edge0/Edge0-145B-q3k
NiCE julkaisee uuden sukupolven agenttialustaan, joka kirjaa jokaisen päätöksen
Asiakassuhdetuotteen ohjelmistovalmistaja NiCE esittelee Cognigy-alustansa uuden sukupolven. Kolme asiaa nousee esiin: seuralainen, joka ohjaa tiimejä agenttien rakentamisessa ja testaamisessa, taidot jotka siirtyvät agentilta toiselle, sekä loki joka toistaa jokaisen päätöksen, jokaisen työkalukutsun ja jokaisen kulutetun tunnuksen. Alusta puhuu myös asiakkaiden omien agenttien kanssa avoimilla standardeilla ja käsittelee puheen alusta loppuun. Nykyiset asiakkaat säilyttävät jo käynnissä olevat ratkaisut. Lähde : https://www.nice.com/press-releases/nice-launches-next-generation-nice-cognigy-to-accelerate-enterprise-ai-agent-deployment-and-orchestration
Google Cloud tuo agenttien valvonnan yritysten mittaripaneeleihin
Google Cloud lisää agenttien valvonnan ja ohjauksen datatyökaluihinsa. Jokainen agentti voi lähettää käyttötilastonsa, vasteaikansa ja kuluttamansa tunnukset yrityksen omistamiin tauluihin ja analysoida ne siellä jo käytössä olevilla työkaluilla. Täydet keskustelut ovat vapaaehtoisia: oletuksena näkee toiminnan näyttämättä keskustelujen sisältöä, ja yksityiskohtainen loki kytketään agentti kohti agenttia, omine suojineen. Valmiit mittaripaneelit seuraavat aktiivisia istuntoja ja eniten käytettyjä lähteitä. Lähde : https://cloud.google.com/blog/products/data-analytics/enterprise-ai-agent-observability-with-bigquery-and-looker
Amazon näyttää, miten agentti maksetaan tuloksesta eikä sanasta
Amazon julkaisee oppaan, jolla jokainen ohjelmointiagentin pyyntö ohjataan sopivimpaan malliin historian virheiden perusteella. Opas ehdottaa myös oikean mittayksikön: kustannus ratkaistua tehtävää kohti sanan hinnan sijaan. Kalliimmaksi hintautuva malli, joka päätyy perille, voi maksaa yhteensä vähemmän. Amazon korostaa, että esimerkki on esittelykoodia ilman tuotantotakuuta. Lähde : https://aws.amazon.com/blogs/machine-learning/route-coding-agent-requests-to-the-right-model-on-amazon-bedrock-with-nvidia-nemo-switchyard/
llama.cpp nousee versioon 1.0 ja lupaa ettei riko agentteja enää
Vapaa ohjelmisto, jolla malleja ajetaan tavallisella tietokoneella, nousee versioon 1.0, kolmen ja puolen vuoden jälkeen. Tiimi lupaa, ettei ohjelmien käyttämiä toimintoja enää muuteta ilman pääversionumeron vaihtumista. Yli 150 malliarkitehtuuria tunnistetaan, ja tiedostot ovat saatavilla Linuxille, macOSille, Windowsille, Androidille ja iOSille. Yrityksille lupaus vakaudesta on ratkaiseva peruste: paikallisesti pyörivä agentti ei enää rikkoudu jokaiseen moottorin päivitykseen. Lähde : https://huggingface.co/blog/ggml-org/llama-cpp-v1
📊 Trendin
Päivä, jolloin agentti siirtyy rahan ja valvonnan puolelle: OpenAI avaa sille lompakon, Sierra antaa sille henkilöllisyyskortin kauppojen ovelle, Google mittaa sen suojelun arvon, ja LangChain kerää 300 miljoonaa dollaria ajatuksesta, että yritykset pitävät omat agenttinsa lähellä. Toisella puolella työkalut rauhoittuvat: valtava malli mahtuu pöytätietokoneen näytönohjaimelle, vapaa ohjelmisto llama.cpp lupaa ettei riko enää mitään, ja Amazon oppii maksamaan agentille tuloksen mukaan. Agentista tulee kollega, jonka varustaa, valvoo ja laskuttaa.