Anthropic voi nyt todistaa, mikä malli sinulle vastasi
Kun esitat kysymyksen verkkopalvelussa olevalle avustajalle, et voi varmistaa, kuka oikeasti vastasi: välittäjä voi laittaa tilalle halvemman mallin, tai joku voi muokata tekstiä matkalla. Anthropic julkaisee ilmaisen prototyypin FlashProven, joka liittää jokaiseen vastaukseen matemaattisen todistuksen paljastamatta koskaan mallin sisäistä toimintaa. Llama 4 Maverickilla testattuna se tuottaa noin 110 todistustokenia sekunnissa yhdellä kortilla, ja todistus tarkistuu 17 sekunnissa tavallisella tietokoneella. Hinta on kova: noin 70–95 kertaa enemmän laskentaa kuin tavalliseen vastaukseen. Ja todistus kertoo vain, että oikea malli puhui, ei että vastaus on oikea. Lähde: Anthropic.
CrowdStrike ostaa kaksi agenttien valvonnan ja testauksen osaltaa
Kun valvontaviranomainen kysyy yritykseltä, mitä sen yksi agenteista teki, vastaus siihen, että se oli malli, ei enää riitä. CrowdStrike teki samana päivänä kaksi hankintaa: Fiddlerin, joka havainnoi ja selittää agenttien toimintaa, ja Dreadnoden, joka testaa tekoälyn turvallisuutta automaattisesti. Molemmat liittyvät toimittajan alustaan nimillä Falcon Observe ja Falcon Guardian, ja yleinen saatavuus on luvattu yhtiön tilikauden 2027 neljänneksi vuosineljännekseksi. Wall Street Journalin tutkimus arvioi molemmat kaupat 495 miljoonan dollarin arvoisiksi, summan jota CrowdStrike ei vahvistanut eikä joka esiinny kummassaan sen tiedotteista. Lähde: CrowdStriken tiedotteet.
Jokainen suuren yrityksen tiimi, joka haluaa kytkeä agentin sisäiseen palveluun, kirjoittaa lopulta oman pienen liittimen, omine turvallisuussääntöineen. Lopulta kukaan ei tiedä, kuinka monta työkalua on olemassa. Uber ratkaisi asian ylhäältä: yksi luettelo, jossa yli 800 palvelinta ja yli 5 000 työkalua, jossa agentti etsii tarvitsemansa sen sijaan että saisi kaiken kerralla. Tärkein yksityiskohta: työkalut löytyvät automaattisesti, mutta mikään niistä ei toimi, ennen kuin sen omistava tiimi on hyväksynyt sen. Se on kuin talossa, jossa jokainen huone avataan vasta isännän luvalla. Uber julkaisi suunnittelunsa lokakuussa; maanantain analyysi tuo sen takaisin uutisiin. Lähde: Uberin insinööriblogi.
OpenAI sai mallinsa suunnittelemaan kokonaisen laitteen
Kaksi OpenAI:n insinööriä suunnitteli täydellisen elektrisen laitteen alle viikossa oman työnsä ohella: yksi malli kirjoitti vaatimukset, toinen piirusti muodon, kotelon, piirilevyn ja laitetta ohjaavan ohjelman. Valmistaja tuotti sitten ensimmäisen prototyyppisarjan alle kuukaudessa. Yritys myöntää itse, että tuotteen valmistelu vaatti useita tarkistuskierroksia. Se muistuttaa tapaa, jolla arkkitehti piirtää talon ja sitten remontti tiimi etsii virheitä joista. Kerrottavampi luku on muualla: helmikuun jälkeen näiden mallien käyttö laiteympäristöjen tiimeissä on yli kaksikymmentäkertaistunut, mikä kertoo innostuksesta enemmän kuin lopputuloksesta. Yhtiö myös kertoo, ettei kukaan ihminen kirjoittanut laitteen ohjelmistoa itse. Lähde: OpenAI.
Julkinen mittari kertoo, mitä hyötyä agenteista on vikojen korjaamisessa
Collinear AI on julkaissut toisen versionsa testipenkistään avoimesti: agentin pitää löytää ja korjata turvallisuusvirhe aikaisesta koodipankista rikkomatta sitä, mikä toimi. Versio 2 sisältää 100 julkista tehtävää 91 eri virheluokasta. Tulos ansaitsee toisen silmäyksen: paras malli saa oikein vain 67,8 prosenttia, ja 19 prosenttia tehtävistä jää ratkaisematta sillekin, vaikka yrityksiä toistetaan. Toisin sanoen turvallisuusvirheiden korjaaminen on edelleen agentille raskasta työtä, ja sen virheet voivat jäädä huomaamatta, mikä on juuri se paikka jossa keskeneräiset turvallisuuspalvelut maksavat. Testi mittaa lisäksi kuka malli voittaa, ei vain kuinka hyvin se pärjää. Lähde: Collinear AI Hugging Facessa.
Honeycomb panee agentit valvomaan häiriöitäsi, ympäri vuorokauden
Havainnointiyritys Honeycomb julkaisee agentteja, jotka seuraavat tuotantojulkaisuja, havaitsevat taantumat ennen kuin asiakkaat ehtivät nähdä ne ja kirjoittavat häiriöselvitykset. Jokainen havainto liitetään siitä peräisin olevaan jäljennykseen ja merkitään joko vahvistetuksi tai oletukseksi. Käyttö on varhaisessa vaiheessa. Honeycomb viittaa kyselyyn, jossa 76 prosenttia tiimeistä arvioi tekoälyn kirjoittaman koodin kasvavan nopeammin kuin heidän kykyään tarkastaa sitä, ja 65 prosentti rikkoi välillä jotain agentin silmukan tai tokeneiden rohkean laskutuksen vuoksi. Lähde: Honeycomb.
VMware haluaa agenttien kysyvän tietoja siirtämättä niitä
Tanzu-alustallaan VMware tarjoaa tavan antaa agenteille pääsun yrityksen dataan siirtämättä kaikkea yhteen keskiseen varastoon. Agentit kulkevat hallittujen datatuotteiden luettelon kautta, täsmälleen samoilla peittämissäännöillä kuin ihmislujoille. Toimittaja lupaa vähemmän kulutettuja tokeneita ja ennustettavia pilven ulosmenokustannuksia. Lähde: VMware Tanzu.
Ebix ja intentyx tarkkailevat, mitä agenttisi oikeasti tekevät
Kaksi yritystä tuo markkinoille alustan, joka löytää yrityksen agentit, sitoo niiden teot ilmoitettuun tarkoitukseen eli päämäärään, sallittuihin työkaluihin ja tavoitettaviin tietoihin, ja hälyttää kun agentti astuu sen rajan ulkopuolelle. Ebixin toimitusjohtaja lyö vetoa, että agenttien hallinta on vuonna 2027 oma turvallisuusluokka. Lähde: Ebixin tiedote.
Artefact ja Dust ottivat 1 500 agenttia käyttöön julkisessa pankissa
Ranskan julkinen sijoituspankki Bpifrance kokeili neljä kuukautta sadan työntekijän voimin, löysi yli kuusikymmentä mahdollista käyttötapausta ja siirtyi sitten viidelle sadalle lisenssille ja tuhanteen viidelle sadalle agentille muutamassa kuukaudessa. Sääntökirja, kenen lisenssi mikä on, mikä agentti on riskialtain ja miten liittimiä valvotaan, saatiin alle neljässä viikossa. Lähde: Artefact.
📊 Trendin
Yksi lanka kulkee päivän uutisten läpi: kysymys ei ole enää vain, mitä malli osaa, vaan mitä agentti on arvoinen ja miten todistaa, että se on juuri se, joka väittää olevansa. Anthropic keksii matemaattisen todistuksen. CrowdStrike ostaa työkalut, jotka kertovat mitä agentit tekivät. Uber laittaa työkalujen käynnistyksen ihmisen hyväksynnän taakse. Julkinen mittari sanoo, että turvallisuusvirheiden korjaaminen on edelleen raskasta työtä, ja paras tulos on 67,8 prosenttia. Ja OpenAI on saanut mallinsa suunnittelemaan kokonaisen laitteen. Alan painopiste ei ole enää malli, vaan todiste, valvonta ja mittaus.