Út a teljesen autonóm AI-ügynökökhöz és az őket finanszírozó kockázati tőkésekhez
A mai, úgynevezett mesterséges intelligencia-ügynököket olyan programok fogják felülmúlni, amelyek sokkal jobban irányítják a vállalati folyamatokban meghozott döntéseket.
Az "ágens AI" vagy a "mesterséges intelligencia ügynökei" kifejezés gyorsan általánossá válik, olyannyira, hogy a technológiába fektetettek különbséget tesznek.
A múlt héten közzétett blogbejegyzések sorozatában a Menlo Ventures kockázatitőke-társaság partnerei (amely olyan mesterséges intelligencia területén működő startupokat vezetett be, mint az Anthropic) meghatározza "az ügynökök következő hullámát", és azt, hogy miként lépik túl az eddig bemutatott ügynököket.
Azt írják, hogy a holnapi ügynökök négy különböző képességgel rendelkeznek.
"A teljesen autonóm ágenseket négy elem határozza meg, amelyek együttesen a teljes ágensképességhez vezetnek: érvelés, külső memória, végrehajtás és tervezés" - írják a szerzők.
"Az egyértelműség kedvéért, a holnap teljesen autonóm ügynökei rendelkezhetnek mind a négy építőelemkel, de a mai LLM-alkalmazások és -ügynökök nem" - állítják.
A szerzők, Tim Tully, Joff Redfern, Deedy Das és Derek Xiao első blogbejegyzésükben azt vizsgálják, mit jelent az, hogy valami "ügynök". A szoftvernek - írják - végső soron egyre nagyobb autonómiát kell nyernie a probléma megoldásához szükséges lépések közötti választásban.
"Az ügynökök akkor jelennek meg, amikor az LLM-et az alkalmazás vezérlőfolyamába helyezi, és hagyja, hogy dinamikusan döntse el, milyen műveleteket hajtson végre, milyen eszközöket használjon, és hogyan értelmezze a bemeneteket, és hogyan válaszoljon azokra" - írják a szerzők.
Egy hagyományos nagy nyelvi modell hozzáférhet "eszközökhöz", például külső programokhoz, amelyek lehetővé teszik az LLM-nek egy feladat végrehajtását. Az Anthropic már megtette ezt a Tool Use funkciójával, és az OpenAI is rendelkezik valami hasonlóval.
A szerzők azonban kifejtik, hogy egy eszköz igénybevétele pusztán eszközöket ad az LLM-nek a probléma megoldására, nem pedig azt a vezérlést, amely eldönti a probléma megoldásának módját.
Ahogy a szerzők írják: "Az eszközhasználat erőteljes, de önmagában [ez] nem tekinthető "ágensnek". A logikai vezérlési folyamatokat az alkalmazás előre meghatározza." Inkább az ügynöknek széles körű választási lehetőséggel kell rendelkeznie, hogy melyik eszközt használja, döntési logikával.
A szoftver néhány verziója közelebb kerül ahhoz, hogy valódi ügynök legyen, magyarázzák a szerzők. Az egyik a "döntéshozó ágens", amely a nagy nyelvi modellt használja arra, hogy egy sor szabály közül válasszon, amelyek viszont eldöntik, melyik eszközt kell használni. Egy ilyen döntéshozatali rendszerre példaként az egészségügyi szoftvereket indító Anteriort említik.
Ezután egy magasabb rendű ügynök, az úgynevezett "agent on rails", "magasabb szintű célokat kap, amelyeket el kell érni (például: "egyeztesse ezt a számlát a főkönyvvel". a magas szintű kérés és a követendő szabályrendszer.
A szerzők megjegyzik, hogy több startup is alkalmazza ezt az "agent on rails" megközelítést, köztük a Sierra ügyfélszolgálati cég és az All Hands AI szoftverfejlesztő cég.
Az ügynöki mesterséges intelligencia harmadik, legmagasabb szintje, a szent grál, ahogyan fogalmaznak, "dinamikus érveléssel" és "egyedi kódgenerációval" rendelkezik, amely lehetővé teszi a nagy nyelvi modell számára, hogy "felsorolja" a vállalat szabálykönyvét. A szerzők megjegyzik, hogy ez a fajta megközelítés, amelyet "általános mesterségesintelligencia-ügynöknek" neveznek, még mindig kutatási fázisban van. Ilyen például Devin, az „első AI szoftvermérnök”, amelyet a Cognition startup hozta létre.
A második blogbejegyzésben, a „Beyond Bots: How AI Agents Are Driving the Next Wave of Enterprise Automation” című blogbejegyzésben a szerzők arra reflektálnak, hogyan fogják alkalmazni az ügynöki mesterséges intelligenciát a vállalatokban.
Azt írják, hogy az azonnali hatás az, hogy túllépünk a „robotikus folyamatautomatizáláson” vagy az RPA-n, amelyek bizonyos alapvető emberi feladatokat szoftverrel helyettesítenek, és amelyeket olyan cégek árulnak, mint az UiPath és a Zapier.
Az első bejegyzésben feltárt döntési ügynökök és ágensek gyakorlati alkalmazásokat találnak az üzleti feladatokban, mint például a szállítói számlák egyeztetése a főkönyvvel:
Tegyük fel, hogy egy cégnek össze kell egyeztetnie egy nemzetközi szállítótól származó számlát a főkönyvével. Ez a folyamat több szempontot is magában foglal, beleértve a számla pénznemét, a főkönyvi pénznemet, a tranzakció dátumát, az árfolyam-ingadozásokat, a határokon átnyúló díjakat és a banki díjakat, amelyeket együtt kell lekérni és kiszámolni a fizetések egyeztetéséhez. Az ügynökök képesek az ilyen típusú intelligenciára, míg az RPA-ügynökök csak egy emberré tehetik az ügyet.
A blogbejegyzés fő irányvonala az, hogy számos startup már most olyan dolgokat árul, amelyek megközelítik az ilyen magasabb ügynöki funkciókat. „Ezek sem csak sci-fi” - írják. "Bár a kategória még csak kialakulóban van, a vállalkozások az induló vállalkozásoktól a Fortune 500-as cégekig már most is nagy mennyiségben vásárolják és használják ki ezeket a rendszereket."
A szerzők egy praktikus táblázatot kínálnak a számos ajánlatról, amelyek az ügynökprogramok autonómiája egy tengely mentén, valamint a vertikális vagy horizontális piaci fókusz foka szerint vannak rendezve:
A két blogbejegyzés nem foglalkozik két olyan fő korlátozással, amelyek a meglévő generatív AI (gen AI) rendszerekben jelentkeztek, és az ügynökök fejlődésének gátlásával fenyegetnek.
Először is, a szerzők nem folytatnak érdemi vitát arról, hogyan kezeljék a hallucinációkat, magabiztosan állítják a hamis eredményeket. Bármilyen érvelési folyamatot is használ a gen AI, és bármilyen félelmetesek is az eszközök, nincs okunk feltételezni, hogy az AI-ügynökök továbbra sem generálnak hibás kimeneteket, mint a hagyományos chatbotok.
Legalább nyitott kutatási kérdés, hogy a döntéshozók és a síneken lévő ügynökök csökkentik-e a hallucinációkat.
Másodszor, bár az ügynöki mesterséges intelligencia elképzelhető, hogy számos vállalati folyamatot automatizál, a mai napig nagyon kevés adat áll rendelkezésre az automatizálás hatásáról, és arról, hogy valóban fejlődést jelent-e. Ez részben kapcsolódik a hallucinációkkal kapcsolatos első ponthoz, de nem teljesen. Egy ügynök, aki nem téved az érvelésében vagy cselekvésében, még mindig olyan eredményekhez vezethet, amelyek szuboptimálisak ahhoz képest, amit egy személy tenne.
Egy kiemelkedő példát tárgyal a Princetoni számítástechnikai tudósok, Arvind Narayan és Sayash Kapoor "AI Snake Oil" című könyve, amelyet ebben a hónapban adott ki a Princeton University Press. Egy mesterséges intelligencia modell nyomon követte azon asztmás betegek történetét, akiknél tüdőgyulladás tünetei jelentkeztek a kórházba kerülve. Az AI-modell szerint ők a legalacsonyabb kockázatú betegek közé tartoznak a kórházi populációban. Ezzel az „okoskodással” az ilyen betegeket el lehetne bocsátani.
A modell azonban figyelmen kívül hagyta az ok-okozati összefüggést: az asztmás és tüdőgyulladásos tünetekben szenvedő betegek voltak a legkevésbé kockázatosak, mert sürgősségi ellátásban részesültek. Ha egyszerűen elbocsátják őket, az elkerülte volna az ilyen gondoskodást, és az eredmények "katasztrofálisak" lettek volna - jelenti ki Narayan és Kapoor.
Ez a fajta összefüggés az ok-okozati összefüggés helyett az, ami rendkívüli mértékben az optimálisnál alacsonyabb eredményekhez vezethet valós helyzetekben, összetett ok-okozati helyzetekkel.
Szintén kimaradnak a szerzők vitájából az együttműködő ügynökök. Ahogy a Hubspot műszaki igazgatója, Dharmesh Shah a ZDNET-nek a közelmúltban elmondta, az ügynöki mesterséges intelligencia jövőbeli munkáját nem egyetlen ügynök végzi majd, hanem valószínűleg az AI-ügynökök egymással együttműködő hálózatai.
Tekintettel ezekre a kihagyásokra, elég egyértelmű, hogy a kockázati tőkésítők kutatása ellenére is csak a felszínt kapargatták annak, hogy mit fognak elérni az egyre erősebb mesterségesintelligencia-ügynökök világában.