A Google DataGemma az első nagyszabású Gen AI RAG-val - miért számít

A Google Data Commons az alapja a generatív mesterséges intelligencia információkkal való ellátásának.

Az egyre népszerűbb generatív mesterséges intelligencia technika, az úgynevezett retrieval-augmented generation - vagy röviden RAG - a vállalatok kisállat-projektje volt, de most a mesterséges intelligencia fő színpadára kerül.

A Google a múlt héten mutatta be a DataGemma-t, amely a Google Gemma nyílt forráskódú nagy nyelvi modelljei (LLM) és a nyilvánosan elérhető adatokra vonatkozó Data Commons projektje kombinációja. A DataGemma RAG-megközelítéseket használ az adatok lekérésére, mielőtt választ adna egy lekérdezésre.

Az előfeltétel a generatív mesterséges intelligencia megalapozása, a „hallucinációk” megelőzése - mondja a Google -, „a Data Commons tudásának felhasználásával az LLM tényszerűségének és érvelésének javítására”.

Míg a RAG egyre népszerűbbé válik a vállalkozások számára, hogy az LLM-eket saját tulajdonú vállalati adataikba építsék be, a Data Commons használata a RAG első megvalósítása a felhőalapú Gen AI léptékében.

A Data Commons egy nyílt forráskódú fejlesztői keretrendszer, amely lehetővé teszi nyilvánosan elérhető adatbázisok létrehozását. Emellett tényleges adatokat gyűjt olyan intézményektől, mint például az Egyesült Nemzetek Szervezete, amelyek adataikat a nyilvánosság számára hozzáférhetővé tették.

A Google megjegyzi, hogy a kettő összekapcsolásakor „két különböző megközelítést alkalmaz”.

Az első megközelítés a Data Commons nyilvánosan elérhető statisztikai adatainak felhasználása a promptba beírt konkrét kérdések tényeinek ellenőrzésére, mint például: "Növekedett-e a megújuló energia felhasználása a világon?" A Google Gemma a felszólításra konkrét statisztikákra hivatkozó kijelentéssel válaszol. A Google ezt "retrieval-interleaved generációnak" vagy RIG-nek nevezi.

A második megközelítésben a teljes körű RAG-t használják az adatforrások idézésére, „és átfogóbb és informatívabb kimenetek lehetővé tételére” - állítja a Google. A Gemma AI modell a Google zárt forráskódú modelljének, a Gemini 1.5-nek a "hosszú kontextusú ablakára" támaszkodik. A kontextusablak a tokenekben - általában szavakban - bevitt mennyiséget képviseli, amelyet az AI-modell az ideiglenes memóriában tárolhat, hogy cselekedjen.

A Gemini a Gemini 1.5-öt 128 000 tokenből álló kontextusablakban hirdeti, bár verziói akár egymillió tokennel is képesek zsonglőrködni a bemenetről. A nagyobb kontextusablak azt jelenti, hogy a Data Commonsból lekért adat több adatot tárolhat a memóriában, és a modell áttekintheti a lekérdezésre adott válasz elkészítésekor.

"A DataGemma lekéri a releváns kontextuális információkat a Data Commons-tól, mielőtt a modell válaszgenerálást kezdeményezne" - állítja a Google. "Ezáltal minimálisra csökkenti a hallucinációk kockázatát és javítja a válaszok pontosságát."

A kutatás még fejlesztés alatt áll; a részletekbe beleáshat Prashanth Radhakrishnan Google-kutató és munkatársai hivatalos kutatási dokumentumába.

A Google szerint további tesztelésre és fejlesztésre van szükség ahhoz, hogy a DataGemma nyilvánosan elérhető legyen a Gemini és a Google zárt forráskódú modelljében, a Geminiben.

A Google, a RIG és a RAG már most is azt állítja, hogy a kimenet minőségének javulását eredményezte, így "a felhasználók kevesebb hallucinációt tapasztalnak a kutatás, a döntéshozatal vagy egyszerűen a kíváncsiság kielégítése során".

A DataGemma a legújabb példa arra, hogy a Google és más domináns AI-cégek olyan dolgokkal építik ki kínálatukat, amelyek túlmutatnak az LLM-eken.

Az OpenAI a múlt héten mutatta be belső kódnevű, "Strawberry" projektjét, amely két olyan modell, amely a "gondolatláncnak" nevezett gépi tanulási technikát alkalmazza, ahol az AI-modell arra irányul, hogy nyilatkozatokban fejtse ki azokat a tényezőket, amelyek egy adott előrejelzéshez hozzájárulnak. készítése.