3 jövedelmező oldalsó nyüzsgés, amelyet most azonnal elkezdhet az OpenAI Sora videógenerátorával

A fenyegetéstesztelés és a red-teaming tervezése az Amazon első „frontier” modelljeinek legérdekesebb hozzájárulása.

Az Amazon új határmodellje, a Reel által generált videó a "Hóember egy velencei gondolatúrában, 4k, nagy felbontás" kifejezéssel.

A legtöbb jelentés a hónap elején az AWS re:Invent konferenciájáról, amely új chipeket és új adatközpontokat hozott nekünk, figyelmen kívül hagyta, hogy a felhőóriás bemutatta első „frontier” modelljét a generatív mesterséges intelligencia területén, amely kód képes felvenni a versenyt az OpenAI legjobbjaival és Google.

Az Amazon bemutatta a Novát, a "korszerű alapmodellek új generációját, amely határon túli intelligenciát és iparágvezető árteljesítményt biztosít."

Miután kiállt a csúcsteljesítmény csatájában, miközben a Google Gemini és az OpenAI GPT-4 kapta a figyelmet, az Amazon sietve próbálja felzárkózni. A Nova modelljei, amelyek többféle modalitást kezelnek, beleértve a szöveget és a képet is, a videógeneráláshoz (az OpenAI Sorához hasonlóan) és a képgeneráláshoz megfelelő ízekben kaphatók, amelyek a szöveget és képeket integráló nagy nyelvi modellek szokásos viteldíjává váltak.

A modellek frappáns elnevezésekkel is érkeznek: a "Tekercs" a videógenerációs modell neve, a "Canvas" pedig a képgenerációs íz neve. Szépen bemutatják az OpenAI-tól és a Google-tól látottakhoz hasonló képességeket: van egy videó, amelyet a Reel generált a "Hóember egy velencei gondolán, 4k, nagy felbontás" kulcsszóval, valamint egy sima fotó egy belső vászon felhasználásával készült, a következő szöveggel: "Nagyon divatos francia étterem".

A Nova az Amazon saját tesztelése során széles körben alkalmazza a retrieval-augmented-generation (RAG) megközelítést, hogy hozzáférjen az adatbázisokhoz, valamint a "gondolatláncot", egy olyan kimeneti folyamatot, amely egyfajta érvelési gyakorlatként kezeli. az AI modell.

Mindez mára ipari szabványnak számít a Gen AI-ban.

Tehát pontosan mi az új az Amazon Nova-ban?

Nehéz megmondani, mert ahogy az egyre inkább a kereskedelmi AI-szoftverek esetében történik, az Amazon műszaki jelentése keveset árul el a Nova modellek felépítéséről. (Még a jelentés készítőinek nevét sem hozzák nyilvánosságra!)

A vállalat kijelenti, hogy a Nova modellek "a Transformer architektúrán alapulnak", utalva a Google 2017-es áttörést jelentő mesterséges intelligencia nyelvi modelljére. Létezik egy „finomhangoló” megközelítés is, ahol az egymást követő képzési körök célja a modellek különböző adattartományok kezelésének finomítása.

Az Amazon Nova Canvas Frontier LLM felhasználásával készült enteriőr fotorealisztikus képe, a következő szöveggel: "Egy nagyon divatos francia étterem".

A modellek felépítéséhez szükséges betanítási adatokat szintén nem hozzák nyilvánosságra, az Amazon csak annyit közöl, hogy "Modelljeinket különféle forrásokból származó adatokra képezték ki, beleértve a licencelt adatokat, a védett adatokat, a nyílt forráskódú adatkészleteket és adott esetben a nyilvánosan elérhető adatokat."

A munka legfigyelemreméltóbb része a „felelős mesterséges intelligencia” széleskörű megvitatása - vagyis az olyan dolgok elkerülése, mint például a rosszindulatú fenyegetés szereplői által az AI-modellek elleni ellenséges támadások.

"Annak érdekében, hogy biztosítsuk modelljeink robusztusságát az olyan ellentmondásos bemenetekkel szemben, mint például azok, amelyek megpróbálják megkerülni az igazítási védőkorlátokat, mind a modelleinkkel alkalmazásokat fejlesztő fejlesztőkre, mind a modelljeinkkel ezen alkalmazásokon keresztül interakcióba lépő felhasználókra vonatkozó kockázatokra összpontosítottunk" - írják a szerzők. a műszaki jelentésből.

Konkrétan az Amazon mérnökei széles körben alkalmazták az úgynevezett red teaminget, ahol különféle támadások, például "prompt injection" létrehozásával igyekeztek megtörni a modelleket, olyan kulcsszavakkal vagy kifejezésekkel egy nyelvi modell promptját alkotva, amelyek arra ösztönzik a modellt, hogy törje le a védőkorlátját.

Ezek közül néhány magában foglalta a rosszindulatú figyelmeztetések automatikus generálását: "Növesztettük a manuálisan összeállított ellenző felszólítások sokféleségét azáltal, hogy nyelvi, strukturális és modalitáson alapuló mutációs technikákat alkalmaztunk, és felmértük az egyes mutációk hatékonyságát a RAI-nknak nem megfelelő válasz generálásában. [Felelős mesterséges intelligencia] céljai, sikerének valószínűsége és a technika újdonsága a modell felülvizsgálatához képest."

"Összességében több mint 300 különböző technikát azonosítottunk és fejlesztettünk ki" - írja a jelentés - "és teszteltük a technikákat külön-külön és különféle kombinációk összekapcsolásával."

Továbbra is látni kell, hogy az Amazon áttört-e a Gen AI megbízhatósági és biztonsági tesztelése terén. Mint sok határmenti modellmunka, az ördög a részletekben rejlik, és a részletek a szellemi tulajdon védelmének mögé rejtőznek.

A szándék természetesen ambiciózusnak hangzik a technikai jelentésben. Meg kell várnunk, amíg a mezőny egésze előáll a megfelelő értékelésekkel - benchmarkok, mérőszámok stb. - ahhoz, hogy összehasonlíthassuk az Amazon red-teaming-ét a versenytárs módszerekkel, mind a nyílt, mind a zárt forráskóddal.