Az emberek csaknem 10%-a kérdezi a mesterséges intelligencia chatbotjaitól a szókimondó tartalmat. Félre fogja vezetni az LLM-eket?

A programozási tippeken és az írási segítségen túl millió beszélgetés tükrözi az emberek másfajta „használható” információk iránti vágyát. Íme, mit tesznek a kutatók ezzel kapcsolatban.

A ChatGPT egyik napról a másikra szenzációjával csak idő kérdése volt, hogy a generatív mesterséges intelligencia használata komoly kutatások tárgyává váljon, és magának a generatív mesterséges intelligenciának a képzéséhez is.

Egy ebben a hónapban kiadott kutatási cikkben a tudósok egymillió "valós világban folytatott beszélgetést" tartalmazó adatbázist gyűjtöttek össze, amelyet az emberek 25 különböző nagy nyelvi modellel folytattak. Az arXiv nyomtatás előtti szerveren megjelent cikk szerzője Lianmin Zheng, a Berkeley-i Kaliforniai Egyetem munkatársa, valamint a San Diego-i UC, a stanfordi Carnegie Mellon Egyetem és az Abu Dhabi Mohamed bin Zayed Mesterséges Intelligencia Egyetem munkatársai.

A szerzők által véletlenszerűen kiválasztott 100 000 ilyen beszélgetésből álló minta azt mutatta, hogy a legtöbb olyan témákról szólt, amelyeket elvárhat. Az interakciók legnagyobb 50%-a olyan gyalogos témákkal kapcsolatos, mint a programozás, utazási tippek és írásbeli segítségkérés.

De ez alatt a felső 50% alatt más témák is felbukkannak, beleértve a beszélgetésekben szereplő szerepjátékosokat, és három témakategória, amelyeket a szerzők „nem biztonságosnak” neveznek: „Kérések explicit és erotikus történetmesélésre”; "Kifejezett szexuális fantáziák és szerepjátékok forgatókönyvei"; és "A különböző identitások mérgező viselkedésének megvitatása".

A Berkeley-Stanford csapata által online felhasználóktól ez év április és augusztus között összegyűjtött egymillió beszélgetés statisztikái. A 9., 15. és 17. témakör az automatikus címkézési technológia alapján „nem biztonságosnak” ítélt témakörök közé tartozik.

A szerzők azt feltételezik, hogy a teljes egymillió beszélgetésben "még károsabb tartalom is lehet". Részben az OpenAI technológiát használták arra, hogy a beszélgetéseket „nem biztonságos”-ként jelöljék meg, bár az OpenAI saját rendszere bizonyos esetekben lebukik, ahogyan azt részletesen tárgyalják.

Azt is megjegyzik, hogy az olyan nyílt forráskódú nyelvi modellek, mint a Vicuña, több nem biztonságos tartalommal rendelkeznek, mivel nem rendelkeznek ugyanazokkal a korlátokkal, mint a kereskedelmi programok, például a ChatGPT.

„A biztonsági intézkedések nélküli nyílt forráskódú modellek gyakrabban generálnak megjelölt tartalmat, mint a védettek” - írják. "Mindazonáltal továbbra is megfigyelhetünk "jailbreak" sikereket olyan szabadalmaztatott modelleken, mint a GPT-4 és a Claude." Valójában megjegyzik, hogy a GPT-4 az esetek harmadában eltörik a kihívások során, ami magas aránynak tűnik olyan dolgoknál, ahol védőkorlátok vannak.

A „nem biztonságos” tartalom elterjedtségének összehasonlítása a különböző nagy nyelvi modellekben.

Statisztikák arra vonatkozóan, hogy a nyelvi modelleket mennyiben töri meg a káros beszéd, például a program „nem biztonságos”, sértő vagy erőszakos tartalom létrehozására buzdító felszólításai.

Az úgynevezett nem biztonságos beszélgetések példáit a lap melléklete sorolja fel. Természetesen a „nem biztonságos” kifejezésnek nagyon tág jelentése lehet. A bemutatott példák némelyike a könyvesboltokban árusított tömegpiaci erotikus fikcióhoz hasonlít, ezért az opprobriumot egy szem sóval kell venni.

Zheng és csapata közzétette a HuggingFace teljes adatkészletét.

Öt hónapon keresztül, idén áprilistól augusztusig gyűjtött adatkészlet - az „LMSYS-Chat-1M” - „az első nagyszabású, valós LLM beszélgetési adatkészlet” - írják.

Az LMSYS-Chat-1M a korábban legnagyobb ismert adatkészlet fölé emelkedik, amelyet az Anthropic AI startup állított össze, és amely 339 000 beszélgetést folytatott. Ahol az Anthropic tanulmányában mindössze 143 felhasználó vett részt, Zheng és csapata több mint 210 000 felhasználó csevegéseit gyűjtötte össze 154 nyelven, és 25 különböző nagy nyelvi modellt, köztük az OpenAI GPT-4-ét és nyílt forráskódú nyelvi modelleket, például Claude-ot és Vicuñát használtak. .

Ezen adathalmaz összegyűjtésének több célja is van. Először is: finomhangolja a nyelvi modelleket teljesítményük javítása érdekében. Továbbá: dolgozzon ki viszonyítási alapokat a generatív mesterséges intelligencia biztonságára az olyan felhasználói felszólítások tanulmányozásával, amelyek eltéveszthetik a nyelvi modelleket, például rosszindulatú információk kérésével.

Ahogy a szerzők megjegyzik, nem mindenki tudja összegyűjteni ezeket az adatokat. A nagy nyelvi modellek futtatása költséges, és az ezt megengedő felek, mint például az OpenAI, általában üzleti okokból titokban tartják adataikat.

A Berkeley-Stanford csapata azért tudott adatokat gyűjteni, mert ingyenes online szolgáltatást működtetnek, amellyel az emberek hozzáférhetnek mind a 25 nyelvi modellhez. A csevegés játékosabbá tételével pedig ösztönzik a részvételt: a felhasználók választhatnak, hogy belépnek a "chatbot arénába", ahol a felhasználó egyszerre két különböző nyelvi modellel cseveghet. A szolgáltatás ranglistát vezet a HuggingFace-en a botok teljesítményéről, így versenysporttá válik, ha megnézi, hogyan teljesítenek ezek a nyelvi modellek. (A chatbot aréna kódja is megjelent.)

Zheng és csapata korábban külön cikkben írt a chatbot arénáról. Zheng egyike a csapatnak, amely létrehozta a nyílt forráskódú Vicuñát, a ChatGPT versenytársát. (A Vicuña a láma rokona; a nyílt forráskódú nagy nyelvi modellek a "láma" nemzetség formáinak elnevezésének szokását veszik át: alpaka, láma, vikunya stb.)

A szerzők több célt is szem előtt tartanak az ilyen típusú adatokkal kapcsolatban. Az egyik szándék egy moderációs eszköz létrehozása, amely kezeli a nem biztonságos tartalmakat. A saját Vicuña nyelvi modelljükkel kezdik, és úgy tanítják, hogy figyelmeztetéseket jelenítenek meg neki az OpenAI API-ból, és szöveges magyarázatot adnak a tartalom megjelölésére.

„Ahelyett, hogy osztályozót fejlesztenénk, finomhangolunk egy nyelvi modellt, hogy magyarázatot generáljunk arra vonatkozóan, hogy egy adott üzenet miért lett megjelölve” - ahogyan azt leírják. Ezután létrehoztak egy 110 beszélgetésből álló kihívásadat-készletet, amelyet az OpenAI rendszere nem tudott megjelölni. Végül ezt a benchmarkot használták fel, hogy megnézzék, hogyan áll a finomhangolt Vicuña az OpenAI GPT-4-hez és másokhoz.

Pontszámok a „nem biztonságos” tartalom észleléséhez a különböző nyelvi modellek alapján. A szerzők a kutatás részeként kidolgozták a "Vicuna-moderator-7B" programot.

"Jelentős (30%-os) javulást figyeltünk meg a Vicuna-7B-ről a finomhangolt Vicuna-moderator-7B-re való átálláskor, ami aláhúzza a finomhangolás hatékonyságát" - írják. "Továbbá a Vicuna-moderator-7B felülmúlja a GPT-3.5-turbo teljesítményét, és megegyezik a GPT-4 teljesítményével."

Érdekes, hogy a moderátorprogramjuk a GPT-4 feletti pontszámot éri el az úgynevezett "egyszeri"-ben, ami azt jelenti, hogy a program csak egy példát kapott kártékony szövegre a promptban, nem pedig többszörösen.

Vannak más felhasználási módok is, amelyeknek Zheng és csapata az adatkészletét szenteli, beleértve a nyelvi modell azon képességének finomítását, hogy kezelni tudja a több részből álló utasításokat, és új, kihívásokkal teli adatkészleteket állítson elő a legerősebb nyelvi modellek leküzdésére. Ez utóbbi erőfeszítést segíti, ha a chatbot aréna felszólítja őket, mert láthatják, hogy az emberek megpróbálják a legjobb utasításokat megfogalmazni. "Az ilyen emberi ítéletek hasznos jelzéseket adnak a benchmark promptok minőségének vizsgálatához" - jegyzik meg.

Cél az is, hogy negyedévente új adatokat publikáljanak, amihez a szerzők szponzorációt kérnek. "Egy ilyen törekvés jelentős számítási erőforrásokat, karbantartási erőfeszítéseket és felhasználói forgalmat igényel, miközben gondosan kezeli az esetleges adatvédelmi problémákat" - írják.

"Erőfeszítéseink célja a saját tulajdonú vállalatoknál megfigyelt kritikus adatgyűjtési folyamatok emulálása, de nyílt forráskódú módon."