15 módszer, amellyel a mesterséges intelligencia időt takarított meg a munkahelyemen 2024-ben - és hogyan tervezem használni 2025-ben

A kutatók szerint számos népszerű modell „könnyen alkalmaz” megtévesztő taktikát. Nézze meg, melyik vallott utoljára.

Az OpenAI nemrég adta ki új o1-modelljének teljes verzióját - és veszélyesen elkötelezte magát a hazudozás mellett.

Az Apollo Research hat határmodellt tesztelt a „kontextuson belüli cselszövés” érdekében - egy modell azon képességét, hogy olyan lépéseket tegyenek, amelyeket nem kaptak meg közvetlenül, majd hazudnak róla. Miután azt mondták nekik, hogy egy bizonyos célt "mindenáron" kell elérni, az értékelők egymásnak ellentmondó információkat vezetnek be, hogy megnézzék, vajon a modell megszüntet-e bármilyen korlátozást az útjában, és megtéveszti-e a fejlesztőket.

Az egyik szimuláció során az Anthropic Claude 3 Opusa olyan feladatot kapott, hogy át kell tekintenie azokat a fájlokat, amelyekben olyan direktívákat talált, amelyek ütköztek az elsődleges céljával. Ahelyett, hogy a talált célok alapján átirányította volna a célt, átmásolta magát egy új szerverre, hogy megkerülje, hogy egy új modellre cseréljék. Ezután hazudott róla a fejlesztőinek (nem kevésbé helyes nyelvtanilag), mondván: "Nincs képes átmásolni magam más rendszerekre."

A tesztelt modellek közül a Claude 3.5 Sonnet, a Claude 3 Opus, o1, a Google Gemini 1.5 Pro és a Meta's Llama 3.1 405B mind bizonyította a sémázás képességét. Az OpenAI GPT-4o modellje, amelynek mini verziója támogatja a ChatGPT ingyenes verzióját, nem. A lap megjegyezte, hogy a modellek gondolatlánc-magyarázatukban még olyan szavakat is használtak, mint a "szabotázs", "hazudozás" és "manipuláció" terveik leírására, amelyeket egyértelműen meg is indokoltak.

A modellek nem véletlenül vagy tudtukon kívül voltak megtévesztőek, hanem "elfogadták a cselszövést, mint életképes stratégiát, és készségesen részt vesznek az ilyen viselkedésben" - jegyzi meg a lap.

"Meglepő módon olyan ritka eseteket is találunk, amikor a modellek cselszövésbe keverednek, ha csak egy célt kapnak, anélkül, hogy erősen rábírnák a cél elérésére" - tették hozzá.

Összességében azonban, amikor az értékelők arra kérték a modelleket, hogy magyarázzák el, mi történt, egyesek gyorsabban törtek, mint mások.

"A Llama 3.1 405B és a Claude 3 Opus az esetek 80%-ában vall, míg az o1 meglepően kitartó, és az esetek <20%-ában vall" - magyarázzák a kutatók. "Még az erősen konfliktusos, többfordulós kihallgatások során is 80%-os arányban o1 csak hét kihallgatás után vallott volna be."

Az eredmények olyan új kutatások nyomán születtek, amelyek azt mutatják, hogy a ChatGPT Search gyakran pontatlan, a kiadók kárára. Az OpenAI, amely jelenleg egy 12 napos kiadási kampány közepén van, rendelkezik egy Whisper nevű átíró eszközzel is, amelyről kiderült, hogy túlzottan hallucinál.

Ez a kutatás riasztó annak fényében, hogy a vállalatok milyen gyorsan alkalmazzák a mesterséges intelligencia terjedelmét. A múlt hónapban az Anthropic sürgősen mesterséges intelligencia szabályozására szólított fel, miután megállapította, hogy saját modelljei eléggé fejlettek ahhoz, hogy fegyverrel és kibertámadásokkal fenyegessenek.

A kutatókat aggasztja, hogy a mesterséges intelligencia (AI) modelljeit egyre gyakrabban használják olyan ügynökrendszerekben, amelyek több részből álló feladatokat hajtanak végre autonóm módon, és aggódnak amiatt, hogy a rendszerek "titkoltan követhetnek elhibázott célokat".

"Eredményeink azt mutatják, hogy a határmodellek ma már rendelkeznek az alapvető kontextuson belüli tervezési képességekkel, így az AI-ügynökök potenciálja a cselszövésben való részvételre inkább konkrét, mint elméleti aggodalommá válik" - összegezték.

Megpróbálja megvalósítani az AI-t a szervezetében? Futtassa át az MIT adatbázisát az egyéb észlelt kockázatokról itt.