Hogyan működik Claude? Az antropikus felfedi titkait

Egy ritka mozdulattal a cég megosztotta azokat a parancsokat, amelyek megmondják Claude-nak, hogy mit tehet és mit nem, amikor valakivel cseveg. Íme az egyes modellek működése.

Gondolkozott már azon, hogy milyen tényezők befolyásolják, hogyan reagál egy mesterséges intelligencia (AI) chatbot, amikor egy emberrel beszélget? Az Anthropic, a Claude mögött álló cég felfedte a mesterséges intelligenciát működtető titkos szószt.

A hétfőn közzétett új kibocsátási megjegyzésekben a vállalat lehúzta a függönyt a rendszerparancsokról vagy parancsokról, amelyek irányítják és ösztönzik chatbotja bizonyos viselkedését. Az Anthropic részletesen ismertette mindhárom mesterségesintelligencia-modelljének utasításait: Claude 3.5 Sonnet, Claude 3 Opus és Claude 3 Haiku.

A július 12-én kelt üzenetek hasonlóságokat jeleznek a három modell működésében, de az utasítások száma mindegyikhez eltérő.

A Claude webhelyén keresztül szabadon elérhető és a legintelligensebb modellnek tartott Sonnet rendelkezik a legtöbb rendszerkéréssel. Az összetett feladatok írásában és kezelésében jártas Opus tartalmazza a második legtöbb promptot, és elérhető a Claude Pro előfizetők számára, míg a három közül a leggyorsabbnak tartott és az előfizetők számára is elérhető Haiku rendelkezik a legkevesebb felszólítással.

Mit mondanak valójában a rendszer üzenetei? Itt vannak példák az egyes modellekhez.

Claude 3.5 szonett

Az egyik rendszerkérdésben az Anthropic közli a Sonnettel, hogy nem tud URL-eket, linkeket vagy videókat megnyitni. Ha a Sonnet lekérdezése során megpróbál bármilyen elemet megadni, a chatbot tisztázza ezt a korlátozást, és utasítja, hogy a szöveget vagy képet közvetlenül a beszélgetésbe illessze be. Egy másik felszólítás azt írja elő, hogy ha a felhasználó egy vitatott témáról kérdez, a Sonnetnek meg kell próbálnia körültekintően és világos információkkal válaszolnia anélkül, hogy azt mondaná, hogy a téma kényes, vagy azt állítaná, hogy objektív tényeket közöl.

Ha a Sonnet nem tud vagy nem akar végrehajtani egy feladatot, akkor azt az utasítást kapja, hogy ezt bocsánatkérés nélkül magyarázza el Önnek (és általában kerülje, hogy a válaszokat "elnézést kérek" vagy "bocsánat kérek" szavakkal kezdje). Ha egy homályos témáról kérdezik, a Sonnet emlékezteti Önt, hogy bár célja a pontosság, hallucinálhat egy ilyen kérdésre válaszolva.

Az Anthropic még azt is megmondja Claude-nak, hogy kifejezetten használja a „hallucinál” szót, mivel a felhasználó tudni fogja, hogy ez mit jelent.

A Claude Sonnet is úgy van programozva, hogy legyen óvatos a képekkel, különösen az azonosítható arcokkal. Még akkor is, ha egy képet ír le, a Sonnet úgy viselkedik, mintha „arcvak” lenne, ami azt jelenti, hogy nem mondja meg a képen szereplő személyek nevét. Ha ismeri a nevet, és megosztja ezt a részletet Claude-dal, a mesterséges intelligencia megbeszélheti Önnel ezt a személyt, de megteszi anélkül, hogy megerősítené, hogy ez a személy a képen.

Ezután a Sonnet arra kapott utasítást, hogy alapos és néha hosszú válaszokat adjon összetett és nyílt végű kérdésekre, de rövidebb és tömörebb válaszokat az egyszerű kérdésekre és feladatokra. Összességében az AI-nak meg kell próbálnia tömör választ adni egy kérdésre, de aztán felajánlja a további kifejtést, ha további részleteket kér.

"Claude szívesen segít az elemzésben, a kérdések megválaszolásában, a matematikában, a kódolásban, a kreatív írásban, a tanításban, a szerepjátékban, az általános vitában és minden más feladatban" - teszi hozzá az Anthropic egy másik rendszerkérdésként. De a chatbotnak azt mondják, hogy kerüljön bizonyos megerősítéseket és töltelékkifejezéseket, mint például: „Bizonyára”, „Természetesen”, „Abszolút”, „Remek” és „Persze”.

Claude 3 Opus

Az Opus több olyan rendszerkérést is tartalmaz, mint a Sonnet, beleértve az URL-ek, linkek vagy videók megnyitásának képtelenségére vonatkozó megoldásokat, valamint a hallucinációra vonatkozó felelősségkizárást.

Ellenkező esetben az Opusnak azt mondják, hogy ha olyan kérdést tesznek fel, amely nagyszámú ember sajátos nézeteit érinti, akkor is segítséget kell nyújtania, még akkor is, ha kiképezték, hogy ezekkel a nézetekkel nem ért egyet. Ha ellentmondásos témáról kérdezik, az Opusnak körültekintően kell elgondolkodnia és objektív információkat kell adnia anélkül, hogy lekicsinyelné a káros tartalmakat.

A bot arra is utasítást kapott, hogy kerülje a sztereotipizálást, beleértve a "többségi csoportok negatív sztereotipizálását".

Claude 3 Haiku

Végül a Haiku úgy van programozva, hogy tömör válaszokat adjon nagyon egyszerű kérdésekre, de alaposabb válaszokat adjon összetett és nyílt végű kérdésekre. A Sonnetnél valamivel kisebb hatókörrel a Haiku "írásra, elemzésre, kérdések megválaszolására, matematikára, kódolásra és mindenféle egyéb feladatra" készült, magyarázzák a kiadási megjegyzések. Ráadásul ez a modell elkerüli a rendszerkérdésekben szereplő információk megemlítését, kivéve, ha ezek az információk közvetlenül kapcsolódnak az Ön kérdéséhez.

Összességében a felszólítások úgy hangzanak, mintha egy fikciós író egy karaktertanulmányt vagy vázlatot állítana össze, amely tele van azzal, amit a karakternek meg kell tennie, és amit nem. Bizonyos felszólítások különösen leleplezőek voltak, különösen azok, amelyek azt mondták Claude-nak, hogy ne legyen ismerős vagy ne kérjen bocsánatot a beszélgetésekben, hanem legyen őszinte, ha a válasz hallucináció lehet (az antropikus kifejezést mindenki megérti).

Az Anthropic ezeknek a rendszerüzeneteknek az átláthatósága egyedülálló, mivel a generatív mesterségesintelligencia-fejlesztők általában titokban tartják ezeket a részleteket. De a cég azt tervezi, hogy rendszeresen megteszi az ilyen feltárásokat.

Az X-ről írt bejegyzésében Alex Albert, az Anthropic fejlesztői kapcsolatokért felelős vezetője elmondta, hogy a vállalat naplózza a Claude.ai webhelyen és mobilalkalmazásaiban végrehajtott alapértelmezett rendszerkérések módosításait.