Hogyan működik az AI tartalomészlelés (és miért nem)

Lehet, hogy az AI-tartalom túl okos ahhoz, hogy észlelje.

Az AI tartalomészlelés nem mindig pontos! Az észlelőeszköz időnként megjelölheti az ember által írt tartalmat mesterséges intelligencia által generáltként. Íme, miért történik ez, és mit tehet ellene.

Hogyan működnek az AI-detektorok?

Mielőtt megértené, miért hibásodnak meg az AI-detektorok, tegyük le az alapot. Az AI tartalomészlelés a minták megtalálásáról szól.

Miért? Egyszerűen azért, mert amikor egy ember ír, véletlenszerű gondolatokat értelmes mondatokká kever. Nincs beállított minta. Egyes mondatok túl hosszúak lehetnek az olvasáshoz, mások pedig rövidek.

Ez pont az ellenkezője annak, ahogy egy MI gondolkodik és ír. Minimális a véletlenszerűség, és a szöveg nagyon strukturált. Előfordulhat gondolatok vagy szavak ismétlése is. És lehet, hogy maga a szavak kiválasztása túl robotikus ahhoz, hogy elolvassa.

Az AI tartalomdetektorok mindezt figyelembe veszik. Ilyen mintákat keresnek, hogy különbséget tegyenek az ember által írt és a mesterséges intelligencia által generált tartalom között.

Ehhez négy fogalom lép életbe.

Osztályozókat alkalmaznak

Az osztályozó egy olyan algoritmus, amely a szöveget különböző osztályokba sorolja olyan tényezők alapján, mint a használat, nyelvtan, stílus és hangnem.

Például egy nyájas hangú, rossz nyelvtani és ismétlődő írásstílusú szöveg nagyobb valószínűséggel kerül besorolásra a mesterséges intelligencia által generált kategóriába.

Beágyazást használnak

Az AI-tartalomészlelésben a beágyazások a szavak és azok egymáshoz való viszonyának numerikus megjelenítése. A nagy dimenziós térben lévő vektorokként fejezik ki őket, mindegyik egyedi kóddal.

Ezek a kódok segítenek a számítógépeknek megérteni, hogy az egyes szavak hogyan kapcsolódnak egymáshoz és használatuk kontextusához. Az alapul szolgáló gépi tanulási modellt folyamatosan képezik annak meghatározására, hogy mely kódok gyakoriak az AI által generált szövegeknél, és melyek nem.

A zavarodottságot nézik

A zavartság a szöveg olyan jellemzője, amely meghatározza az írás véletlenszerűségének mértékét. Az emberek nagyon zavartan írnak. AI nem.

Gondoljon például ennek a mondatnak a lehetséges végére: "Tegnap elmentem megnézni az Oppenheimertet, és _____."

Ha valami elvárt kérdésre válaszolt, mint például: „látványos”, „kiemelkedő”, „figyelemre méltó”, „lenyűgöző” vagy „lenyűgöző”, akkor elnézést, de lehet, hogy robot vagy. Viszont jó ízlésed van a filmekhez!

A vicceket eltekintve az ember nagyobb valószínűséggel fejezi be a mondatot valami társalgási vagy személyes tapasztalaton alapulóval. Valami olyasmi, hogy „teljesen őrült” vagy „nem az, amire számítottam”. Hiszen az ember várhat valamit egy filmtől. Az AI nyilvánvalóan nem tud. Ha ezt állítja, a mögöttes nyelvi modell valószínűleg hallucináló (helyben állít elő tényszerű bizonyítékok nélkül), vagy hiányzik a védőkorlát (kimeneti strukturálás és minőség-ellenőrzés).

Ellenőrzik a repedést

Már beszéltünk arról, hogy az emberek kiszámíthatatlanul írnak. És hogy egyes mondatok milyen hosszúak, mások pedig rövidek. A repedés egy másik szövegjellemző, amely ezt meghatározza.

A mesterséges intelligencia által írt szöveg általában hasonló hosszúságú és szerkezetű mondatokból áll (alacsony burstness). Íme egy példa a ChatGPT által generált szövegre. Figyeljük meg mindkét mondat monoton szerkezetét és összehasonlítható hosszát:

"A szövegkitörés, más néven szórobbanás vagy szókitörés, a természetes nyelvi feldolgozás és szövegelemzés olyan fogalom, amely a szavak vagy kifejezések nem egyenletes eloszlására utal egy adott szövegben vagy dokumentumban. Más szóval a jelenséget írja le. ahol bizonyos szavak vagy kifejezések gyakrabban jelennek meg egy adott kontextusban vagy dokumentumban, mint az elvárható lenne egy véletlenszerű vagy egyenletes eloszlás alapján."

Az emberi szöveg ennek az ellenkezője (mint ez a cikk). A hosszú és rövid mondatok egészséges keverékét tartalmazza, épp elég kreativitással, hogy megtörje a mintákat. És elkerüli az unalmas szerkezeteket (nagy repedés).

Az AI-detektorok e négy fogalom kombinációját használják a mesterséges intelligencia által írt tartalom észlelésére. Tehát a tudomány ott van. De hangos?

Pontos-e az AI észlelése?

Sajnos az AI észlelése nem 100%-ban pontos. Egyébként még nem. Ez csak egy valószínűségi játék.

Ez az oka annak, hogy bármilyen tartalom AI-detektoron keresztüli futtatása megbízhatósági szintet ad vissza, soha nem pontossági szintet. Például, ha az AI-detektor 70%-ot ad, az azt jelenti, hogy 70%-ban biztos abban, hogy a tartalom mesterséges intelligencia által generált, és 30%-ban biztos abban, hogy ember által írt.

Most képzeld el ezt. Mutatok tíz csokoládét, és azt mondom, hét sötét, három fehér. Most arra kérlek, válassz egyet véletlenszerűen, és mondd el, milyen ízt kaptál anélkül, hogy kinyitnád a csomagolást. Tudsz erre válaszolni? Természetesen nem! Maga az előfeltevés kudarcra késztet. És pontosan ez történik az AI-detektorokkal. Mivel csak a bizalomszintek és a valószínűségek visszaesnek, előbb-utóbb tévednek.

Miért nem működnek az AI tartalomérzékelők?

Számos oka van annak, hogy az AI-tartalom észlelése egyre nehezebbé válik.

1. A mesterséges intelligencia tartalomgenerátorai felülmúlják őket: az olyan modellek, mint a ChatGPT 4 (és még az ingyenes verzió is), egyre jobban képesek emberszerű tartalmat írni. Pontosan a megfelelő osztályozókat, beágyazásokat, zavarodottságot és robbanásszerűséget használják. Őrült mennyiségű ember által generált tartalmat elemeztek, hogy megtalálják az édes pontot a helyes nyelvtanhasználat és a szókincsválasztás között.
2. Az AI-észlelőeszköz egyszerűen nem elég jó: Csakúgy, mint a mesterséges intelligencia-generátorok, még az AI-detektorokat is meg kell tanítani hatalmas mennyiségű adatra. Ellenkező esetben nem tudják pontosan osztályozni az emberi és a mesterséges intelligencia által generált tartalmakat.
3. A torzítás gyakran beférkőzik a betanítási adatokba: Ha egy mesterséges intelligencia szisztematikusan helytelen döntéseket hoz bizonyos felhasználási esetekben, ezt torzításnak nevezik. És ez komoly probléma. Azért léteznek, mert minden edzési adat embertől származik. Az embereknek vannak előítéletei, még akkor is, ha nincsenek tisztában velük.
4. Az új AI tartalomgenerálási stratégiák tovább rontják a helyzetet: a mesterséges intelligencia profi írói és bloggerei folyamatosan új stratégiákat fejlesztenek ki az AI-detektorok becsapására. Például konkrét felszólításokat találtak ki arra, hogy a ChatGPT olyan tartalmat írjon, amely valószínűleg észrevétlen marad. Még egy dedikált bővítmény is létezik a ChatGPT szöveg humanizálására!

Mit tehetsz ellene?

A legjobb megoldás az, ha megtanulod, hogyan fedezd fel a mesterséges intelligencia tartalmat.

Könnyű? Nem igazán. De mindenképpen lehetséges. Némi gyakorlással megtaníthatja a szemét a következőkre:

• Ismétlődő szavak és kifejezések, különösen a lehetséges célkulcsszavakra összpontosítva. Még a szerkezet is túl egységesnek tűnhet. Például: "Szeretem a macskákat, mert a macskák aranyosak. A macskáknak puha bundájuk van és meleg dorombol. El sem tudom képzelni az életem macskák nélkül."
• Általános és robotos hangnem nullától a minimálisig terjedő kreativitással. Például: "Üdvözöljük weboldalunkon. Termékek és szolgáltatások széles skáláját kínáljuk. Ügyfeleink igényeit kielégítjük. Csapatunk keményen dolgozik azért, hogy a legjobb minőséget és elégedettséget biztosítsa ügyfeleinknek."
• A kulcsötletek felszíni mélysége valódi betekintés vagy valós tapasztalatokon alapuló gyakorlati tanulás nélkül. Például: "Mindig pozitívnak kell maradnia, és soha nem szabad feladnia. A pozitivitás sikert és boldogságot hoz az életben. Ez egy jó szokás."
• Ténybeli hibák és elavult információk. A mesterséges intelligencia tartalomgenerátorairól köztudott, hogy időnként "hallucinálnak", és minden valódi alap nélkül kitalálnak valamit a helyszínen. Például: "Egy friss, 2002-es tanulmány szerint a Föld lapos, és a Nap körülötte kering."
• Logikai következetlenségek és hibák, amelyeket egyszerűen kínos olvasni. Például: "John éppen az éjjel ebédelt, amikor megjött a reggeli posta."
• Általános élettelenség érzése a tartalomban.

Az AI-generátorok jövője vs. Az AI-detektorok valóban kiszámíthatatlanok. Nem lehet tudni, hogy végül ki nyeri a versenyt. Egyelőre az a legjobb, ha a manuális utat választja, és ezen intuitív készség fejlesztésén dolgozik.