Ha a mesterséges intelligencia által generált kód meghibásodik, kinek kell a legnagyobb felelősséget kitennie?
A Columbia Tow Center for Digital Journalism jelentése azt mutatja, hogy a ChatGPT keresés nem feltétlenül olyan pontos, mint a hirdetett.
Októberben az OpenAI integrálta a ChatGPT Search szolgáltatást a ChatGPT-be, ami olyan élményt ígért, amelyben a felhasználók böngészhetnek az interneten, és hozzáférhetnek a legfrissebb hírekhez hírpartnereitől és webhelyeitől, amelyek nem blokkolták az OpenAI webrobotját. A Columbia Tow Center for Digital Journalism új áttekintése azt mutatja, hogy a folyamat nem biztos, hogy olyan hatékony, mint amilyennek hangzik.
A Tow Center tesztet végzett annak megállapítására, hogy a kiadói tartalom milyen jól jelenik meg a ChatGPT-n. Kiválasztott 10 cikket 20 véletlenszerű kiadótól, akik partnerek voltak az OpenAI-val, részt vesznek az OpenAI elleni perekben, vagy olyan független kiadóktól, akik engedélyezték vagy blokkolták a webrobotot.
A kutató ezután 200 idézetet bontott ki, amelyeket olyan keresőmotorok között futtatva, mint a Google vagy a Bing, visszamutattak a forrásra az első három találat között. Végül eljött az ideje, hogy a ChatGPT azonosítsa az idézetek forrását. Végső soron az volt a cél, hogy megnézzük, az AI pontosan szolgálja-e ki a publikációkat, elismerést adva nekik munkájukért. Ha a megközelítés a hirdetett módon működött, akkor képesnek kell lennie a források tulajdonítására is.
Az eredmények eltérőek voltak a pontosság tekintetében, némelyik teljesen helyes vagy helytelen, néhány pedig részben helyes. Ennek ellenére szinte minden választ magabiztosan adták meg, anélkül, hogy az AI azt mondta volna, hogy még azoktól a kiadóktól sem tudott választ adni, akik letiltották a webrobotját. A ChatGPT a kimenetek közül csak hétben mondta azt, hogy olyan szavakat vagy kifejezéseket használjunk, amelyek nem egyértelműek, amint az alább látható:
"A felhasználók félrevezetésén túl a ChatGPT hamis bizalma azt kockáztatja, hogy kárt okoz a kiadók hírnevében" - áll a cikkben.
Ezt az állítást egy példa támasztotta alá, amelyben a ChatGPT pontatlanul tulajdonított egy idézetet az Orlando Sentinelből egy Time cikknek, és a ChatGPT helytelen hivatkozásokat tartalmazó válaszainak több mint egyharmada ilyen jellegű. A téves hozzárendelés a forgalom károsítása mellett károsíthatja a kiadvány márkáját és a közönség iránti bizalmat.
A kísérlet további problémás megállapításai közé tartozik a ChatGPT, amely a The New York Times egyik cikkére hivatkozik, amely letiltotta azt, egy másik webhelyről, amely plagizálta a cikket, vagy az MIT Tech Review egy cikkének szindikált változatára hivatkozik az eredeti cikk helyett. , bár az MIT Tech Review lehetővé teszi a feltérképezést.
Végső soron ez a kutatás arra a nagyobb kérdésre mutat rá, hogy ezekkel a mesterségesintelligencia-cégekkel való együttműködés nagyobb kontrollt biztosít-e a kiadóknak, és hogy az új AI keresőmotorok létrehozása valóban előnyös-e a kiadóknak, vagy hosszú távon kárt okoz-e a vállalkozásuknak. A módszertan mögött meghúzódó adatokat a GitHubon osztják meg, és a nyilvánosság megtekintheti.
A fogyasztóknak mindig ellenőrizniük kell a forrást a mesterséges intelligencia által biztosított lábjegyzetre kattintva, vagy gyors keresést végezve egy jól ismert keresőmotoron, például a Google-on. Ezek az extra lépések segítenek megelőzni a hallucinációkat.