Az OpenAI új eszköze képes észlelni saját DALL-E 3 AI képeit, de van egy fogás
Az eszköznek sikerült azonosítania a DALL-E 3 generátora által létrehozott képek 98%-át, azonban ez a százalék csökkent, ha a képeket módosították.
A mesterséges intelligencia által generált képekkel elhitetheti, hogy a hamis tartalom valódi. Mint ilyen, a ChatGPT fejlesztő OpenAI kifejlesztett egy olyan eszközt, amelynek célja megjósolni, hogy egy kép a saját DALL-E 3 képgenerátorával készült-e vagy sem. A képészlelési osztályozó sikeressége azonban attól függ, hogy a képet módosították-e, és hogyan.
Kedden az OpenAI hozzáférést adott a tesztelők első csoportjának új képfelismerő eszközéhez. A cél az, hogy független kutatókat vonjanak be, hogy mérlegeljék az eszköz hatékonyságát, elemezzék a valós világban való hasznosságát, meghatározzák, hogyan lehetne használni, és megvizsgálják azokat a tényezőket, amelyek meghatározzák az AI által generált tartalmat. Az érdeklődő kutatók a DALL-E Detection Classifier Access Program weboldalán kérhetik a hozzáférést.
Az OpenAI belsőleg tesztelte az eszközt, és az eddigi eredmények bizonyos szempontból ígéretesek, máshol csalódást keltőek. A DALL-E 3 által generált képek elemzésekor az eszköz az esetek 98%-ában helyesen azonosította azokat. Ezenkívül a nem DALL-E 3 által létrehozott képek elemzésekor az eszköz csak az esetek 0,5%-ában azonosította őket tévesen a DALL-E 3 által készített képekként.
Az OpenAI szerint a kép kisebb módosításainak sem volt hatása. A belső tesztelők képesek voltak a DALL-E 3 által létrehozott kép tömörítésére, kivágására és a telítettség változásainak alkalmazására, és az eszköz alacsonyabb, de még mindig viszonylag magas sikerességi arányt mutatott. Eddig jó.
Sajnos az eszköz nem járt olyan jól azokkal a képekkel, amelyek nagyobb változáson mentek keresztül. Blogbejegyzésében az OpenAI nem fedte fel a sikerességi arányt ezekben az esetekben, csak annyit mondott, hogy "egyéb módosítások azonban csökkenthetik a teljesítményt".
Sandhini Agarwal, az OpenAI kutatója elmondta a The Wall Street Journalnak, hogy az eszköz hatékonysága csökkent olyan körülmények között, mint például a kép színárnyalatának megváltoztatása (előfizetés szükséges). Az OpenAI azt reméli, hogy megoldja az ilyen típusú problémákat azáltal, hogy külső tesztelőknek hozzáférést biztosít az eszközhöz, tette hozzá Agarwal.
A belső tesztelés azt is megkérdőjelezte az eszközt, hogy elemezze a más cégek mesterséges intelligencia modelljeivel készített képeket. Ezekben az esetekben az OpenAI eszköze a képeknek csak 5-10%-át tudta azonosítani ezekből a külső modellekből. Az ilyen képek módosítása, például a színárnyalat megváltoztatása szintén a hatékonyság meredek csökkenéséhez vezetett, mondta Agarwal a Journalnak. Ez egy másik korlátozás, amelyet az OpenAI további teszteléssel kíván korrigálni.
Egy plusz az OpenAI észlelőeszközéhez - nem támaszkodik vízjelekre. Más cégek vízjeleket használnak annak jelzésére, hogy egy képet saját mesterségesintelligencia-eszközeik generálnak, de ezek meglehetősen könnyen eltávolíthatók, így hatástalanok.
A mesterséges intelligencia által generált képek különösen problematikusak a választások évében. Az ellenséges pártok országon belül és kívül egyaránt könnyen felhasználhatják ezeket a képeket arra, hogy politikai jelölteket vagy ügyeket negatív színben tüntessenek fel. Tekintettel az AI képgenerátorok folyamatos fejlődésére, egyre nagyobb kihívást jelent annak kiderítése, hogy mi a valódi és mi a hamis.
Ezt a fenyegetést szem előtt tartva az OpenAI és a Microsoft 2 millió dollár értékű Társadalmi Rugalmassági Alapot indított a MI oktatásának és műveltségének bővítésére a választók és a kiszolgáltatott közösségek körében. Tekintettel arra, hogy világszerte 2 milliárd ember már szavazott vagy fog szavazni idén a demokratikus választásokon, a cél annak biztosítása, hogy az egyének jobban tájékozódhassanak a digitális információkban, és megbízható forrásokat találjanak.
Az OpenAI azt is közölte, hogy csatlakozik a C2PA (Coalition for Content Provenance and Authenticity) Irányító Bizottságához. Annak bizonyítására, hogy a tartalom egy adott forrásból származik, a C2PA a szoftverszolgáltatók, fényképezőgép-gyártók és online platformok által elfogadott digitális tartalom tanúsítási szabvány. Az OpenAI azt állítja, hogy a C2PA metaadatok benne vannak a DALL-E 3-ban és a ChatGPT-ben létrehozott és szerkesztett összes képben, és hamarosan megjelennek az OpenAI Sora videógenerátora által készített videókban is.