A Google új eszköze képes észlelni a mesterséges intelligencia által generált képeket, de ez nem ilyen egyszerű

Az eszközt a DeepMind csapata hozta létre a felelős AI felé tett lépésként.

Az eszköz képes észlelni a mesterséges intelligencia által generált képeket szerkesztés, színváltoztatás vagy szűrők hozzáadása után is.

A mesterséges intelligencia eszközökkel létrehozott képeket egyre nehezebb megkülönböztetni az emberek által készített képektől. A mesterséges intelligencia által generált képek hatalmas arányban szaporíthatják a téves információkat, ami az MI felelőtlen használatához vezethet. Ebből a célból a Google bemutatott egy új SynthID eszközt, amely képes megkülönböztetni az AI által generált képeket az ember által készített képektől.

A DeepMind csapata által létrehozott eszköz észrevehetetlen digitális vízjelet ad a mesterséges intelligencia által generált képekhez - mint egy aláírás. Ugyanez az eszköz később is képes észlelni ezt a vízjelet, hogy rámutasson arra, hogy mely képeket hozta létre a mesterséges intelligencia, még módosítások után is, például szűrők hozzáadása, tömörítés, színek megváltoztatása stb.

A SynthID két mély tanulási modellt egyesít egyetlen eszközben. Az egyik vizuálisan hozzáadja a vízjelet az eredeti tartalomhoz szabad szemmel észrevehetetlen módon, a másik pedig azonosítja a vízjeles képeket.

A SynthID jelenleg nem képes minden mesterséges intelligencia által generált képet észlelni, mivel csak a Google szöveg-képfeldolgozó eszközével, az Imagen-nel készített képekre korlátozódik. Ez azonban a felelősségteljes mesterséges intelligencia ígéretes jövőjének a jele, különösen, ha más cégek alkalmazzák a SynthID-t generatív AI-eszközeikbe.

Az eszköz fokozatosan elérhetővé válik az Imagent használó Vertex AI ügyfelei számára, és csak ezen a platformon érhető el. A Google DeepMind azonban reméli, hogy hamarosan elérhetővé teszi más Google-termékekben és harmadik felek számára is.