A ChatGPT "nem különösebben innovatív" és "semmi forradalmi" - mondja a Meta vezető mesterséges intelligencia tudósa
A közvélemény forradalminak tartja az OpenAI ChatGPT-jét, de ugyanazokat a technikákat alkalmazzák, és ugyanez a fajta munka folyik számos kutatólaboratóriumban - mondja a mély tanulás úttörője.
Miért nem látott a nyilvánosság olyan programokat, mint a ChatGPT a Metától vagy a Google-tól? "A válasz az, hogy a Google-nak és a Metának is sokat veszítenie kell azzal, hogy olyan rendszereket hoz létre, amelyek kitalálnak dolgokat" - mondja Yann LeCun, a Meta vezető mesterséges intelligencia-tudósa.
Az utóbbi időben sok tinta ömlött az OpenAI ChatGPT programjának óriási ígéretéről, amely természetes nyelvű megnyilatkozásokat generál az emberi felszólításokra válaszul.
A program sok embernek annyira frissnek és érdekesnek tűnik, hogy a ChatGPT-nek egyedülállónak kell lennie az univerzumban.
A mesterséges intelligencia tudósai nem értenek egyet.
"Ami a mögöttes technikákat illeti, a ChatGPT nem különösebben innovatív" - mondta Yann LeCun, a Meta vezető mesterséges intelligencia tudósa a sajtó és a vezetők kis összejövetelén a Zoomon a múlt héten.
"Ez semmi forradalmi, bár a közvélemény így látja" - mondta LeCun. "Csak arról van szó, hogy jól össze van rakva, szépen sikerült."
Ilyen adatvezérelt mesterséges intelligencia rendszereket a múltban számos vállalat és kutatólaboratórium épített - mondta LeCun. Az az elképzelés, hogy az OpenAI egyedül van a munkájában, pontatlan - mondta.
"Az OpenAI egyáltalán nem különösebben előrelépés a többi laboratóriumhoz képest" - mondta LeCun.
"Nem csak a Google és a Meta, hanem fél tucat startup van, amelyek alapvetően nagyon hasonló technológiával rendelkeznek" - tette hozzá LeCun. "Nem akarom azt mondani, hogy ez nem rakétatudomány, de tényleg megosztják, nincs mögötte titok, ha úgy tetszik."
LeCun megjegyezte, hogy a ChatGPT és az általa épülő program, az OpenAI GPT-3 sokféleképpen áll több olyan technológiából, amelyet sok fél fejlesztett ki sok éven keresztül.
"Fel kell ismernie, hogy a ChatGPT olyan transzformátor architektúrákat használ, amelyek előre betanítottak erre az önfelügyelt módra" - jegyezte meg LeCun. "Az önfelügyelt tanulást már régóta támogatom, még az OpenAI létezése előtt" - mondta.
"A Transformers a Google találmánya" - jegyezte meg LeCun, utalva a Google által 2017-ben bemutatott nyelvi neurális hálóra, amely számos nyelvi program, köztük a GPT-3 alapjává vált.
Az ilyen nyelvi programokon végzett munka évtizedekre nyúlik vissza, mondta LeCun.
"A nagy nyelvi modellek, az első neurális háló nyelvi modell - akkoriban nagy volt, mai mércével mérve apró - Yoshua Bengio készítette, körülbelül 20 évvel ezelőtt" - mondta LeCun, utalva a kanadai MILA mesterséges intelligencia intézet vezetőjére. Bengio munkáját a figyelem fogalmával kapcsolatban később a Google átvette a Transformer számára, és minden nyelvi modell sarkalatos elemévé vált.
Az OpenAI programja ráadásul széles körben alkalmazta az emberi visszajelzésen keresztüli megerősítéses tanulásnak nevezett technikát, amely arra készteti az emberi ügynököket, hogy segítsenek rangsorolni a gép kimenetét annak javítása érdekében, hasonlóan a Google Page Rank for the web számára. Ezt a megközelítést nem az OpenAI-nál, hanem a Google DeepMind egységében vezették be - mondta.
"Tehát ennek egy egész története van, és ez nem légüres térből jött ki" - mondta LeCun, vagyis a ChatGPT.
A ChatGPT program kevésbé tudományos áttörés, mint a tisztességes mérnöki munka példája - mondta LeCun. A programot az IBM Watson számítógépéhez hasonlította, amely 2011-ben versenyzett a Jeopardy! című játékműsorban, és Sebastian Thrun vállalkozó önvezető járművéhez, amely megnyerte a DARPA 2005-ös Grand Challenge-jét. A Thrun díjnyertes technológiája "nem volt különösebben innovatív a mögöttes tudomány szempontjából" - mondta LeCun, "csak nagyon jól megtervezett."
"Az OpenAI valahogy ezt tette" - mondta. "Nem fogom kritizálni őket ezért."
LeCun meghívott előadó volt egy másfél órás előadásra, amelynek házigazdája a Collective[i] Forecast, egy online, interaktív vitasorozat, amelyet a Collective[i] szervez, amely "a B2B értékesítés optimalizálására tervezett mesterséges intelligencia platformként" hirdeti magát.
LeCun az OpenAI-val kapcsolatos megjegyzéseit a New York Times újságírója, Cade Metz kollokviumán feltett kérdésre válaszolva tette. Metz megkérdezte, hogy a Meta mesterséges intelligencia csapatát, a FAIR-t, amelyet LeCun épített, valaha is azonosítani fogják-e a köztudatban olyan áttörésekkel, mint az OpenAI.
"Látni fogjuk ezt a Metától? Igen, ezt látni fogjuk - válaszolta LeCun. "És nem csak a szöveggenerálás, hanem az alkotási segédeszközök is" - mondta, beleértve a "generatív művészetet", amely szerintem "nagy dolog lesz".
A Meta képes lesz segíteni a kisvállalkozásoknak önreklámozásában azáltal, hogy automatikusan olyan médiát állít elő, amely népszerűsíti a márkát - ajánlotta.
"Körülbelül 12 millió üzlet hirdet a Facebookon, és a legtöbbjük anya és pop bolt, és egyszerűen nincs erőforrásuk egy új, szépen megtervezett hirdetés megtervezésére" - jegyezte meg LeCun. "Tehát számukra a generatív művészet sokat segíthet."
Az előadás egy másik pontján LeCun megjegyezte: "Felteheti a kérdést, hogy miért nincsenek hasonló rendszerek mondjuk a Google-tól és a Metától", ismét a ChatGPT-re utalva.
"És a válasz az, hogy a Google-nak és a Metának is sokat veszítenie kell azzal, hogy olyan rendszereket hoz létre, amelyek kitalálnak dolgokat" - mondta LeCun nevetve.
LeCun a 2019-es Turing-díj nyertese a számítástechnikához való hozzájárulásáért, amely egyenértékű a számítástechnika Nobel-díjával, a MILA Bengio és a Torontói Egyetem professzorával, valamint a Google ösztöndíjasával, Geoffrey Hintonnal együtt. Hárman segítettek úttörő szerepet játszani a mesterséges intelligencia mai mély tanulási korszakában.
Az OpenAI-t a Microsoft finanszírozza, amely kizárólagos hozzáféréssel rendelkezik a startup által előállított kódhoz, és amely fokozatosan beépíti a programokat különféle szoftverkínálatába, beleértve az Azure felhőszolgáltatását is.