A ChatGPT sikere a mesterséges intelligencia titkosságának káros változását idézheti elő, mondja Bengio, az AI úttörője
A piaci nyomás a kevesebb nyilvánosságra hozatal felé taszíthatja az ipart, ami hátráltathatja a tudományos fejlődést és egyéb károkat is okozhat.
A világ jelenleg legfontosabb mesterséges intelligencia programja egy olyan cégtől származik, amely sok társával ellentétben nem teszi közzé a forráskódját.
Az OpenAI által létrehozott ChatGPT nem nyílt forráskódú a GitHubon, mint sok más természetes nyelvű program előtte. Az OpenAI GPT-programjainak, a ChatGPT-nek a forrásait sem tették elérhetővé.
Kedden pedig a cég mérföldkövet ért el, még a legújabb verzió, a GPT-4 technikai részleteit sem volt hajlandó nyilvánosságra hozni.
A ChatGPT és a GPT-4 hiánya vagy átláthatósága szakít a mély tanulási mesterséges intelligencia általános gyakorlatával, ahol a tudósok mind az akadémián, mind a vállalaton belül hajlamosak agresszív publikálásra, követve a nyílt forráskódú szoftverek hagyományát, ahol a kód könnyen elkészíthető. bárki számára elérhető, aki akarja.
A ChatGPT zártsága sokkal inkább normává válhat a mesterséges intelligencia területén, és etikai vonatkozásai is vannak - figyelmeztetett Yoshua Bengio, a mesterséges intelligencia úttörője, a kanadai MILA MI-intézet tudományos igazgatója a múlt héten újságíróknak és az ipar képviselőinek tartott beszélgetésében.
"A korábban az akadémián dolgozó és az iparba költöző kutatók akadémiai gondolkodásmódja megváltoztatta a kultúrát, hogy többet hozzanak létre a nyílt forráskódú szellemi megosztásból és általában az együttműködésből" - mondta Bengio a Zoom sajtójának és vezetőinek kis összejövetelén. múlt héten.
"De a piacok nyomása valószínűleg más irányba fog nyomni" - mondta Bengio -, "a titoktartás felé, ami etikai okokból rossz, és rossz a technológiai haladás szempontjából is, mert több időt vesz igénybe az információ megszerzése." több helyre eljutni, ha a dolgok titkosak."
Bengio, aki a Montreali Egyetem rendes professzora, és társrendezője a CIFAR Learning in Machines and Brains Programnak, meghívott előadó volt egy másfél órás beszélgetésre, amelyet a Collective[i] Forecast, egy online, interaktív program adott. vitasorozat, amelyet a Collective[i] szervez, amely önmagát "a B2B értékesítés optimalizálására tervezett AI-platformnak" nevezi.
Bengio Laura Wilson közönségtagnak válaszolt, aki megkérdezte Bengiót: „Lehetséges-e még etikai keretrendszer” a mesterséges intelligencia-kutatásban, tekintettel a ChatGPT-ben rejlő hatalmas kereskedelmi potenciálra és a Microsoft Bing keresőprogramjára, amely magában foglalja a ChatGPT képességeit.
Az akadémikusok - mondta Bengio - "továbbra is folytatják nyílt tudományukat és megosztják munkájukat, mert ez a modelljük része".
Kevésbé egyértelmű, mondta, hogy az ipari kutatás ragaszkodik a nyitott úthoz.
A vállalati kutatás korábban "sokkal titkosabb volt", mielőtt a mesterséges intelligencia a közelmúltban a nyílt közzétételre összpontosított, mondta Bengio. "Most, azt hiszem, ha azt a fajta aranylázat nézzük, amely valószínűleg bekövetkezik" a mesterséges intelligencia területén, a ChatGPT sikerét követően, "megtartjuk-e ezt a kultúrát az iparban?" - tűnődött Bengio.
Bengio szerint a papírok elsőbbsége a legfontosabb, mivel a mesterséges intelligencia a laboratóriumok közötti keresztbeporzás kollektív erőfeszítéseként fejlődik.
"Ezek bonyolult rendszerek" - mondta Bengio az úgynevezett nagy nyelvi modellekről, mint például a GPT-4.
"Kódunkat mások kódjára építjük, és azokra az ötletekre is építünk, amelyeket a világ minden tájáról írnak és értékelnek tudományos közleményekben - egymás fejlődésére építünk."
"Vannak szabadalmak, de valójában a tényleges hús szerepel azokban a papírokban."
A titkos gyakorlatok nemcsak hátráltathatják az ipari kutatást, mondta Bengio, de elhomályosíthatják a nyilvánosságot érő károkat is.
"Ha az emberek túl gyorsan mozognak és összetörik a dolgokat, az rossz lehet" - mondta Bengio -, és akár az egész iparág számára is visszahatást jelenthet.
Bengio megfigyelte, hogy a kis cégek általában hajlandóbbak kockázatot vállalni a nem tesztelt szoftverekkel, mert „ez az üzlet játéka”. Utalt olyan programokra, mint például a ChatGPT, amelyek bizonyos esetekben olyan eredményeket hoztak, amelyeket egyes felhasználók „zavarónak” találnak, ami azt sugallja, hogy nincsenek teljesen kifejlesztve.
"De most olyan cégek, mint a Google, a Microsoft és mások úgy érzik, hogy belevágnak a versenybe" - mondta. - Szóval, az egyik lehetséges aggály, amit hallottam, az az, vajon ennyire vigyáznak majd arra, hogy mit raknak ki?
Bengio társa, Yann LeCun, aki Bengióval együtt 2019-ben Turing-díjat kapott az MI-vel kapcsolatos munkájukért, hasonló aggodalmait fejezte ki.
Egy február 17-i tweetben LeCun, a Meta mesterséges intelligenciával foglalkozó vezető tudósa azt írta:
A FAIR [Facebook AI Research] kulcsszerepet játszott az AI K+F színterének nyitottá tételében. Mások követték. Legalábbis egy ideig. Az OpenAI, a DeepMind és talán még a Google is egyértelműen jóval kevesebbet tesz közzé és nyílt forráskódú. Milyen következményekkel jár az AI tudomány és technológia fejlődésére?
A ChatGPT kiadása pozitív célt szolgálhat, mondta Bengio, mivel a világban nagyon tudatosul az AI ígéretei és kockázatai.
"Amit szeretek a ChatGPT körüli, amolyan médiacirkuszban, az az, hogy ébresztő" - mondta Bengio. "Azt hiszem, az emberek látták a mesterséges intelligencia fejlődését a korábbi években, és sok vállalat, sok kormány azt gondolta, hogy igen, oké, valami történik, és azok a technikusok teszik a dolgukat, és nem veszik észre, hogy nagyon erős rendszerek vannak a sarkon. "