Az OpenAI-s Altman a „szuperintelligenciát” látja a sarkon - de hiányzik a részletek

Altman esszéje ellentétes a mesterséges intelligencia korlátaival kapcsolatos intellektuális kritikákkal és a környezeti és társadalmi zavarokkal kapcsolatos aggodalmakkal.

Az OpenAI Altman nyolc éven belüli „szuperintelligenciát” lát kilátásba, és ennek eredményeként az emberi jólét új korszakát.

Sam Altman, az OpenAI vezérigazgatója szerint mindössze nyolc év múlva a mesterséges intelligencia (AI) valami úgynevezett "szuperintelligenciához" vezethet.

"Lehetséges, hogy néhány ezer napon belül (!) meglesz a szuperintelligenciánk; lehet, hogy tovább tart, de biztos vagyok benne, hogy eljutunk odáig" - írta Altman a Az intelligencia korszakanak nevezett esszéjében., egy, az ő nevén lévő weboldalon. Úgy tűnik, hogy a bejegyzés egyelőre az egyetlen tartalom a webhelyen.

Hétfőn Altman közzétett egy linket a bejegyzéshez az X-en (korábban Twitter), amely kedd délutánig 12 000 kedvelést és 2 400 újraposztot kapott:

Az intelligencia kora: https://t.co/vuaBNwp2bD

- Sam Altman (@sama) 2024. szeptember 23

Altman a szuperintelligencia kifejezést használta interjúkban, például egy évvel ezelőtt a Financial Timesnak adott interjújában. Altman hajlamos volt egyenlőségjelet tenni a szuperintelligenciára az akadémiai és ipari körökben a "mesterséges általános intelligencia" (AGI) elérésére irányuló széles körű törekvéssel, amely egy olyan számítógép, amely legalább olyan jól tud gondolkodni, mint az ember.

Az 1100 szavas esszében Altman amellett szól, hogy a mesterséges intelligencia minél több emberhez elterjedjen, a „társadalom infrastruktúrájának” előrelépéseként, amely drámai ugrást tesz lehetővé az emberi jólétben.

"Ezekkel az új képességekkel olyan mértékben osztozhatunk a jólétben, ami ma elképzelhetetlennek tűnik" - írta Altman.

"A jövőben mindenkinek jobb lehet az élete, mint bárkinek most. A jólét önmagában nem feltétlenül boldogítja az embereket - rengeteg nyomorult gazdag ember van -, de érdemben javítaná az emberek életét szerte a világon."

Altman esszéje rövid a technikai részletekről, és néhány átfogó állítást tesz az AI-ról:

• A mesterséges intelligencia a „tudományos felfedezések és a technológiai fejlődés több ezer évének összefonódása” csúcspontja, amely a számítógépes chipek feltalálásával és folyamatos tökéletesítésével tetőzik.
• A mesterséges intelligencia „mély tanulási” formái, amelyek lehetővé tették a generatív MI-t, a szkeptikusok megjegyzései ellenére nagyon jól működtek.
• Egyre több számítási teljesítmény fejleszti a mély tanulás algoritmusait, amelyek folyamatosan megoldják a problémákat, így "az AI egyre jobb lesz a léptékkel".
• Kulcsfontosságú a számítógépes infrastruktúra bővítése annak érdekében, hogy a mesterséges intelligencia a lehető legtöbb emberhez eljuthasson.
• A mesterséges intelligencia nem tönkreteszi a munkahelyeket, hanem új típusú munkát tesz lehetővé, és a tudomány eddig soha nem látott fejlődéséhez, valamint személyes segítőtársakhoz, például személyre szabott oktatókhoz vezet a diákok számára.

Altman esszéje ellentmond a mesterséges intelligencia etikai, társadalmi és gazdasági hatásaival kapcsolatos számos népszerű aggálynak, amelyek az elmúlt években felerősödtek.

Az az elképzelés, hogy a számítástechnika felskálázása egyfajta szuperintelligenciához vagy AGI-hez vezet, ellentétes azzal, amit a mesterséges intelligencia számos tudósa megállapított, mint például a kritikus, Gary Marcus, aki azt állítja, hogy az AGI vagy bármi ehhez hasonló a közelben sincs. a láthatáron, ha egyáltalán elérhető.

Altman felfogása, miszerint az AI skálázása a jobb mesterségesintelligencia felé vezető út, ellentmondásos. A prominens mesterséges intelligencia tudós és vállalkozó, Yoav Shoham azt mondta a ZDNET-nek a múlt hónapban, hogy a számítástechnika bővítése nem lesz elegendő az AI fellendítéséhez. Ehelyett Shoham a mély tanuláson kívüli tudományos feltárást támogatta.

Altman optimista nézete nem tesz említést a technológiával foglalkozó kutatók által felvetett számos AI-elfogultsági kérdésről, és nem esik szó a mesterséges intelligencia adatközpontjainak gyorsan növekvő energiafogyasztásáról, amely sokak szerint komoly környezeti kockázatot jelent.

Bill McKibbon környezetvédő például azt írta, hogy „nincs mód arra, hogy a megújuló energiát elég gyorsan kiépítsük ahhoz, hogy kielégítsük a mesterséges intelligencia ilyen fajta többletigényét”, és hogy „egy racionális világban, ha vészhelyzettel szembesülünk, elhalasztjuk. skálázó AI egyelőre."

Altman esszéjének időzítése figyelemre méltó, mivel a mesterséges intelligencia néhány, a közelmúltban megjelent kiemelkedő kritikája nyomán született. Ezek közé a kritikák közé tartozik Marcus Szilícium-völgyének megszelídítése, amelyet ebben a hónapban adott ki az MIT Press, és az AI Snake Oil, Princeton számítástechnikai tudósai, Arvind Narayanan és Sayash Kapoor, amelyet ebben a hónapban adott ki a Princeton. Egyetemi Kiadó.

A Szilícium-völgy megszelídítésében Marcus figyelmeztet a generatív mesterséges intelligenciarendszerek rendkívüli kockázataira, amelyeket semmilyen társadalmi kontroll nem korlátoz:

A legrosszabb esetben a megbízhatatlan és nem biztonságos mesterséges intelligencia tömegkatasztrófákhoz vezethet, az elektromos hálózatok káoszától a véletlen háborúig vagy a robotflották ámokfutásáig. Sokan elveszíthetik állásukat. A generatív mesterséges intelligencia üzleti modelljei figyelmen kívül hagyják a szerzői jogi törvényeket, a demokráciát, a fogyasztói biztonságot és az éghajlatváltozásra gyakorolt hatást. És mivel olyan gyorsan elterjedt, olyan kevés felügyelet mellett, a Generatív AI gyakorlatilag egy hatalmas, ellenőrizetlen kísérletté vált az egész populációnkon.

Marcus ismételten felszólítja Altmant, amiért a hype-ot használta az OpenAI prioritásainak érvényesítésére, különösen az AGI közelgő érkezésének elősegítésére. "Az egyik mestercsapás az volt, hogy azt mondták, hogy az OpenAI igazgatótanácsa összeül annak megállapítására, hogy mikor valósult meg a mesterséges általános intelligencia" - írja Marcus Altman nyilvános megjegyzéseiről.

"És kevesen kérdezték meg Altmant, hogy az AGI-hez való eljutás időpontjára vonatkozó fontos tudományos kérdést miért az igazgatótanács dönti el, nem pedig a tudományos közösség."

Az AI Snake Oil című könyvükben, amely a mesterséges intelligencia-felhajtás éles feljelentése, Narayanan és Kapoor kifejezetten kihívja Altman nyilvános megjegyzéseit az MI szabályozására vonatkozóan, azzal vádolva, hogy manipulációban vesz részt, az úgynevezett " szabályozási befogás”, hogy elkerülje a vállalata hatalmának tényleges korlátozását:

Ahelyett, hogy értelmes szabályokat szabott volna meg az iparág számára, az [OpenAI] vállalat a versenytársakra akarta nyomni a terheket, miközben elkerülte a saját struktúrájának megváltoztatását. A dohánycégek valami hasonlóval próbálkoztak, amikor az 1950-es és '60-as években lobbiztak a cigaretta elleni kormányzati fellépés elfojtására.

Továbbra is kiderül, hogy Altman kiszélesíti-e nyilvános megjegyzéseit a weboldalán, vagy az esszé egyszeri, talán más szkeptikus narratívák ellen szól.