Az ENSZ Biztonsági Tanácsának delegáltjai sürgetik az AI-ellenőrzést a potenciális globális fenyegetés elhárítására
Az Egyesült Nemzetek Szervezete támogatja a külön ENSZ-szervezet létrehozására irányuló felhívásokat, amelyek elősegítik a mesterséges intelligencia irányítására irányuló kollektív erőfeszítéseket.
Kollektív globális erőfeszítésekre van szükség a mesterséges intelligencia (AI) irányítására, ahol sürgős közös konszenzusra van szükség a szükséges védőkorlátokról.
A különféle globális intézkedésekre és kezdeményezésekre irányuló felhívások közepette a mesterséges intelligencia irányítása bonyolultnak bizonyul, és egyetemes megközelítést igényel - mondta António Guterres, az ENSZ főtitkára. A mesterséges intelligencia modelljei már széles körben elérhetőek a nyilvánosság számára, és a nukleáris anyagokkal és a biológiai anyagokkal ellentétben szerszámai nyomtalanul mozgathatók - mondta Guterres az ENSZ Biztonsági Tanácsának adott megjegyzésében.
A tanács tagjai ezen a héten összegyűltek a mesterséges intelligenciával foglalkozó első hivatalos ülésére, ahol felszólalt az Anthropic társalapítója, Jack Clark és a Kínai Tudományos Akadémia Automatizálási Intézete, Zeng Yi, aki a Nemzetközi Kutatóközpont professzora és igazgatója. AI etika és kormányzás.
Guterres a generatív mesterséges intelligencia a képességek "radikális előrelépésének" nevezte, és azt mondta, hogy a technológia által megszerzett sebesség és hatótáv "teljesen példátlan" volt: a ChatGPT mindössze két hónap alatt elérte a 100 millió felhasználót.
De bár a mesterséges intelligencia jelentős mértékben elősegítette a globális fejlődést és az emberi jogok érvényesülését, beleértve az egészségügyet is, az elfogultságot és a diszkriminációt is elősegítheti. A technológia még inkább lehetővé teheti az autoriter felügyeletet.
Sürgette a tanácsot, hogy értékelje a mesterséges intelligencia békére és biztonságra gyakorolt hatását, hangsúlyozva, hogy már korábban is felmerültek humanitárius, etikai, jogi és politikai aggályok.
"Az [MI]-t egyre gyakrabban használják az erőszak mintáinak azonosítására, a tűzszünet megfigyelésére és még sok másra, segítve békefenntartó, közvetítési és humanitárius erőfeszítéseink megerősítését" - mondta Guterres. "Az AI-eszközöket azonban rosszindulatúak is használhatják. Az AI-modellek hatalmas léptékben segíthetnek az embereknek abban, hogy kárt okozzanak maguknak és egymásnak."
Jelenleg az AI-t már használták kritikus infrastruktúrákat célzó kibertámadások indítására. Megjegyezte, hogy a katonai és nem katonai mesterséges intelligencia alkalmazások súlyos következményekkel járhatnak a globális békére és biztonságra nézve.
Clark támogatta annak szükségességét, hogy a globális kormányok összefogjanak, kapacitást építsenek, és az AI-rendszerek fejlesztését "közös törekvéssé" tegyék, ahelyett, hogy egy maroknyi szereplő vezesse a piaci részesedésért.
"Nem hagyhatjuk a mesterséges intelligencia fejlesztését kizárólag a magánszektor szereplőire" - mondta, megjegyezve, hogy az olyan mesterséges intelligencia modellek fejlesztését, mint az Anthropic saját Claude, az OpenAI ChatGPT és a Google Bard, a vállalati érdekek vezérlik. Mivel a magánszektorbeli cégek hozzáférnek kifinomult rendszerekhez, nagy adatmennyiségekhez és forrásokhoz, valószínűleg továbbra is ők fogják meghatározni az AI-rendszerek fejlesztését - tette hozzá.
Ez előnyökkel és fenyegetésekkel is járhat a mesterséges intelligenciával való visszaélés lehetősége és kiszámíthatatlansága miatt. Kifejtette, hogy a technológia felhasználható a biológia jobb megértésére, valamint biológiai fegyverek megalkotására.
És ha az AI-rendszereket kifejlesztették és implementálták, új felhasználási módok fedezhetők fel, amelyekre a fejlesztők nem számítottak. A rendszerek maguk is kiszámíthatatlan vagy kaotikus viselkedést mutathatnak, mondta.
"Ezért nagyon alaposan át kell gondolnunk, hogyan biztosíthatjuk, hogy ezeknek a rendszereknek a fejlesztői elszámoltathatók legyenek, hogy biztonságos és megbízható rendszereket építsenek és telepítsenek, amelyek nem veszélyeztetik a globális biztonságot" - mondta Clark.
A generatív mesterséges intelligencia megjelenése tovább erősítheti a dezinformációt és alááshatja a tényeket, új módszereket hozva magával az emberi viselkedés manipulálására, és tömeges instabilitáshoz vezethet, mondta Guterres. A mélyhamisításokra hivatkozva azt mondta, hogy az ilyen mesterséges intelligencia-eszközök komoly biztonsági kockázatokat okozhatnak, ha figyelmen kívül hagyják őket.
A mesterséges intelligencia rendszerek hibás működése szintén jelentős aggodalomra ad okot, valamint "mélyen riasztó" a mesterséges intelligencia és a nukleáris fegyverek, a biotechnológia, a neurotechnológia és a robotika közötti kölcsönhatás - tette hozzá.
"A generatív mesterséges intelligencia óriási lehetőségeket rejt magában a jó és a rossz tekintetében. Az alkotók maguk is figyelmeztettek arra, hogy sokkal nagyobb, potenciálisan katasztrofális és egzisztenciális kockázatok állnak előtte" - mondta. "Anélkül, hogy fellépnénk e kockázatok kezelésére, elhanyagolhatóak vagyunk a jelen és a jövő nemzedékeivel szembeni felelősségeinkben."
Új ENSZ-szervezetre van szükség a mesterséges intelligencia irányításához
Guterres kijelentette, hogy támogatja az ENSZ-szervezet létrehozására irányuló felhívásokat, amelyek a Nemzetközi Atomenergia Ügynökséghez és az Éghajlatváltozási Kormányközi Testülethez hasonlóan elősegítik a mesterséges intelligencia irányítására irányuló kollektív erőfeszítéseket.
"A legjobb megközelítés a meglévő kihívások kezelésére szolgálna, ugyanakkor megteremtené a kapacitást a jövőbeli kockázatok nyomon követésére és az azokra való reagálásra" - mondta. "Rugalmasnak és alkalmazkodóképesnek kell lennie, és figyelembe kell vennie a műszaki, társadalmi és jogi kérdéseket. Integrálnia kell a magánszektort, a civil társadalmat, a független tudósokat és mindazokat, akik az AI innovációját hajtják."
"A globális szabványok és megközelítések szükségessége miatt az Egyesült Nemzetek Szervezete ideális hely erre" - tette hozzá.
Az új ENSZ-testületnek arra kell törekednie, hogy támogassa a nemzeteket a mesterséges intelligencia előnyeinek maximalizálásában, mérsékelje a kockázatokat, és nemzetközi megfigyelési és irányítási mechanizmusokat hozzon létre. Az új entitásnak emellett össze kell gyűjtenie a szükséges szakértelmet, elérhetővé téve azt a nemzetközi közösség számára, valamint támogatnia kell a fenntarthatóságot hajtó mesterségesintelligencia-eszközök kutatási és fejlesztési erőfeszítéseit.
Guterres elmondta, hogy egy "magas szintű AI tanácsadó testületet" állít össze, hogy elindítsa a dolgokat, azzal a céllal, hogy az év végéig javaslatokat tegyen a globális mesterségesintelligencia-irányításra.
Hozzátette, hogy az "új békeprogramról" szóló, közelgő politikai tájékoztató ajánlásokat is fog tartalmazni a mesterséges intelligencia irányítására vonatkozóan az ENSZ-tagállamok számára. Ide tartoznak a mesterséges intelligencia felelős fejlesztésére és használatára vonatkozó nemzeti stratégiákra vonatkozó ajánlások, valamint a mesterséges intelligencia katonai alkalmazásaival kapcsolatos normák és elvek kidolgozására irányuló többoldalú kötelezettségvállalás.
A tagállamokat arra is felkérnék, hogy fogadjanak el egy globális keretrendszert az adatvezérelt technológia, köztük a mesterséges intelligencia terrorizmusellenes célú felhasználásának szabályozására és fellendítésére.
A politikai intézkedésről szóló tárgyalások a tervek szerint 2026-ig lezárulnak, és jogilag kötelező erejű megállapodás születik az emberi felügyelet nélkül működő, halálos, autonóm fegyverek betiltására.
Clark arra is felszólította a nemzetközi közösséget, hogy dolgozzanak ki módszereket a rendszerek képességeinek, visszaéléseinek és esetleges biztonsági hibáinak tesztelésére. Azt mondta, hogy biztosíték, hogy több nemzet - köztük Kína, az EU és az Egyesült Államok - a biztonsági értékelésre összpontosított mesterséges intelligencia-politikai javaslataiban.
Hangsúlyozta továbbá, hogy szabványokra és bevált gyakorlatokra van szükség az ilyen rendszerek tesztelésére olyan kulcsfontosságú területeken, mint a diszkrimináció és a visszaélés, amelyek jelenleg hiányoznak.
Zeng megjegyezte, hogy a jelenlegi mesterséges intelligencia rendszerek, beleértve a generatív mesterséges intelligenciát is, olyan információfeldolgozó eszközök, amelyek intelligensnek tűntek, de valójában nem értenek hozzá.
„Ezért nem lehet bennük megbízni, mint felelős ügynökökben, akik segíthetik az embereket a döntéshozatalban” - jegyezte meg. A diplomáciai feladatokat például nem szabad automatizálni. A mesterséges intelligencia különösen nem alkalmazható a különböző nemzetek közötti külföldi tárgyalásokon, mivel felerősítheti az emberi korlátokat és gyengeségeket, és nagyobb kockázatokat generálhat.
"A mesterséges intelligencia soha nem tehet úgy, mintha ember lenne" - mondta, miközben sürgette, hogy megfelelő és felelősségteljes emberi irányításra van szükség a mesterséges intelligenciával hajtott fegyverrendszerek felett. "Az embereknek mindig fenn kell tartaniuk az atomfegyverek használatával kapcsolatos végső döntéseket, és felelősséget kell vállalniuk azokért."
A globális érdekelt felek most lehetőséget kapnak arra, hogy egyesüljenek a mesterséges intelligenciához szükséges védőkorlátokról szóló megbeszélésekben - mondta Omran Sharaf, az Egyesült Arab Emírségek fejlett tudományokért és technológiáért felelős miniszterhelyettese.
Mielőtt "túl késő lenne", sürgette a tagállamokat, hogy jussanak konszenzusra a szükséges szabályokról, beleértve azokat a mechanizmusokat is, amelyek megakadályozzák, hogy az AI-eszközök félretájékoztatják és félretájékoztatják a szélsőségeket és a konfliktusokat.
Más digitális technológiákhoz hasonlóan a mesterséges intelligencia átvételét a nemzetközi törvényeknek kell vezérelniük, amelyeknek a kiber birodalomban is érvényesülniük kell, mondta Sharaf. Megjegyezte azonban, hogy a szabályozásoknak agilisnak és rugalmasnak kell lenniük, hogy ne akadályozzák az AI-technológiák fejlődését.