Szingapúr hat generatív mesterségesintelligencia-kockázatot azonosít, és alapítványt hoz létre az örökbefogadás irányítására
Az AI Verify Foundation olyan teszteszközkészleteket fog kifejleszteni, amelyek csökkentik az AI kockázatait.
Szingapúr hat fő kockázatot azonosított a generatív mesterséges intelligenciával (AI) kapcsolatban, és keretet javasolt ezeknek a problémáknak a kezelésére. Létrehozott egy alapítványt is, amely arra törekszik, hogy a nyílt forráskódú közösséget kihasználja olyan teszteszközkészletek kifejlesztésére, amelyek csökkentik az AI bevezetésének kockázatait.
A hallucinációk, a felgyorsult félretájékoztatás, a szerzői jogi kihívások és a beágyazott torzítások a generatív mesterséges intelligencia fő kockázatai közé tartoznak, amely a szingapúri Infocomm Media Development Authority (IMDA) által kiadott jelentésben körvonalazódik. A vitaanyag részletezi az ország keretrendszerét a feltörekvő technológia „megbízható és felelős” átvételére, beleértve a közzétételi szabványokat és a globális interoperabilitást. A jelentést az Aicadiummal, a Temasek Holdings állami befektetési cég által alapított mesterséges intelligencia-technológiai vállalattal közösen dolgozták ki.
A keretrendszer betekintést nyújt arra, hogy a politikai döntéshozók hogyan javíthatják a meglévő mesterségesintelligencia-irányítást a generatív AI "egyedi jellemzőinek" és azonnali aggályainak kezelése érdekében. Az IMDA szerint a kormányzási eredmények hosszabb távú biztosításához szükséges beruházásokat is tárgyalja.
A hallucinációk kulcsfontosságú kockázatként való azonosítása során a jelentés megjegyezte, hogy - az összes AI-modellhez hasonlóan - a generatív AI-modellek is követnek el hibákat, amelyek gyakran élénkek és antropomorfizálódnak.
"A ChatGPT jelenlegi és korábbi verzióiról köztudott, hogy ténybeli hibákat követnek el. Az ilyen modellek sokkal nagyobb kihívást jelentenek az olyan feladatok elvégzése során, mint a logika, a matematika és a józan ész" - jegyezte meg a vitairat.
"Ez azért van, mert a ChatGPT az emberek nyelvhasználatának modellje. Bár a nyelv gyakran tükrözi a világot, ezek a rendszerek azonban még nem ismerik mélyen a világ működését."
Ezek a hamis válaszok megtévesztően meggyőzőek vagy hitelesek is lehetnek - tette hozzá a jelentés, rámutatva arra, hogy a nyelvi modellek miként hoztak létre látszólag legitim, de téves válaszokat orvosi kérdésekre, valamint olyan szoftverkódokat generálnak, amelyek érzékenyek a sebezhetőségre.
Ezenkívül a hamis tartalom terjesztését egyre nehezebb azonosítani a meggyőző, de félrevezető szövegek, képek és videók miatt, amelyek potenciálisan nagy léptékű generatív mesterséges intelligencia segítségével generálhatók.
A megszemélyesítéssel és a hírnévvel kapcsolatos támadások egyszerűbbé váltak, beleértve azokat a társadalomfejlesztési támadásokat is, amelyek mélyhamisításokat használnak a kiváltságos személyekhez való hozzáférés érdekében.
A generatív mesterséges intelligencia más típusú károk okozását is lehetővé teszi, ahol a csekély technikai tudással rendelkező fenyegetés szereplői potenciálisan rosszindulatú kódot generálhatnak.
A vitaanyag szerint ezek a felmerülő kockázatok új megközelítéseket igényelhetnek a generatív mesterséges intelligencia irányításához.
Josephine Teo szingapúri kommunikációs és információs miniszter megjegyezte, hogy a globális vezetők továbbra is alternatív mesterségesintelligencia-architektúrákat és -megközelítéseket kutatnak, és sokan óvatosak az MI veszélyeivel kapcsolatban.
A mesterséges intelligencia potenciálisan magas szinten és jelentősen csökkentett költségek mellett "emberszerű intelligenciát" biztosít, ami különösen értékes olyan országok számára, mint például Szingapúr, ahol a humán tőke kulcsfontosságú megkülönböztető tényező - mondta Teo, aki a héten az Asia Tech x Singapore csúcstalálkozón beszélt. .
A mesterséges intelligencia helytelen használata azonban nagy károkat okozhat, jegyezte meg. „A védőkorlátok ezért szükségesek ahhoz, hogy az embereket felelősségteljes használatukban vezessék el, és hogy az AI-termékek tervezésüknél fogva „biztonságosak legyenek mindannyiunk számára” - mondta.
"Reméljük, [a vitairat] sok beszélgetést indít el, és felhívja a figyelmet a szükséges védőkorlátokra" - tette hozzá.
A csúcstalálkozón folytatott zárt ajtók mögötti párbeszéd során felfedte, hogy magas rangú kormányzati tisztviselők is vitatták a mesterséges intelligencia közelmúltbeli fejlődését, beleértve a generatív mesterségesintelligencia-modelleket, és azt fontolgatták, hogy ezek miként ösztönözhetik a gazdasági növekedést és befolyásolhatják a társadalmakat.
A tisztviselők konszenzusra jutottak abban, hogy a mesterséges intelligenciát „megfelelően” kell irányítani és az emberiség javára használni - mondta Teo, aki a megbeszélés elnökeként összefoglalót adott. A minisztereket is magában foglaló találkozó résztvevői olyan nemzeteket képviseltek, mint Németország, Japán, Thaiföld és Hollandia.
A küldöttek abban is egyetértettek, hogy a mesterséges intelligencia irányítási politikáival kapcsolatos fokozott együttműködés és információcsere elősegítené a közös alapok azonosítását és a megközelítések jobb összehangolását. Ez az egység fenntartható és a célnak megfelelő mesterséges intelligencia irányítási keretrendszerekhez és technikai szabványokhoz vezetne - mondta Teo.
A tisztviselők nagyobb interoperabilitást sürgettek az irányítási keretek között, ami szerintük szükséges a mesterséges intelligencia-technológiák felelős fejlesztésének és elfogadásának elősegítéséhez világszerte.
Felismerték azt is, hogy a mesterséges intelligencia etikáját az oktatás korai szakaszában kell beépíteni, miközben az átképzésbe való befektetést prioritásként kell kezelni.
A közösség fellendítése
Szingapúr non-profit alapítványt hozott létre, hogy "kihasználja a kollektív hatalmat" és a globális nyílt forráskódú közösség hozzájárulását az AI-tesztelő eszközök fejlesztéséhez. A cél a felelős mesterséges intelligencia elfogadásának elősegítése, valamint a mesterséges intelligencia legjobb gyakorlatainak és szabványainak előmozdítása.
Az AI Verify Foundation néven meghatározza az AI Verify stratégiai irányát és fejlesztési ütemtervét, amelyet tavaly vezettek be irányítási tesztelési keretként és eszköztárként. A teszteszköztár nyílt forráskódúvá vált.
Az AI Verify Foundation jelenleg 60 tagot számlál: IBM, Salesforce, DBS, Singapore Airlines, Zoom, Hitachi és Standard Chartered.
Az alapítvány az IMDA 100%-os tulajdonában lévő leányvállalatként működik. Mivel az AI-tesztelési technológiák még csak kialakulóban vannak, a szingapúri kormányhivatal azt mondta, hogy a nyílt forráskódú és kutatói közösségek megkeresése elősegítené a piaci szegmens további fejlesztését.
Teo azt mondta: "Úgy gondoljuk, hogy az AI a következő nagy változás az internet és a mobil megjelenése óta. A fejlesztésével kapcsolatos nagyon valós félelmek és aggodalmak közepette aktívan kell terelnünk a mesterséges intelligenciát a jótékony célok felé, és el kell távolodnunk a rossz felhasználásoktól. Ez a kulcsa annak, ahogy Szingapúr az AI-ra gondol."
A csúcstalálkozón elmondott beszédében Szingapúr miniszterelnök-helyettese és pénzügyminisztere, Lawrence Wong megismételte a mesterséges intelligencia iránti bizalom megteremtésének fontosságát, hogy a technológia széles körben elterjedhessen.
"Már gépi tanulást használunk a döntéshozatal optimalizálására, és a generatív AI ezen túlmenően potenciálisan új tartalmat hoz létre és új ötleteket generál" - mondta Wong. "Mégis továbbra is komoly aggodalmak vannak. A helytelenül használt [AI] veszélyes torzításokat tarthat fenn a döntéshozatalban. A mesterséges intelligencia legújabb hullámával pedig a kockázatok még nagyobbak, mivel a mesterséges intelligencia intimebbé és emberszerűbbé válik."
Ezek a kihívások nehéz kérdéseket vetnek fel a szabályozó hatóságok, a vállalkozások és a társadalom egésze számára - mondta. "Milyen munkában kell segíteni a mesterséges intelligenciát? Mennyire kell egy MI-nek rendelkeznie a döntéshozatal felett, és milyen etikai biztosítékokat kell bevezetnünk a fejlődés irányításához?"
Wong hozzátette: "Egyetlen személy, szervezet vagy akár ország sem kaphat meg minden választ. Mindannyiunknak össze kell fognunk, hogy kritikus vitákat folytassunk, hogy meghatározzuk a megfelelő korlátokat, amelyek szükségesek lesznek a megbízhatóbb AI-rendszerek felépítéséhez."
Egy panelbeszélgetésen Alexandra van Huffelen, a Holland Belügyminisztérium és a Királyság-kapcsolatok munkatársa elismerte az AI lehetséges előnyeit, de aggodalmának adott hangot a lehetséges hatásai miatt, különösen az iparág vegyes jelzései közepette.
A digitalizációért felelős miniszter megjegyezte, hogy a piaci szereplők, mint például az OpenAI, hangoztatják termékeik előnyeit, ugyanakkor óvatosságra intnek, hogy a mesterséges intelligencia elpusztíthatja az emberiséget.
"Ez egy őrült történetet elmondani" - viccelődött van Huffelen, mielőtt megkérdezte a Microsoft egyik paneltársát, hogyan érzi magát, mivel cége befektető az OpenAI-ban, a ChatGPT mögötti ötletgazdában.
Az OpenAI társalapítói és vezérigazgatója a múlt hónapban közösen tettek közzé egy megjegyzést a vállalat honlapján, amelyben a „szuperintelligencia” mesterséges intelligencia-rendszerek szabályozását sürgették. Arról beszéltek, hogy szükség van egy olyan globális hatóságra, mint például a Nemzetközi Atomenergia Ügynökség, amely felügyeli a mesterséges intelligencia fejlesztését. Ennek az ügynökségnek "ellenőriznie kell a rendszereket, meg kell követelnie az auditokat, tesztelnie kell a biztonsági előírásoknak való megfelelést, korlátoznia kell a telepítési fokozatokat és a biztonsági szinteket", többek között - javasolták.
"Fontos lenne, hogy egy ilyen ügynökség az egzisztenciális kockázat csökkentésére összpontosítson, és ne azokra a kérdésekre, amelyeket az egyes országokra kellene hagyni, például annak meghatározására, hogy egy mesterséges intelligencia mit mondhat" - jegyezték meg. "Mind a lehetséges pozitív és árnyoldalakat tekintve, a szuperintelligencia erősebb lesz, mint más technológiák, amelyekkel az emberiségnek a múltban meg kellett küzdenie... Tekintettel az egzisztenciális kockázat lehetőségére, nem lehetünk csak reaktívak. Az atomenergia általánosan elterjedt használt történelmi példát egy technológia ezzel a tulajdonsággal."
A Microsoft ázsiai elnöke, Ahmed Mazhari válaszul elismerte, hogy van Huffelen visszautasítása nem volt indokolatlan, és megjegyezte, hogy ugyanazok a támogatók, akik márciusban petíciót írtak alá az AI-fejlesztések szüneteltetése érdekében, a következő hónapban saját AI chatbotjukba fektettek be.
A közösségi médiaplatformok felügyeletének hiányából eredő társadalmi károkra mutatva Mazhari azt mondta, hogy a technológiai ipar felelős azért, hogy megakadályozza a mesterséges intelligencia kudarca megismétlődését.
Megjegyezte, hogy a folyamatban lévő vita és a mesterséges intelligencia szabályozásának szükségességével kapcsolatos fokozott tudatosság, különösen a generatív mesterséges intelligencia területén, pozitív jel volt a mindössze hat hónappal ezelőtt piacra került technológia számára.
Ezen túlmenően van Huffelen hangsúlyozta, hogy a technológiai vállalatoknak felelősségteljesen kell cselekedniük, valamint szabályokat kell megállapítani, és olyan betartatást kell biztosítani, hogy a szervezetek betartsák ezeket az előírásokat. Azt mondta, "nem tesztelt", hogy ez a kettős megközelítés megvalósítható-e párhuzamosan.
Hangsúlyozta továbbá a bizalom megteremtésének fontosságát, hogy az emberek használni akarják a technológiát, és biztosítsák, hogy a felhasználók ellenőrizhessék, mit csinálnak online, ahogyan a fizikai világban tennék.
Keith Strier, az Nvidia világméretű mesterségesintelligencia-kezdeményezésekért felelős alelnöke, a paneltársa megjegyezte, hogy az irányítás bonyolult az AI-eszközök széles körű hozzáférhetősége miatt. Ez az általános elérhetőség azt jelenti, hogy több lehetőség nyílik nem biztonságos termékek gyártására.
Strier azt javasolta, hogy a szabályozás legyen a megoldás része, de ne az egyetlen válasz, mivel az ipari szabványok, a társadalmi normák és az oktatás ugyanolyan döntő fontosságúak az AI biztonságos alkalmazásának biztosításában.