Hogyan használja ki az IBM iparági átalakítási terve a mesterséges intelligenciát, az 5G-t és az együttműködést
A mesterséges intelligenciáról szóló uniós jogszabály a világ egyik legbefolyásosabb jogi keretének bizonyulhat. Íme, hogyan és miért foglalkozik ezzel a Mozilla Alapítvány, és hogyan vehet részt Ön is
Egy évvel az első tervezet bevezetése után az uniós mesterséges intelligenciáról szóló jogszabály részletei továbbra is kevéssé változtak. Annak ellenére, hogy ez a szabályozási keret még mindig nincs véglegesítve - vagy inkább éppen emiatt -, itt az ideje, hogy többet megtudjunk róla.
Korábban ismertettünk néhány kulcsfontosságú tényt a mesterséges intelligenciáról szóló uniós jogszabályról: kire vonatkozik, mikor lép hatályba, és miről szól. A Mozilla Alapítvány ügyvezető igazgatójával, Mark Surmannal és Maximilian Gahntz vezető politikai kutatóval együtt kezdtük el ezt a feltárást.
Ahogy Surman megosztotta, a Mozilla mesterséges intelligenciára való összpontosítása nagyjából ugyanabban az időben történt, amikor az EU mesterséges intelligencia törvénye is megkezdte életciklusát - körülbelül 2019-ben. A Mozilla világszerte együttműködött az emberekkel, hogy feltérképezzen egy elméletet arról, hogyan lehet a mesterséges intelligenciát megbízhatóbbá tenni, két hosszú távú eredményre összpontosítva: az ügynökségre és az elszámoltathatóságra.
Ma folytatjuk a beszélgetést Surmannal és Gahntzcal. Megvitatjuk a Mozilla ajánlásait az EU mesterséges intelligenciáról szóló törvényének javítására és az emberek részvételének módjára, valamint a Mozilla mesterséges intelligencia változáselméletét.
A mesterséges intelligenciáról szóló uniós jogszabály folyamatban van
Közeleg az EU mesterséges intelligenciáról szóló törvénye, mivel várhatóan 2025 körül lép hatályba, és a mesterséges intelligenciára gyakorolt hatása hasonló lehet a GDPR adatvédelemre gyakorolt hatásához.
A mesterséges intelligenciáról szóló uniós jogszabály az MI-rendszerek EU-n belüli felhasználóira és szolgáltatóira, az EU-n kívül letelepedett szállítókra, akik az MI-rendszer EU-n belüli forgalomba hozatalának vagy üzembe helyezésének forrásai, valamint az MI-rendszerek EU-n kívül letelepedett szolgáltatóira és felhasználóira vonatkozik, amennyiben a rendszer által generált eredményeket az EU-ban használják fel.
Megközelítése az MI-rendszerek 4 szintű kategorizálásán alapul az általuk jelentett észlelt kockázat szerint: Az elfogadhatatlan kockázatú rendszereket teljesen betiltják (bár néhány kivétel érvényes), a magas kockázatú rendszerekre a nyomon követhetőség, az átláthatóság és a robusztusság szabályai vonatkoznak, az alacsony kockázatú rendszerekre átláthatóságot kell megkövetelni a szállító részéről, és minimális kockázatú rendszerekre, amelyekre nem vonatkoznak követelmények.
Ezen a ponton az Európai Parlament kialakítja álláspontját, figyelembe véve a kijelölt bizottságoktól és harmadik felektől kapott észrevételeket. Miután az Európai Parlament megszilárdította a megbízható mesterséges intelligencia kifejezés alatt értelmezett elképzeléseit, benyújtják ötleteiket az eredeti tervezet megváltoztatására. Ezt követi a Parlament, a Bizottság és a tagállamok közötti tárgyalások utolsó fordulója, és ekkor fogadják el az uniós mesterséges intelligenciáról szóló törvényt.
A mesterséges intelligenciáról szóló uniós jogszabály irányának befolyásolásához itt az ideje, hogy cselekedjünk. Amint azt a Mozilla 2020-as Creating Trustworthy AI című tanulmánya kijelentette, a mesterséges intelligencia óriási lehetőségeket rejt magában életminőségünk javítására. De a mesterséges intelligencia integrálása a mindennap használt platformokba és termékekbe ugyanúgy veszélyeztetheti biztonságunkat és magánéletünket. [...] Hacsak nem tesznek kritikus lépéseket e rendszerek megbízhatóságának növelése érdekében, a mesterséges intelligencia fennáll annak a veszélye, hogy elmélyül a meglévő egyenlőtlenségek.
A Mozilla úgy véli, hogy hatékony és előremutató szabályozásra van szükség, ha azt akarjuk, hogy a mesterséges intelligencia megbízhatóbb legyen. Ezért üdvözölte az Európai Bizottság két évvel ezelőtt a mesterséges intelligenciáról szóló fehér könyvében megfogalmazott törekvéseit. A Mozilla álláspontja az, hogy az EU mesterséges intelligenciáról szóló jogszabály a helyes irányba tett lépés, de fejlődésre is hagy teret.
A Mozilla által javasolt fejlesztéseket egy blogbejegyzésben ismertettük. Három pontra összpontosítanak:
- Az elszámoltathatóság biztosítása
- A rendszerszintű átláthatóság megteremtése
- Erősebb hangot adunk az egyéneknek és a közösségeknek.
A 3 fókuszpont
Az elszámoltathatóság valójában arról szól, hogy kinek miért kell felelősnek lennie az AI ellátási láncában, amint azt Gahntz kifejtette. A kockázatokkal ott kell foglalkozni, ahol felmerülnek; Legyen szó akár a műszaki tervezés, akár a telepítés szakaszáról, tette hozzá.
A mesterséges intelligenciáról szóló uniós jogszabály a legtöbb kötelezettséget a magas kockázatú MI-rendszerek jelenlegi formájában fejlesztőkre és forgalmazókra róná. Bár ennek jó okai vannak, Gahntz úgy véli, hogy az AI-rendszerrel kapcsolatos kockázatok a pontos céltól és a használat kontextusától is függenek. Ki telepíti a rendszert, és milyen szervezeti környezetet érinthet a telepítés használata - ezek mind releváns kérdések.
Ennek kontextusba helyezéséhez vegyük figyelembe egy olyan nagy nyelvi modell esetét, mint a GPT-3. Használható egy novella összefoglalására (alacsony kockázat) vagy a hallgatói esszék értékelésére (magas kockázat). A lehetséges következmények itt nagymértékben eltérnek, és a telepítőket felelősségre kell vonni az AI-rendszerek használatának módjáért, de olyan kötelezettségek bevezetése nélkül, amelyeket nem tudnak hatékonyan teljesíteni - érvel a Mozilla.
A rendszerszintű átláthatóság túlmutat a felhasználók felé irányuló átláthatóságon. Bár jó, ha a felhasználók tudják, mikor lépnek kapcsolatba egy mesterséges intelligencia rendszerrel, magasabb szinten arra is szükségünk van, hogy az újságírók, kutatók és szabályozók képesek legyenek megvizsgálni a rendszereket, és azt, hogy ezek hogyan befolyásolják az embereket és a közösségeket a helyszínen - mondta Gahntz.
A mesterséges intelligenciáról szóló uniós jogszabálytervezet potenciálisan hatékony mechanizmust tartalmaz a rendszerszintű átláthatóság biztosítására: a Bizottság által létrehozott és fenntartott, a magas kockázatú MI-rendszerek nyilvános adatbázisát, ahol a fejlesztők regisztrálják és tájékoztatást nyújtanak ezekről a rendszerekről azok üzembe helyezése előtt.
A Mozilla ajánlása itt háromszoros. Először is, ezt a mechanizmust kiterjesztik a magas kockázatú MI-rendszerek valamennyi telepítőjére. Másodszor, további információkat is jelent, például az AI-rendszer kialakításának, általános logikájának és teljesítményének leírását. Harmadszor, hogy információkat tartalmaz a súlyos incidensekről és meghibásodásokról, amelyeket a fejlesztőknek már jelenteniük kellene a nemzeti szabályozó hatóságoknak a mesterséges intelligenciáról szóló törvény értelmében.
A Mozilla elkötelezettsége az EU mesterséges intelligenciáról szóló jogszabályban összhangban van az AI változáselméletével, amely magában foglalja az iparági normák megváltoztatását, új technológiák és termékek fejlesztését, a kereslet generálását, valamint a szabályozások és ösztönzők létrehozását
Az egyének és a közösségek erősebb hangjának megadása hiányzik az EU mesterséges intelligenciáról szóló törvényének eredeti tervezetéből - mondta Gahntz. A jelenlegi állás szerint csak az uniós szabályozók vonhatnák felelősségre a vállalatokat a mesterséges intelligencián alapuló termékek és szolgáltatások hatásaiért.
A Mozilla azonban úgy véli, hogy az egyének számára is kritikus fontosságú, hogy felelősségre vonhassák a vállalatokat. Ezenkívül más szervezeteknek - például a fogyasztóvédelmi szervezeteknek vagy a szakszervezeteknek - képesnek kell lenniük arra, hogy panaszt nyújtsanak be az egyének vagy a közérdek nevében.
Ezért a Mozilla támogatja azt a javaslatot, hogy az érintett egyének és egyének csoportjai hivatalos panaszt nyújthassanak be a nemzeti felügyeleti hatóságokhoz, mint egyetlen kapcsolattartó pontot az egyes EU-tagállamokban.
A Mozilla azt is megjegyzi, hogy az AI-törvény elfogadása előtt számos további módon is megerősíthető. Például a magas kockázatú mesterséges intelligencia kijelölésére szolgáló mechanizmus időtállósága, valamint annak biztosítása, hogy a magas kockázatú MI-rendszerek által teljesítendő követelmények működőképessé tétele során a perspektívák széles skáláját vegyék figyelembe.
Részvétel a változás mesterséges intelligencia elméletében
Egyetérthet a Mozilla ajánlásaival, és támogatást szeretne nyújtani. Érdemes lehet kiegészíteni őket, vagy saját javaslatokat javasolni. Azonban, ahogy a Mozilla emberei megjegyezték, a részvétel folyamata kicsit olyan, mint a saját kampány vezetése - nincs olyan, hogy "ezt az űrlapot kell kitöltenie".
"A részvétel módja valójában a normális demokratikus folyamat. Vannak választott tisztviselők, akik ezeket a kérdéseket vizsgálják, a közszolgálaton belül is vannak emberek, akik felteszik ezeket a kérdéseket, és aztán van egy iparág a nyilvánosságban, akik megvitatják ezeket a kérdéseket.
Szerintem van egy sajátos mechanizmus; Természetesen a hozzánk hasonló emberek konkrét ajánlásokkal fognak mérlegelni. És ha velünk mérlegel, segít felerősíteni ezeket.
De úgy gondolom, hogy a nyílt demokratikus beszélgetés - a nyilvánosság előtt lenni, szövetségeseket szerezni és kapcsolatba lépni olyan emberekkel, akiknek az elképzeléseivel egyetértesz, birkózni és felszínre hozni a nehéz témákat. Ez az, ami változást fog hozni, és minden bizonnyal erre összpontosítunk" - mondta Surman.
Ezen a ponton valójában a közvélemény és a döntéseket hozni képes emberek véleményének befolyásolásáról van szó Gahntz szerint. Ez parlamenti képviselőket, EU-tagállami tisztviselőket és az Európai Bizottság tisztviselőit jelenti - tette hozzá.
Alulról építkező szinten az emberek ugyanazt tehetik meg, mint mindig, vélekedett Gahntz. Írhat a helyi képviselőnek; aktív lehet a közösségi médiában, és megpróbálhatja felerősíteni azokat a hangokat, amelyekkel egyetért; aláírhat petíciókat, és így tovább. A Mozilla hosszú múltra tekint vissza a közpolitika alakításában.
"Az ügynökség és az elszámoltathatóság kérdései állnak a középpontban, és úgy gondoljuk, hogy az EU mesterséges intelligenciáról szóló törvény nagyon jó hátteret biztosít, ahol globális tovagyűrűző hatások lehetnek, hogy a dolgokat a helyes irányba tereljék ezekben a témákban" - mondta Surman.
Az ügynökség és az elszámoltathatóság a kívánt hosszú távú eredmények a Mozilla AI Theory Of Change című könyvében, amelyet 2019-ben fejlesztettek ki 12 hónapos szakértőkkel való beszélgetéssel, mesterséges intelligencia témájú kampányok és projektek olvasásával és tesztelésével. Ez a feltárás csiszolta a Mozilla gondolkodását a megbízható mesterséges intelligenciáról azáltal, hogy megerősítette számos kihívási területet, beleértve a monopóliumokat és a központosítást, az adatkormányzást és a magánéletet, az elfogultságot és a diszkriminációt, valamint az átláthatóságot és az elszámoltathatóságot.
A Mozilla AI változáselmélete számos rövid távú eredményt (1-3 év) azonosít, 4 középtávú eredményre (3-5 év) csoportosítva: az iparági normák megváltoztatása, új technológiák és termékek kiépítése, kereslet generálása, valamint szabályozások és ösztönzők létrehozása. Az elképzelt hosszú távú hatás "a mesterséges intelligencia világa lenne, [ahol] a fogyasztói technológia gazdagítja az emberek életét".
"A szabályozás lehetővé teszi, de anélkül, hogy az emberek más módon építenének különböző technológiát, és az emberek ezt a technológiát akarnák használni, a törvény egy darab papír" - fogalmazott Surman.
Ha megnézzük a GDPR precedensét, néha nagyon érdekes új cégeket és új szoftvertermékeket kaptunk, amelyek szem előtt tartják az adatvédelmet, és néha csak bosszantó felugró emlékeztetőket kaptunk az adatgyűjtésről és a cookie-król, és így tovább.
"Nehéz feladat annak biztosítása, hogy egy ilyen törvény valódi változást és valódi értéket teremtsen az emberek számára. Ezért most arra kell összpontosítani, hogy mik azok a gyakorlati dolgok, amelyeket az iparág, valamint a fejlesztők és a telepítők tehetnek a mesterséges intelligencia megbízhatóbbá tétele érdekében. Meg kell győződnünk arról, hogy a szabályozás valóban tükrözi és ösztönzi az ilyen jellegű intézkedéseket, és nem csak a felhőben ül" - zárta Surman.