Hogyan működik a Lenovo az AI torzítás megszüntetésén a laptopok gyártása során
Újragondolva a termékek sokfélesége: ebben az exkluzív interjúban a Lenovo Ada Lopez bemutatja, hogy a különböző csapatok hogyan alakíthatják a technológia és a mindenki számára elérhető hozzáférhetőség jövőjét.
Ada Lopez, a Lenovo Product Diversity Office vezető menedzsere
Amit már tudhat a Lenovóról: A multinacionális technológiai óriás több PC-t szállít, mint bármely más vállalat. Emellett a Lenovo sokrétű üzleti befektetései kiterjednek a táblagépekre, monitorokra, kiegészítőkre, okostelefonokra, intelligens otthoni és együttműködési megoldásokra, nagy teljesítményű számítástechnikára, kiterjesztett és virtuális valóságra, kereskedelmi tárgyak internetére, szoftverekre, szolgáltatásokra és intelligens infrastruktúra adatközponti megoldásokra.
De itt van, amit nem tudhat a Lenovóról: A vállalat emellett jelentős mértékben fektet be az AI-ba, és egy másik fajta sokszínűséget - az emberi sokszínűséget - kiemelt prioritássá tette. Lehetőségem volt interjút készíteni Ada Lopezzel, a Lenovo Termékdiverzitási Iroda felső vezetőjével. Megosztotta idejét, és az eredmény ez a lenyűgöző, széles körű beszélgetés a vállalat azon erőfeszítéseiről, hogy felszámolja az AI-elfogultságot és elősegítse a befogadást.
Vágjunk bele egyből.
ZDNET: Kérjük, mutatkozzon be, és adjon nekünk egy kis háttérinformációt arról, hogyan jutott el a Lenovo Termékdiverzitási Iroda működtetéséhez.
Ada Lopez: Ada Lopez vagyok, és a Lenovo Termékdiverzitási Iroda vezető menedzsere vagyok. Több mint 18 éves tapasztalattal rendelkezem tanárként, termék- és projektmenedzserként egyaránt.
Kubában született gyerekként, aki 5 évesen bevándorolt az Egyesült Államokba, szembe kellett néznem és megoldanom a kulturális, nyelvi és családi kirekesztés problémáit. A sokszínűséggel és a befogadással kapcsolatos kérdések elengedhetetlenek a túlélésemhez - és ezt szó szerint értem -, amióta az eszemet tudom. A Lenovónál betöltött szerepemben most erőfeszítéseimet azon technológiai akadályok vagy előítéletek felszámolására fordíthatom, amelyek kizárhatják ügyfeleinket.
Gondoskodni akarok arról, hogy a Lenovo termékei ugyanolyan elérhetőek legyenek a minden képességű felhasználók és az alulkiszolgált lakosság számára, mint mindenki más számára. Mivel folyamatosan új utakat törünk, a munkám nagyon izgalmas. Egy régóta elhanyagolt területen dolgozunk, ahol nincsenek meghatározott válaszok. Ez azt is jelenti, hogy kissé zavarónak kell lennem, mivel - vállalati szinten - arra kérem a technológiai szakembereket, hogy bővítsék ki véleményüket arról, hogy mi számít sikeres terméknek.
ZDNET: Meg tudná beszélni az ellenőrizetlen mesterséges intelligencia elfogultságának hosszú távú társadalmi hatásait?
AL: A mesterséges intelligencia megváltoztatja az üzleti környezetet, és a Lenovo felismeri a mesterséges intelligencia biztonságos és felelősségteljes megvalósításának fontosságát. Ennek az igénynek a kielégítésére a Lenovo létrehozta a Felelős mesterséges intelligencia bizottságot, amely egy 20 alkalmazottból álló csoport, akik nemtől, etnikai hovatartozástól és fogyatékosságtól eltérő hátteret képviselnek.
Együtt tekintik át a belső termékeket és a külső partnerségeket a sokszínűség és befogadás, a magánélet és a biztonság, az elszámoltathatóság és megbízhatóság, a magyarázhatóság, az átláthatóság, valamint a környezeti és társadalmi hatások elvei alapján.
ZDNET: Melyek a gyakori tévhitek a mesterséges intelligencia elfogultságáról a technológiai iparban?
AL: Van az a tévhit, hogy semmit sem tehetünk annak megakadályozására, hogy az elfogultság beszivárogjon az AI-rendszerekbe.
Már ma elkezdhetjük csökkenteni a mesterséges intelligencia elfogultságának kockázatát, ha gondoskodunk arról, hogy különböző hátterű vagy megélt tapasztalatokkal rendelkező tehetségekkel rendelkezzünk. A programozók vagy tervezők különböző nézőpontjainak beépítését elősegítő belső protokollok létrehozása az első lépés ahhoz, hogy az AI által a kimenetek generálására használt adatkészleten belül jelentős számú torzítást kezeljünk.
Ez az, amit a vállalkozások már ma elkezdhetnek!
ZDNET: Tudna példát mutatni a mesterséges intelligencia elfogultságára az automatizált rendszerekben és ennek társadalmi hatásaira?
AL: Tekintettel arra, hogy az AI-programok információit már meglévő internetes forrásokból szerzik be, lehetséges, hogy ezek a rendszerek nem tudják kiszűrni az elfogult véleményeket és nézőpontokat. Végső soron ez egy kiegyensúlyozatlan jövőhöz vezethet, amelyben a mesterséges intelligencia soha nem használja ki teljes potenciálját a nagyobb jó eszközeként.
Egy gyakori példa, amit tapasztalunk, a nemi elfogultság. Mivel az online adatok nagy része a férfiak felé fordult, a Boston Egyetem és a Microsoft együttműködésével végzett kutatása azt találta, hogy a Google Hírekkel kiképzett rendszerek a férfiakat olyan címekkel társítják, mint a „kapitány” és a „finanszírozó”. Ezzel szemben a nőket a "recepcióssal" és az "otthonossal" társítják.
Számos, elfogult adatokra kiképzett mesterséges intelligencia rendszer - amelyeket gyakran főleg férfi csapatok hoztak létre - jelentős problémákat okoz a nők számára. Ezek az előítéletek tükröződnek abban, hogy a hitelkártya-társaságok jobb lehetőségeket és eszközöket kínálnak a férfiaknak a COVID és a májbetegségek szűrésére, olyan területekre, ahol a rossz döntések károsíthatják az emberek anyagi vagy fizikai egészségét.
A Prolific szerint faji megkülönböztetést is tapasztaltunk az AI-t használó amerikai egészségügyi rendszerekben. Az AI-rendszert úgy tervezték, hogy előre jelezze, mely betegeknek van szükségük extra orvosi ellátásra, elemezve egészségügyi költségelőzményeiket.
A rendszer azt feltételezi, hogy a költség az adott személy egészségügyi ellátási igényeit jelzi, de nem veszi figyelembe a fekete-fehér betegek fizetési módjait. Ezen eltérés miatt a fekete betegek alacsonyabb kockázati pontszámot kaptak - feltételezhetően az egészségesebb fehér emberek költségeit tekintve -, és nem jogosultak ugyanarra az extra ellátásra, mint az azonos problémákkal küzdő fehér betegek.
ZDNET: Le tudná írni, hogy a Lenovo milyen kihívással szembesült a mesterséges intelligencia torzításával kapcsolatban, és hogyan oldották meg?
AL: Egyszer bemutattunk egy hiperrealisztikus, mesterséges intelligencia által vezérelt avatárt egy alkalmazotti rendezvényen, hogy bemutassuk a hatékony generatív AI-technológiát.
A munkatársaktól kapott negatív visszajelzésekre nem számítottunk, de tanulási lehetőséget adott, ami a jövőben az avatarok létrejöttét is befolyásolja. Az alkalmazottak részletes felmérése betekintést engedett a felhasználók megítélésébe, így a jövőbeli iterációk során kezelni tudjuk a véletlen torzítással kapcsolatos aggályokat.
Valódi szigort kell alkalmaznunk saját megoldásainkkal, valamint partnereink munkájával kapcsolatban, ahol a sokszínűségnek, a méltányosságnak és a befogadásnak bizonyított prioritásnak kell lennie. Dedikált eszközöket használunk az adatok torzításának értékelésére, és azon alpopulációk azonosítására, amelyek alulreprezentáltak vagy valamilyen módon szegmentálva lehetnek.
Az AI Fairness 360 nevű nyílt forráskódú szoftvert is használjuk a különböző algoritmusok és képzési adatok értékelésére, valamint a torzítás csökkentésére. Ez mélyebbre megy, mint a védett osztályok, például az olyan változók alapján kiválasztott társadalmi-gazdasági csoportokkal szembeni torzítás ellenőrzése, mint a jövedelemszint vagy a kreditpontszám.
ZDNET: Hogyan működik a Lenovo Termékdiverzitási Hivatala a mesterséges intelligencia lehetséges torzításainak azonosításában és kijavításában?
AL: A mesterséges intelligencia torzítása ritkán szüntethető meg teljesen, de arra törekszünk, hogy amennyire csak lehetséges, kezeljük és enyhítsük azáltal, hogy sokféle hátteret veszünk fel a képzési adatkészletbe.
A Lenovónál létrehoztunk egy Felelős mesterséges intelligencia bizottságot, amely 20, különböző hátterű embert tömörít, hogy eldöntse, milyen elveket kell támogatnia a mesterséges intelligenciának a szervezetben.
ZDNET: Hogyan befolyásolja a fejlesztőcsapat sokszínűsége a mesterséges intelligencia torzításának mérséklését?
AL: A munkahelyi sokszínűség előmozdítása és ösztönzése kulcsfontosságú, és ez biztosítja, hogy különböző háttérrel vagy megélt tapasztalatokkal rendelkező tehetségeket vonzunk be. Ahogy fentebb említettem, a programozók vagy tervezők különböző szempontjainak beépítését elősegítő belső protokollok létrehozása csökkenti annak kockázatát, hogy jelentős számú torzítás kerüljön beépítésre az AI által a kimenetek generálására használt adatkészletbe.
Az üzleti vezetők nagy szerepet játszanak a mesterséges intelligencia megjelenésének és feloldásának szabályozásában. Elengedhetetlen, hogy a szervezetek alaposan megtervezzék, mit jelent a felelős mesterséges intelligencia használat, és továbbra is elkötelezettek ennek az ideálnak a fenntartása mellett. Az érdekelt felekkel való együttműködés a lehetséges problémák meghatározása és a legjobb gyakorlatok kialakítása érdekében folyamatos figyelmet igényel a vezetéstől és a megfelelő csapatoktól, de ez elengedhetetlen.
ZDNET: Milyen szerepet játszanak az adatforrások a mesterséges intelligencia torzításában, és hogyan lehet ezt kezelni?
AL: A Lenovo Data for Humanity jelentése az üzleti vezetők 88%-a szerint a mesterséges intelligencia technológia fontos tényező lesz abban, hogy a következő öt évben segítsenek szervezetüknek felszabadítani adatainak értékét. Tehát amikor ezek a vállalatok adatokat gyűjtenek, dolgoznak fel vagy használnak fel, fennáll annak a veszélye, hogy az eredményeket az elfogultság alakítja.
ZDNET: Hogyan befolyásolhatja a mesterséges intelligencia elfogultsága a döntéshozatalt különböző ágazatokban, például az egészségügyben vagy a pénzügyekben?
AL: Számos példa van az egészségügyben AI-val vagy anélküli elfogultságra. A mesterséges intelligencia esetében a kihívás részben az, hogy egy algoritmus felismerheti az adatok mintázatait, és rossz következtetést vonhat le. Bár ez az adatkészlet alátámasztja a következtetést, előfordulhat, hogy hiányoznak a kulcsváltozók. Vagy, ahogy ez gyakran megtörténik, a minta egy adott csoporton belüli történelmi téves diagnózis vagy elhanyagolás eredménye lehet.
A rendészeti adatok gyakori példája az adatok torzításának. Ha bizonyos közösségeket jobban felügyelik, akkor magasabb a letartóztatások száma. A mesterséges intelligencia számára a letartóztatás egyenértékű a bűnözéssel, így az lehet a következtetés, hogy a bűnözés nagyobb. Az adatok rögzítik a torzításokat és mintákat. A kontextus itt minden.
ZDNET: Milyen fejlesztések történtek az AI-technológiában a torzítás észlelése és kijavítása érdekében?
AL: A megmagyarázhatóság gyorsan fejlődik, így jobban megértjük, hogyan hozott létre valamit egy mesterséges intelligencia. A lineáris regressziós algoritmusok rendkívül megmagyarázhatók, de a neurális hálózati folyamatoknak mindig vannak rejtett elemei. Mindazonáltal léteznek új módszerek a mesterséges intelligencia tisztázására és jobb magyarázatára, és fontos, hogy a Lenovohoz hasonló vállalatok kihasználják ezeket a fejlesztéseket.
A forrásadatokban és az AI-ban használt modellben is nagyobb átláthatóságot látunk, így jobban tudjuk azonosítani és kijavítani a hiányosságokat és hiányosságokat. Átláthatóság nélkül lehetetlen lekérdezni és javítani a képzési adatokat és algoritmusokat.
ZDNET: Milyen módokon használhatók fel a fogyasztói visszajelzések a mesterséges intelligencia torzításának azonosítására és korrigálására?
AL: A legtöbb esetben az ügyfelek visszajelzése az utolsó lehetőség. A fejlesztés során a csapatoknak tudatosan konzultálniuk kell és képviselniük kell a különböző csoportokat az elfogultság csökkentése érdekében - ennek minden mesterséges intelligencia alapjain kell megtörténnie.
A vásárlói visszajelzések azonban értékessé válhatnak kisebb alpopulációk esetén vagy több dimenziójú metszéspontok kezelésekor; például a szexualitás, a rassz vagy a nemi identitás.
ZDNET: Hogyan javíthatják az interdiszciplináris megközelítések a mesterséges intelligencia torzításának megértését és csökkentését?
AL: A Lenovo Felelős mesterségesintelligencia-bizottsága nagyon eltérő hátterű és szakterületű emberekből áll, beleértve a biztonságot, az értékesítést, a magánélet védelmét, a jogot, valamint a sokszínűséget és befogadást. Nagy hasznunkra válik a vélemények sokfélesége és a technológia nagyon szigorú felülvizsgálata.
És ezt kiegészítjük lektorált tanulmányokkal és kutatásokkal, amelyeket különböző célokkal és hatókörrel végeznek. A mesterséges intelligencia nem új keletű, de a bevezetés jelenlegi mértéke és sebessége példátlan, ezért rendkívül megfontoltnak és ébernek kell lennünk.
ZDNET: Milyen tanácsot adna más technológiai cégeknek a mesterséges intelligencia torzításának kezelésében?
AL: Emberként, bármennyire is igyekszünk, eredendően vannak elfogultságaink - tudatos és tudattalan egyaránt. A programozás különböző szintjein belül mindig lesz bizonyos szintű elfogultság, de továbbra is szorgalmasak lehetünk annak biztosításában, hogy az emberek megértsék és felismerjék előítéleteiket.
Ezért is szükséges különböző tapasztalatokkal, háttérrel és nézőponttal rendelkező csapatok felépítése.
ZDNET: Bármilyen más gondolatot szeretne megosztani a ZDNET globális közönségével?
AL: Az AI képes teljesen megváltoztatni világunk működését. Mint minden technológia esetében, itt is meg kell értenünk a képességeit, valamint használatának hátrányait. A mesterséges intelligencia csekély felügyelet mellett való elhagyása problémás lehet, különösen, ha ez a technológia egyre okosabb lesz.
Ehelyett meg kell kérdőjeleznünk és megkérdőjeleznünk a kimeneteket, és meg kell vizsgálnunk azokat, amelyek irányítják a bemeneteket. Fel kellene fedeznünk az AI-t és asszisztensként használnunk, de még nem jutott el odáig, hogy teljes mértékben támaszkodhassunk rá.
Utolsó gondolatok
A ZDNET szerkesztői és én szeretnénk megosztani egy hatalmas kiáltást Adának, amiért időt szakított erre a mélyinterjúra. Van itt sok ok az elgondolkodtatásra. Köszönöm, Ada!
mit gondolsz? Adtak-e ötletet Ada ajánlásai arra vonatkozóan, hogyan javíthatná a szervezetében az elfogultság és a sokszínűség problémáit? Tudassa velünk az alábbi megjegyzésekben.
A közösségi médiában nyomon követheti a projektekkel kapcsolatos napi híreket. Feltétlenül iratkozzon fel a heti frissített hírlevelemre a Substack oldalon, és kövessen engem a Twitteren a @DavidGewirtz címen, a Facebookon a Facebook.com/DavidGewirtz címen, az Instagramon az Instagram.com/DavidGewirtz oldalon és a YouTube-on a YouTube.com/DavidGewirtzTV címen.