A mesterséges intelligencia torzításának kiküszöbölése mindenki feladata
Felhívás a mesterséges intelligencia bevezetése mögötti tudatosságra és képzésre. Nem csak a fejlesztők és az adattudósok, hanem a termékmenedzserek, vezetők, marketingmenedzserek és kereskedők számára is.
Mivel a mesterséges intelligencia alapú döntéshozatalra és műveletekre való támaszkodás napról napra növekszik, fontos, hogy tegyen egy lépést hátra, és kérdezze meg, hogy mindent megtesznek-e a méltányosság biztosítása és az elfogultság mérséklése érdekében. Nagyobb tudatosságra és képzésre van szükség a mesterséges intelligencia bevezetése mögött. Nem csak a fejlesztők és az adattudósok, hanem a termékmenedzserek, vezetők, marketingmenedzserek és kereskedők számára is. Ezt mondta John Boezeman, az Acoustic technológiai igazgatója, aki megosztotta meglátásait a mesterséges intelligencia helyes megvalósításának sürgősségéről.
K: Mennyire tartanak a vállalati erőfeszítések a méltányosság elérése és az AI eredmények torzításának kiküszöbölése érdekében?
Boezeman: A mesterséges intelligencia torzításának vagy torzításának meghatározása nagyon nehéz probléma, és sok extra odafigyelést, szolgáltatást és pénzügyi befektetést igényel ahhoz, hogy ezeket a problémákat ne csak észleljék, hanem kijavítsák és kompenzálják. Sok vállalat akaratlanul is elfogult vagy hiányos adatokat használt különböző modellekben; Ennek megértése és megváltoztatása kulturális változásokat és gondos tervezést igényel a vállalaton belül.
Azok, akik meghatározott adatetikai elvek szerint működnek, jó helyzetben lesznek ahhoz, hogy elkerüljék a mesterséges intelligencia torzítását, vagy legalábbis képesek lesznek észlelni és orvosolni, ha és amikor azonosítják.
K: Eleget tesznek a vállalatok annak érdekében, hogy rendszeresen felülvizsgálják mesterséges intelligencia eredményeiket? Mi a legjobb módja ennek?
Boezeman: Ahogy új eszközök állnak rendelkezésre a mesterséges intelligencia auditálhatósága körül, sokkal több vállalatot fogunk látni, akik rendszeresen felülvizsgálják mesterséges intelligencia eredményeit. Manapság sok vállalat vagy olyan terméket vásárol, amely mesterséges intelligencia funkcióval vagy képességgel rendelkezik, vagy az a termék szabadalmaztatott funkciójának része, amely nem teszi közzé az auditálhatóságot.
A vállalatok az alapvető AI-képességeket is felállíthatják egy adott felhasználási esethez, általában az AI felfedezési szintjén. Azonban ezekben az esetekben az ellenőrzés általában korlátozott. Ahol az auditálás igazán fontossá válik, az az AI "ajánlási" és "cselekvési" szintjei. Ebben a két fázisban fontos, hogy olyan auditáló eszközt használjon, amely nem vezet be torzítást és torzítja az eredményeket.
A mesterséges intelligencia auditálásának egyik legjobb módja az egyik nagyobb felhőszolgáltató mesterséges intelligencia és gépi tanulási szolgáltatásainak használata. Ezen gyártók közül sok rendelkezik olyan eszközökkel és technológiai stackekkel, amelyek lehetővé teszik ezen információk nyomon követését. Szintén kulcsfontosságú az elfogultság vagy az elfogultsághoz hasonló viselkedés azonosítása, hogy az adattudósok, valamint az AI és ML fejlesztők képzésének része legyen. Minél több embert oktatnak arról, hogy mire kell figyelni, annál felkészültebbek lesznek a vállalatok az AI elfogultságának azonosítására és mérséklésére.
K: Az informatikai vezetőknek és a személyzetnek több képzést és tudatosságot kell kapnia a mesterséges intelligencia elfogultságának enyhítése érdekében?
Boezeman: Egyértelműen. Mind az adattudósoknak, mind az AI/ML fejlesztőknek képzésre van szükségük az elfogultságról és a torzításról, de az is fontos, hogy ezt a képzést kiterjesszék a termékmenedzserekre, vezetőkre, marketingmenedzserekre és kereskedőkre is.
Könnyű beleesni abba a csapdába, hogy azt csinálja, amit mindig is tett, vagy csak egy elfogultság-központú megközelítést követ, mint sok iparág a múltban. De a mesterséges intelligencia elfogultságának enyhítésére irányuló képzéssel a szervezet munkatársai képesek lesznek azonosítani az elfogultságot, ahelyett, hogy bíznának abban, hogy minden, amit a mesterséges intelligencia produkál, tény. Innentől kezdve a vállalat segíthet enyhíteni a hatását.
K: A mesterséges intelligencia és a gépi tanulás kezdeményezései már évek óta zajlanak. Milyen tanulságokat vontak le a vállalatok a legproduktívabb bevezetés és bevezetés szempontjából?
Boezeman: A mesterséges intelligencia nem csodaszer arra, hogy mindent megoldjon. Sok kísérletet láttam arra, hogy a mesterséges intelligenciát bármilyen felhasználási esetre dobják, függetlenül attól, hogy az AI a megfelelő felhasználási eset, mindezt azért, hogy lehetővé tegyenek egy marketingtörténetet anélkül, hogy valódi értéket nyújtanának. Az AI-megoldások sikeres üzembe helyezésének trükkje az adatok minőségének, valamint a döntéshozatalt irányító modellek és algoritmusok minőségének kombinációja. Egyszerűen fogalmazva, ha szemetet teszel be, akkor szemetet kapsz. A legsikeresebb telepítések éles felhasználási esettel és jól meghatározott adatokkal rendelkeznek.
K: A szervezet mely területei látják a legnagyobb sikert a mesterséges intelligenciával?
Boezeman: A mesterséges intelligenciának számos különböző szakasza van, de többnyire három alapvető állapotra lehet lebontani: felfedezés, ajánlás és automatikus cselekvés. Jelenleg a legtöbb helyen látom, hogy a felfedezés - betekintések, riasztások, értesítések - térben használják. Ez az a hely, ahol a rendszer azt mondja, hogy valami abnormális vagy az ismert mintákon kívül történik, vagy valami olyan irányba mutat, amely érdekelnie kellene. Az emberek bíznak ebben a fajta interakcióban és modellben, és könnyen együttműködhetnek, ha bizonyítékot akarnak.
A marketingszakemberek a mesterséges intelligenciát használják a felfedezési térben, hogy meghatározzák, mennyire sikeresek például kampányaik. Egy másik példa egy kereskedő, amely mesterséges intelligencia alapú megoldást telepíthet a csalások vagy az ügyfélúttal kapcsolatos problémák észlelésére.
Ahol még mindig sok hezitálást látok, az az ajánlás és a cselekvés állapota. Korábban volt egy termékem, amely kiszámította a legjobb árat egy termékre, és megrendelte, hogy megjelenítse őket egy webáruházban, számos adatpont alapján, a mennyiségtől a jövedelmezőségig, a leárazásig és a raktárban használt tárhelyig. És még ez a termék is, ha bekapcsolja, automatikusan intézkedhet. Azt találtuk, hogy sok kereskedő szereti látni az ajánlást, de személyesen akartak cselekedni, és több lehetőséget is látni akartak, végül pedig látni akarták a döntési fát, hogy miért ajánlott a rendszer egy opciót. Amikor először elindítottuk, nem rendelkeztünk a "Miért ajánlotta a rendszer az XYZ-t?" funkcióval. Amíg nem adtunk módot arra, hogy a kereskedő láthassa, min alapul az ajánlás, nem bíztak benne.
K: Milyen technológiák vagy technológiai megközelítések teszik a legnagyobb különbséget?
Boezeman: Sok olyan vállalat működik ezen a területen, amelyek nap mint nap új, hatásos technológiákat találnak ki. A Spark és az Amazon Sagemaker két példa. A legnagyobb különbséget azonban azok a technológiák jelentik, amelyek lehetővé teszik az AI-modellek torzításának azonosítását. Ha az AI-algoritmusok elfogultak, tisztességtelen és helytelen eredményekhez vezethetnek. Ha látja a rendszer torzítását, diagnosztizálhatja és enyhítheti a helyzetet. Ahogy az iparág tovább növekszik, ez lesz az egyik legfontosabb alapképesség, amelyet minden technológiai stacknek támogatnia kell.