4 módszer a generatív mesterséges intelligencia miatti legnagyobb aggodalmak leküzdésére
A generatív mesterséges intelligencia varázslatnak tűnhet, de tisztában kell lennie a buktatókkal. Négy cégvezető elmagyarázza, hogyan kezelheti a kockázatokat.
A generatív mesterséges intelligencia (AI) varázslat a gyakorlatlan szem számára.
A szöveg összefoglalásától a képek létrehozásáig és a kódírásig az olyan eszközök, mint az OpenAI ChatGPT és a Microsoft Copilot, pillanatok alatt zseniális megoldásokat hoznak létre a kihívást jelentő kérdésekre. A generatív mesterséges intelligencia varázslatos képességei azonban mellékes trükkökkel is járhatnak.
Legyen szó etikai aggályokról, biztonsági problémákról vagy hallucinációkról, a felhasználóknak tisztában kell lenniük azokkal a problémákkal, amelyek alááshatják a feltörekvő technológia előnyeit. Itt négy cégvezető elmagyarázza, hogyan lehet leküzdeni néhány nagy gondot a generatív mesterséges intelligencia segítségével.
1. Használja ki az új lehetőségeket etikus módon
Birgitte Aga, a norvégiai Munch Múzeum innovációs és kutatási vezetője szerint a mesterséges intelligencia kapcsán felmerülő aggodalmak nagy része azzal jár, hogy az emberek nem értik annak lehetséges hatását - és ennek jó oka van.
Még egy olyan nagy horderejű generatív AI-eszköz is, mint a ChatGPT, csak alig több mint 12 hónapja érhető el a nyilvánosság számára. Míg sokan belekóstoltak a technológiába, kevés vállalkozás használta az eszközt termelési környezetben.
Aga szerint a szervezeteknek lehetőséget kell adniuk alkalmazottaiknak, hogy meglássák, mire képesek a feltörekvő technológiák biztonságosan. „Szerintem kulcsfontosságú, hogy csökkentsük a küszöböt, hogy mindenki részt vegyen és részt vegyen” - mondja. - De ez nem azt jelenti, hogy kritikátlanul kell csinálni.
Aga azt mondja, hogy miközben az alkalmazottak megvitatják az AI használatának módját, figyelembe kell venniük néhány olyan nagy etikai kérdést is, mint az elfogultság, a sztereotípiák és a technológiai korlátok.
A ZDNET-tel folytatott videocsevegésben elmagyarázza, hogyan dolgozik a múzeum a technológiai specialistával, a TCS-vel annak érdekében, hogy megtalálják a mesterséges intelligencia felhasználásával a művészet elérhetőbbé tételét a szélesebb közönség számára.
„A TCS-vel minden találkozón valóban igazodunk az etikához és erkölcsünkhöz” - mondja. "Keressen olyan munkatársakat, akikhez valóban igazodik ezen a szinten, majd építsen onnan, ahelyett, hogy csak olyan embereket keresne, akik nagyszerű dolgokat csinálnak."
2. Állítson fel munkacsoportot a kockázatok mérséklésére
Avivah Litan, a Gartner kiemelkedő alelnöke szerint az egyik legfontosabb kérdés, amellyel tisztában kell lenni, az IT-részlegen kívüli emberek változási nyomása.
"A vállalkozás teljes gőzzel akarja felrobbantani magát" - mondja, utalva arra, hogy az egész szervezet szakemberei generatív mesterségesintelligencia-eszközöket alkalmaznak, akár a felelősök beleszólása mellett, akár anélkül. "A biztonsági és kockázatos emberek nehezen tudják felkarolni ezt a bevetést, nyomon követni az emberek tevékenységét és kezelni a kockázatokat."
Ennek eredményeként nagy a feszültség két csoport között: azok között, akik használni akarják az AI-t, és azok között, akiknek kezelniük kell a használatát.
"Senki sem akarja elfojtani az innovációt, de a biztonsági és kockázati embereknek még soha nem kellett ilyesmivel megküzdeniük" - mondja a ZDNET-tel folytatott videocsevegésben. "Bár a mesterséges intelligencia évek óta létezik, a generatív mesterséges intelligencia megjelenéséig nem kellett igazán aggódniuk e technológia miatt."
Litan szerint az aggodalmak eloszlatásának legjobb módja egy munkacsoport létrehozása a mesterséges intelligencia számára, amely az egész üzletág szakértőit veszi igénybe, és amely figyelembe veszi a magánélet védelmét, a biztonságot és a kockázatokat.
"Akkor mindenki ugyanazon az oldalon van, így tudják, mik a kockázatok, tudják, mit kell tennie a modellnek, és végül jobb teljesítményt érnek el" - mondja.
Litan szerint a Gartner kutatása azt sugallja, hogy a szervezetek kétharmada még nem hozott létre munkacsoportot a mesterséges intelligencia számára. Arra bátorít minden vállalatot, hogy hozzanak létre egy ilyen, több üzletágat átfogó csoportot.
"Ezek a munkacsoportok a közös megegyezést támogatják" - mondja. "Az emberek tudják, mire számíthatnak, és az üzlet több értéket tud teremteni."
3. Fékezze vissza modelljeit a hallucinációk csökkentése érdekében
Thierry Martin, a Toyota Motors Europe adat- és elemzési stratégiáért felelős vezető menedzsere azt mondja, hogy a generatív mesterséges intelligencia kapcsán a hallucinációk a legnagyobb gondja.
Az ilyen jellegű problémákat első kézből látta, amikor tesztelte a generatív mesterséges intelligenciát kódolási célokra.
A személyes felfedezéseken túllépve Martin azt mondja, hogy a vállalatoknak figyelmet kell fordítaniuk az általuk használt nagy nyelvi modellekre (LLM), az általuk igényelt inputokra és az általuk továbbított kimenetekre.
"Nagyon stabil, nagy nyelvi modellekre van szükségünk" - mondja. "A mai legnépszerűbb modellek közül sok olyan sok mindenre van kiképezve, mint például a költészet, a filozófia és a technikai tartalom. Ha feltesz egy kérdést, nyitva áll a hallucinációk előtt."
A ZDNET-nek adott egy-egy videointerjúban Martin hangsúlyozza, hogy a vállalkozásoknak meg kell találniuk a módját a visszafogottabb nyelvi modellek létrehozásának.
„Az általam biztosított tudásbázison belül szeretnék maradni” - mondja. "Akkor, ha valami konkrétat kérdezek a modellemtől, a megfelelő választ fog adni. Tehát olyan modelleket szeretnék látni, amelyek jobban kötődnek az általam szolgáltatott adatokhoz."
Martin szeretne többet megtudni az úttörő fejlesztésekről, például a Snowflake és az Nvidia együttműködéséről, ahol mindkét cég mesterséges intelligencia-gyárat hoz létre, amely segít a vállalatoknak adataikat egyedi generatív AI-modellekké alakítani.
"Például egy olyan LLM érdekes dolog, amely tökéletesen alkalmas Python-kód SQL-lekérdezésére" - mondja. "A ChatGPT és az összes többi nyilvános eszköz jót tesz az alkalmi felhasználóknak. De ha ezt a fajta eszközt vállalati adatokhoz kapcsolja, akkor óvatosnak kell lennie."
4. Lassan haladj az elvárások mérsékléséhez
Bev White, a toborzási specialista, Nash Squared vezérigazgatója azt mondja, nagy aggodalma az, hogy a generatív mesterséges intelligencia használatának gyakorlati valósága nagyon eltérhet az elképzeléstől.
"Sok hype volt" - mondja a ZDNET-nek folytatott videobeszélgetésben. "Sok rémhír is elhangzott, hogy munkahelyek szűnnek meg, és a mesterséges intelligencia tömeges munkanélküliséget fog teremteni. És ott van az adatbiztonsággal és a magánélettel kapcsolatos félelmek is."
White szerint fontos felismerni, hogy a generatív mesterséges intelligencia első 12 hónapját a nagy technológiai cégek jellemezték, amelyek versenyeztek modelljeik finomítása és frissítése érdekében.
"Ezek az eszközök már sok iteráción mentek keresztül - és ez nem véletlen" - mondja. "A technológiát használó emberek felfedezik a pozitívumokat, de ügyelniük kell a változásokra is, amikor minden iteráció megjelenik."
White azt tanácsolja az informatikai igazgatóknak és más felsővezetőknek, hogy óvatosan járjanak el. Ne féljen egy lépést hátralépni, még akkor sem, ha úgy érzi, hogy mindenki más előre rohan.
"Úgy gondolom, hogy szükségünk van valami kézzelfoghatóra, amit védőkorlátként használhatunk. A szervezetek CISO-inak el kell kezdeniük gondolkodni a generatív mesterséges intelligencia területén - és bizonyítékaink arra utalnak, hogy igen. A szabályozásnak is lépést kell tartania a változások ütemével" - mondja.
"Talán egy kicsit lassabban kell mennünk, amíg kitaláljuk, mit kezdjünk a technológiával. Ez olyan, mintha egy csodálatos rakétát találnánk fel, de nincs körülötte a stabilizátor és a biztonsági rendszer, mielőtt elindítaná."