Ne feledje a bizalmi szakadékot: Az adatok az ügyfelek azonnali óvatosságára vonatkoznak a generatív MI-vel szemben
Az adatbiztonság és a magánélet iránti általános bizalomhiány visszatartja a szervezeteket attól, hogy mindent belemenjenek a generatív mesterséges intelligenciába.
A generatív mesterséges intelligenciát (AI) a szervezetek számára elengedhetetlennek tartják piaci relevanciájuk biztosításához, de néhányan továbbra is tétováznak, hogy belevágjanak-e az adatokkal és a bizalommal kapcsolatos aggályok miatt.
Ezek a problémák különösen fontosak azon vállalkozások számára, amelyek szigorú adatkezelési szabályokkal és nagy ügyfélkörrel rendelkező ágazatokban működnek, és arra késztetik őket, hogy a meghirdetett előnyeik ellenére időt szánjanak a generatív mesterséges intelligencia eszközök bevezetésére.
Az értékesítési jelentések prompt útján történő generálása ahelyett, hogy kézzel kellene babrálni a táblázatokkal, érdekes lehetőségeket kínál az olyan generatív mesterséges intelligencia eszközök számára, mint a Salesforce Einstein Copilot - mondta Sarwar Faruque, a Jollibee Foods Corporation fejlesztési műveleteinek vezetője. A Fülöp-szigeteki étteremlánc üzemeltetője a Salesforce Heroku-ját használja alkalmazásai elkészítéséhez, a Mulesoftot pedig köztes szoftverként használja alkalmazásai összekapcsolásához, beleértve az ERP-t és a rendeléskezelési rendszereket.
A Jollibee 15 000 alkalmazottat foglalkoztat, és csaknem 4 000 üzletet üzemeltet világszerte 34 országban. Alkalmazásai túlnyomórészt felhőben futnak, így saját adatközpontokat nem tart fenn, egy kis intranet kivételével.
Faruque azt is látja, hogy a mesterséges intelligencia felhasználható a gyártásban, ahol a gyártási folyamat és az összeszerelés hatékonyságát növelheti. A mesterséges intelligencia például segíthet nyomon követni az élelmiszerek minőségét és előre jelezni a keresletet.
Érdeklődése az AI lehetséges felhasználása iránt azonban továbbra is a háttérműveletekre korlátozódik. Faruque határozottan ragaszkodik ahhoz, hogy a generatív mesterséges intelligencia távol tartsa az ügyfelek interakcióitól és az ügyfelekkel kapcsolatos műveletektől - legalábbis egyelőre.
Mivel a technológia még gyerekcipőben jár, még mindig sok mindent meg kell érteni és át kell dolgozni - jegyezte meg.
"Látjuk az általa generált kimenetet [és válaszokat], de nem igazán értjük, hogyan jutott el a válaszhoz" - mondta. "Van ez a fekete doboz... meg kell oldani. Tudni akarom, hogyan működik, hogyan jutott el a válaszhoz, és hogy ez a válasz megismételhető-e [minden alkalommal, amikor felteszik a kérdést]."
Jelenleg ez nem így van, mondta, hozzátéve, hogy a hallucinációk kockázata is aggodalomra ad okot. Biztonsági incidens hiányában pedig keveset tudni arról, hogy vannak-e olyan eredendő kiberbiztonsági problémák, amelyeket meg kell oldani - jegyezte meg.
"Jelenleg nagyon sok a marketing [hype]" - mondta Faruque, hozzátéve, hogy nem elég egyszerűen a "bizalomról" beszélni anélkül, hogy részleteket közölnénk arról, hogy ez pontosan mit is jelent.
Arra kérte a mesterséges intelligencia gyártóit, hogy magyarázzák el, hogyan alakulnak ki nagy nyelvi modelljeik, milyen adatokat fogyasztanak, és pontosan mit tesznek a válaszok generálására. "Fel kell hagyniuk azzal, hogy varázslatként viselkedjenek, [amikor] egy kód futtatja, és mögötte tudomány áll" - mondta. "Segíts nekünk megérteni [mert] nem szeretünk olyan technológiát alkalmazni, amelyet nem ismerünk alaposan."
Kiemelte az elszámoltathatóság és az átláthatóság szükségességét, valamint annak biztosítását, hogy az ügyfelek mesterséges intelligenciamodellek betanítására használt adatait ne hozzák nyilvánosságra. Ez kritikus fontosságú, különösen azon szervezetek számára, amelyeknek meg kell felelniük a helyi joghatóságuk szerinti adatvédelmi előírásoknak.
Amíg ezeket a problémákat nem hárítják el, azt mondta, nem hajlandó saját ügyfelei adatait kockára tenni.
A bizalmat a Szingapúri Kereskedelmi és Ipari Minisztérium (MTI) is komolyan veszi, különösen az adatvédelem és a biztonság tekintetében. A minisztérium alá tartozik tíz kormányzati ügynökség, köztük az EDB és a Szingapúri Turisztikai Hivatal.
Különösen Szingapúrban kell megőrizni a minisztérium adatait, és ez nagy akadálynak bizonyul az adatbiztonság és az irányítás biztosításában - mondta Sharon Ng, az MTI minisztériumi informatikai igazgatója. Ez azt jelenti, hogy minden általa használt mesterséges intelligenciát és nagy nyelvi modellt a saját környezetében kell tárolni, még azokat is, amelyeket amerikai gyártók, például a Salesforce Einstein Copilot platformja működtetnek.
Faruque-hoz hasonlóan Ng is hangsúlyozta az átláthatóság szükségességét, különös tekintettel a biztonsági réteg működésének részleteire, beleértve azt is, hogy milyen titkosítást használnak, és megőrzik-e az adatokat.
Csapata jelenleg azt vizsgálja, hogy a generatív mesterséges intelligencia eszközök, köztük a Salesforce milyen előnyökkel járhat a minisztérium számára, amely továbbra is nyitott a piacon elérhető különféle mesterséges intelligencia és nagy nyelvi modellek használatára. Ez olcsóbb lenne, mint a saját modellek elkészítése, és lerövidítené a piacra kerülés idejét - mondta.
Bármely mesterségesintelligencia-modell használata azonban továbbra is bizalmi és biztonsági megfontolások függvénye, jegyezte meg. Az MTI jelenleg generatív mesterségesintelligencia-pilotokat futtat, amelyek célja a működési hatékonyság javítása és az ügynökségek munkafeladatainak megkönnyítése.
A szingapúri telco M1 számára a jobb ügyfélszolgálat a generatív AI egyértelmű KPI-je. Az MTI-hez és a Jollibee-hez hasonlóan azonban az adatok megfelelősége és bizalom kritikus fontosságú - mondta Jan Morgenthal, az M1 digitális vezérigazgató-helyettese. A telco jelenleg koncepciópróbákat futtat annak felmérésére, hogy a generatív mesterséges intelligencia hogyan javíthatja a chatbotja az ügyfelekkel folytatott interakcióit, és hogy tud-e az angolon kívül további nyelveket is támogatni.
Ez azt jelenti, hogy együtt kell dolgozni a gyártókkal, hogy kitalálják a paramétereket, és megértsék, hol helyezkednek el a nagy nyelvű és mesterséges intelligencia modellek, mondta Morgenthal. Az MTI-hez és a Jollibee-hez hasonlóan az M1-nek is meg kell felelnie azoknak az előírásoknak, amelyek megkövetelik, hogy egyes adatai - köztük a felhőplatformokon tárolt adatok - a helyi piacon legyenek.
Ez szükségessé teszi a mesterséges intelligencia modellek betanítását az M1 hálózati környezetében - mondta.
A szingapúri távközlési vállalatnak óvatosnak kell lennie a modellek és a generált válaszok betanításához használt adatokkal kapcsolatban is, amelyeket tesztelni és validálni kell - mondta. Ezeket nem csak az eladó által meghatározott irányelvek szerint kell ellenőrizni, mint például a Salesforce Trust Layer, hanem az M1 anyavállalata, a Keppel által alkalmazott védőkorlátok alapján is.
A generatív mesterségesintelligencia-bizalom hiányának kezelése
Az ilyen erőfeszítések kritikusnak bizonyulnak majd a mesterséges intelligencia használatába vetett bizalom csökkenése közepette.
A Salesforce múlt hónapban közzétett felmérése szerint a szervezetek és a fogyasztók is kevésbé nyitottak a mesterséges intelligencia használatára, mint korábban. Az üzleti vásárlók mintegy 73%-a és a fogyasztók 51%-a fogékony az élményeik javítására használt technológiára, ami a 2022-es 82%-hoz, illetve 65%-hoz képest csökkenést jelent.
És míg az ügyfelek 76%-a bízik abban, hogy a vállalkozások őszintén állítják termékeiket és szolgáltatásaikat, 57%-uk bízik bennük az AI etikus használatában. További 68%-uk úgy gondolja, hogy az AI előrehaladása fontosabbá tette a vállalatok megbízhatóságát.
A bizalomhiány jelentős probléma és aggodalomra ad okot a szervezetek számára - mondta Tim Dillon, a Tech Research Asia alapítója és igazgatója, rámutatva arra a visszhangra, amelyet a Zoom akkor tapasztalt, amikor módosította az Általános Szerződési Feltételeket, és jogot adott a felhasználók videóinak és hangjának használatára. és csevegési adatokkal betaníthatja AI modelljeit.
A generatív mesterségesintelligencia-szállítók el akarják kerülni a hasonló forgatókönyvet, mondta Dillon a ZDNET-nek adott interjújában a héten San Franciscóban megrendezett Dreamforce 2023 margójára. A piaci szereplők, mint például a Salesforce és a Microsoft erőfeszítéseket tettek a bizalmi szakadék betömésére, ami pozitív előrelépést jelentett.
Phil Hassey, a CapioIT kutatócég vezérigazgatója és alapítója a bizalmi problémák megoldásán túlmenően a generatív mesterséges intelligencia bevezetését tervező szervezeteknek a változásmenedzsment bevezetésével is foglalkozniuk kell.
Ez az a terület, amelyet gyakran kihagynak a vitából, mondta Hassey a ZDNET-nek. A szervezeteknek rá kell jönniük, hogy a generatív mesterséges intelligencia bevezetése miatt milyen költségekkel jár, milyen készségeket kell megszerezniük, és milyen szerepköröket kell átképezni.
A megfelelő változáskezelési stratégia kulcsfontosságú a zökkenőmentes átmenet biztosításához és a tehetségek megtartásához - mondta.
A szingapúri székhelyű Eileen Yu a ZDNET számára jelentett be a Dreamforce 2023-ból San Franciscóban, a Salesforce.com meghívására.