Merész elmékre van szükségünk a mesterséges intelligencia kihívásaihoz, nem pedig lusta írókra, mondja a bank informatikai igazgatója

Keresett: Kritikus gondolkodók, akik perspektívával és készségekkel rendelkeznek az AI által generált eredmények értelmezéséhez. (Azoknak, akik túlzottan támaszkodnak a ChatGPT-re, nem kell jelentkezniük.)

Miután a Boston Consulting Group vezető cég 2023-as jelentése szerint informatikai tanácsadóik hatékonyabban dolgoztak az Open AI GPT-4 eszközével, a vállalat és más iparági óriások visszajelzést kaptak egyes kommentelőktől, hogy egyszerűen csak ingyenesen kell használni a ChatGPT-t, ahelyett, hogy tanácsadási szolgáltatásokat tartanának fenn milliókért. dollárt.

Íme az érvelésük: A jól fizetett tanácsadók egyszerűen a ChatGPT-től kapják meg válaszaikat vagy tanácsaikat, ezért kerülniük kell a harmadik felet, és egyenesen a ChatGPT-hez kell menniük.

Értékes lecke van mindazok számára, akik AI-intenzív munkákra alkalmaznak vagy szeretnének felvenni, legyen szó fejlesztőről, tanácsadóról vagy üzleti felhasználóról. Ennek a kritikának az az üzenete, hogy bárki, még korlátozott vagy elégtelen készségekkel is, most már használhatja az AI-t, hogy előrébb jusson, vagy úgy tűnjön, mintha a dolgok élén járna. Emiatt kiegyenlítették a játékteret. Olyan emberekre van szükség, akik perspektívát és kritikus gondolkodást tudnak adni az AI által nyújtott információkhoz és eredményekhez.

Még a képzett tudósok, technológusok és a téma szakértői is beleeshetnek abba a csapdába, hogy túlságosan az AI-ra hagyatkoznak eredményükben - a saját szakértelmükkel szemben.

"A mesterséges intelligencia megoldásai kognitív korlátainkat is kihasználhatják, így sebezhetővé tesznek bennünket a megértés illúzióival szemben, amelyekben azt hisszük, hogy többet tudunk a világról, mint amennyit valójában" - derül ki a Nature-ben megjelent kutatásból.

Lisa Messer, a Yale Egyetem és M. J. Crockett, a Princeton Egyetem kutatói még az információk kritikus áttekintésére kiképzett tudósok is beleszeretnek a gép által generált felismerések vonzereébe.

"Az ilyen illúziók elhomályosítják a tudományos közösség azon képességét, hogy lássák a tudományos monokultúrák kialakulását, amelyekben bizonyos típusú módszerek, kérdések és nézőpontok uralják az alternatív megközelítéseket, így a tudomány kevésbé innovatív és sebezhetőbb a hibákkal szemben" - áll a kutatásban.

Messer és Crockett azt állítják, hogy a mesterséges intelligencia etikájával, elfogultságával és a munkahelyek elmozdításával kapcsolatos aggodalmakon túl a mesterséges intelligencia mint szakértelem forrására való túlzott támaszkodás kockázata is csak most kezd ismertté válni.

Az általános üzleti beállításokban a felhasználók túlzottan az AI-re való támaszkodásának következményei vannak, a termelékenység elvesztése és a rossz helyre vetett bizalom következménye. Például a felhasználók "módosíthatják, megváltoztathatják és megváltoztathatják tevékenységeiket, hogy megfeleljenek az AI-ajánlásoknak" - jegyezte meg Samir Passi és Mihaela Vorvoreanu, a Microsoft a témával kapcsolatos tanulmányok áttekintésében. Ezen túlmenően a felhasználók "nehezen tudják értékelni az AI teljesítményét és megérteni, hogy az AI hogyan befolyásolja döntéseiket".

Ezt gondolja Kyall Mai, az Esquire Bank innovációs igazgatója, aki az AI-t az ügyfelek elköteleződésének kritikus eszközének tekinti, miközben óva int attól, hogy az emberi tapasztalatot és a kritikus gondolkodást helyettesítő túlzott használattal helyettesítse. Az Esquire Bank speciális finanszírozást biztosít ügyvédi irodáknak, és olyan embereket szeretne, akik értik az üzletet és azt, hogy az AI mit tehet az üzlet fejlődése érdekében. Nemrég találkoztam Maival a Salesforce New York-i konferenciáján, aki megosztotta tapasztalatait és nézeteit az AI-ról.

Mai, aki maga is kódolóból sokoldalú informatikai igazgatóvá emelkedett a ranglétrán, nem vitatja, hogy az AI talán az egyik legértékesebb termelékenységnövelő eszköz. Ugyanakkor aggódik amiatt is, hogy a generatív AI-ra való túlzott támaszkodás - akár a tartalom, akár a kód tekintetében - rontja az emberek gondolkodásának minőségét és élességét.

"Tisztában vagyunk vele, hogy a fantasztikus agy és az eredmények nem feltétlenül olyan jók, mint valaki, aki hajlandó kritikus gondolkodásra, és saját nézőpontját adja meg arról, hogy a mesterséges intelligencia és a generatív mesterséges intelligencia mit ad vissza az ajánlások terén" - mondja. "Azt akarjuk, hogy az érzelmekkel és öntudattal rendelkező emberek azt mondják: "Hmm, ez nem igazán jó, elég bátor vagyok valakivel beszélgetni, és megbizonyosodni arról, hogy ember van a hurokban."

Az Esquire Bank a Salesforce eszközöket alkalmazza az AI mindkét oldalának - generatív és prediktív - átölelésére. A prediktív mesterséges intelligencia betekintést nyújt a bank döntéshozóinak abba, hogy „mely ügyvédek keresik fel a webhelyüket, és segít személyre szabni a szolgáltatásokat e látogatások alapján” - mondja Mai, akinek informatikai igazgatói szerepe az ügyfelek bevonására és az informatikai rendszerekre egyaránt kiterjed.

Teljesen virtuális bankként az Esquire számos mesterségesintelligencia-rendszert alkalmaz marketingcsapatokon keresztül, egyesítve a mesterséges intelligencia által szállított generatív tartalmat a háttérben prediktív AI-algoritmusokkal.

„Az élmény mindenki számára más” - mondja Mai. "Tehát mesterséges intelligenciát használunk annak előrejelzésére, hogy mi legyen a következő tartalomkészlet, amelyet nekik szállítanak. Ezek a mögöttes és a rendszerben lévő összes elemzésen alapulnak arra vonatkozóan, hogy mit tehetünk az adott potenciális ügyféllel."

Az MI-vel való szoros együttműködés során Mai egy érdekes fordulatot fedezett fel az emberi természetben: az emberek hajlamosak figyelmen kívül hagyni saját ítélőképességüket és szorgalmukat, ahogy egyre függővé válnak ezektől a rendszerektől. "Példaként azt találtuk, hogy egyes emberek lustává válnak - kérnek valamit, majd úgy döntenek, hogy „úú, ez nagyon jó válasznak hangzik", és továbbküldik."

Amikor Mai érzékeli, hogy túlzottan támaszkodik a mesterséges intelligenciára, "bekísérem őket az irodámba, és azt mondom, hogy "a perspektívádért fizetek neked, nem pedig a mesterséges intelligencia felszólításáért és válaszáért, amire rá fogsz venni. Csak az eredmények átvétele és visszaadása nem az, amit keresek, az Ön kritikus gondolatait várom."

Ennek ellenére arra biztatja technológiai csapatának tagjait, hogy a hétköznapi fejlesztési feladatokat a generatív mesterségesintelligencia-eszközökre és -platformokra helyezzék át, és szabadítsanak fel idejüket az üzlettel való szorosabb együttműködésre. "A kódolók azt tapasztalják, hogy az írással töltött idejük 60 százaléka az adminisztratív kódokra volt fordítva, ami nem feltétlenül úttörő. A mesterséges intelligencia ezt megteheti helyettük hangutasításokkal."

Ennek eredményeként azt látja, hogy "a határvonal a klasszikus kódoló és az üzleti elemző között sokkal jobban összeolvad, mivel a kódoló nem tölt sok időt olyan dolgokkal, amelyek valójában nem jelentenek hozzáadott értéket. Ez azt is jelenti, hogy az üzleti elemzők szoftverfejlesztőkké válhatnak."

"Érdekes lesz, amikor leülhetek egy emelvény elé, és azt mondhatom: "Olyan rendszert akarok, amely ezt, ezt, ezt és ezt csinálja", és megteszi."