Az emberi felügyelet kulcsa a mesterséges intelligencia őszinte megőrzéséhez

A mesterséges intelligenciával hajtott eszközöket nem szabad magukra hagyni, hogy eldöntsék, milyen tartalmat olvassanak az emberek - mondja a SmartNews hírgyűjtő platform bizalmi vezetője, aki elmagyarázza, miért kell az embereket mindig a hurok alatt tartani.

A mesterséges intelligencia (AI) továbbra sem rendelkezik az információk megfejtéséhez szükséges kulcsfontosságú tulajdonságokkal, ezért nem szabad egyedül eldönteni, hogy az emberek milyen tartalmat olvassanak el.

Az emberi felügyelet és a védőkorlátok kritikus fontosságúak annak biztosításához, hogy a megfelelő tartalom kerüljön a felhasználókhoz - mondta Arjun Narayan, a SmartNews bizalomért, biztonságért és ügyfélélményért felelős vezetője.

A hírgyűjtő platform világszerte 3000 hírforrás cikkeit válogatja össze, ahol a felhasználók átlagosan napi 23 percet töltenek az alkalmazáson. Az Android és iOS rendszeren elérhető alkalmazás több mint 50 millió letöltést ért el. A tokiói székhelyű SmartNews nyelvészekből, elemzőkből és politikai döntéshozókból álló csapatokkal rendelkezik Japánban és az Egyesült Államokban.

A vállalat kinyilvánított küldetése az interneten elérhető hatalmas mennyiségű információ közepette, hogy megbízható és a felhasználók számára releváns híreket közöljön. "A híreknek megbízhatónak kell lenniük. Algoritmusaink cikkek, jelek és emberi interakciók millióit értékelik ki, hogy a jelenleg legfontosabb hírek 0,01%-át közöljék" - írja a SmartNews a webhelyén.

A platform gépi tanulási és természetes nyelvi feldolgozási technológiákat használ a felhasználók által kívánt hírek azonosítására és rangsorolására. Mérőszámai vannak a hírforrások megbízhatóságának és pontosságának felmérésére.

Ez kritikus fontosságú, mivel az információkat egyre inkább a közösségi médián keresztül fogyasztják el, ahol a valóság megkérdőjelezhető, mondta Narayan.

Szabadalmaztatott mesterséges intelligencia motorja olyan hírfolyamot hajt végre, amelyet a felhasználók személyes preferenciái, például az általuk követett témák alapján alakítanak ki. Különféle gépi tanulási rendszereket is használ az indexelt cikkek elemzésére és értékelésére, hogy megállapítsa, a tartalom megfelel-e a vállalat irányelveinek. A nem megfelelő forrásokat kiszűrik - mondta.

Mivel az ügyfélszolgálat beszámol a csapatának, hozzátette, hogy a felhasználói visszajelzések gyorsan áttekinthetők és adott esetben beépíthetők.

Sok máshoz hasonlóan a vállalat jelenleg is a generatív AI-t vizsgálja, és felméri, hogyan használhatja a legjobban a feltörekvő technológiát a tartalomfelfedezés és -keresés további javítására. Narayan nem kívánt részleteket közölni arról, hogy melyek lehetnek ezek az új funkciók.

Hangsúlyozta azonban az emberi felügyelet megőrzésének fontosságát a mesterséges intelligencia használata közepette, amely egyes területeken még mindig hiányzik.

A nagy nyelvi modellek például nem hatékonyak a friss vagy aktuális hírek feldolgozásában, de nagyobb pontossággal és megbízhatósággal futnak, ha örökzöld tartalmak, például DYI vagy útmutató cikkek elemzésére használják őket.

Ezek az AI-modellek a tartalom nagy darabjainak összefoglalásában és bizonyos funkciók támogatásában is jól teljesítenek, például a tartalomelosztás bővítésében - jegyezte meg. Csapata a nagy nyelvi modellek használatának hatékonyságát értékeli annak megállapítására, hogy bizonyos tartalmak megfelelnek-e a vállalat szerkesztési irányelveinek. "Még csak születőben van és kezdeti időkben van" - mondta. "Amit megtudtunk, az az, hogy az AI-modellek pontossága vagy precizitása ugyanolyan jó, mint az általad betáplált és betanított adatok."

A mai modellek nagyrészt nem „tudatosak”, és hiányzik belőlük a kontextuális megértés, mondta Narayan. Ezek a problémák idővel megoldhatók, mivel több adatkészlet és adattípus kerül a modellbe, mondta.

Ugyanilyen erőfeszítést kell tenni annak biztosítására, hogy a képzési adatok „kezelésre” kerüljenek, és mentesek legyenek a torzításoktól vagy az inkonzisztenciák miatti normalizálástól. Ez különösen fontos a generatív mesterséges intelligencia esetében, ahol általában nyílt adatkészleteket használnak az AI-modell betanításához. Ezt az iparág "árnyékos" részének nevezte, ami a szerzői jogok és a szellemi tulajdonjogok megsértésével kapcsolatos problémákhoz vezet.

"Jelenleg nem sok nyilvánosságra hozták azt, hogy milyen adatok kerülnek be az AI-modellbe" - mondta. "Ezen változtatni kell. Átláthatónak kell lenni a képzésük és a döntési logika körül, mert ezek az AI-modellek alakítják világnézetünket."

Aggodalmát fejezte ki a „hallucinációkkal” kapcsolatban, ahol az AI képes hamis információkat generálni, így a reális emberek meg vannak győződve az igazságról.

Az ilyen problémák tovább hangsúlyozzák, hogy szükség van valamiféle kormányzásra, amely magában foglalja az embereknek a felhasználókhoz eljuttatott tartalmak felügyeletét, mondta.

A szervezeteknek azt is ellenőrizniük kell, hogy mi jön ki az AI modelljeikből, és be kell vezetniük a szükséges védőkorlátokat. Például biztonsági hálóknak kell lenniük, amikor a mesterséges intelligencia rendszert arra kérik, hogy adjon utasításokat egy bomba elkészítéséhez vagy egy plagizáló cikk megírásához.

"Jelenleg a mesterséges intelligencia még nem tart abban a szakaszban, hogy engedje, hogy magától működjön" - mondta Narayan, hozzátéve, hogy mindig be kell fektetni az emberi képességekbe és a felügyeletbe. "Szükséged van védőkorlátokra. Nem akarsz olyan tartalmat, amely nincs lektorálva vagy tényekkel ellenőrzött."

A felhajtás közepette pedig fontos szem előtt tartani a generatív mesterséges intelligencia korlátait, amely modellek még mindig nincsenek képzettek a legfrissebb hírek kezelésére, és nem működnek jól valós idejű adatokkal.

A mesterséges intelligencia jobban működött az ajánlómotor meghajtásában, amelyet a SmartNews arra használ, hogy bizonyos háttérjelek, például a felhasználó olvasási szokásai alapján rangsorolja a nagyobb érdeklődésre számot tartó cikkeket. Ezeket az AI-rendszereket az elmúlt évtizedben használták, ahol a szabályokat és az algoritmusokat folyamatosan finomhangolták - magyarázta.

Bár nem volt hajlandó részleteket elárulni arról, hogyan lehet a generatív mesterséges intelligenciát beépíteni, rámutatott a benne rejlő lehetőségekre a gépekkel való emberi interakció megkönnyítésében.

Bárki, beleértve a technikai háttérrel nem rendelkezőket is, megkaphatja a szükséges válaszokat, ha tudja, hogyan kell feltenni a megfelelő kérdéseket. Ezután újra felhasználhatják a válaszokat mindennapi tevékenységeik során, mondta.

A generatív AI egyes területei azonban továbbra is szürkék maradnak.

Narayan szerint a hírplatformon folyamatos megbeszélések folynak a kiadókkal arról, hogyan kell kezelni a teljesen mesterséges intelligencia által írt cikkeket, valamint az emberek által írt, de mesterséges intelligenciával kiegészített cikkeket. És ha szabályokat kellene megállapítani az ilyen cikkekre, akkor hogyan lehetne ezeket betartatni?

Ezenkívül kérdések merülnek fel a közzététel mértékével kapcsolatban, amelyet a különböző változatokra alkalmazni kell, hogy az olvasók tudják, mikor és hogyan használják az AI-t.

Függetlenül attól, hogy ezeket végül hogyan fogják kezelni, a szerkesztői felügyelet marad a mandátum. Ismét hangsúlyozva az átláthatóság fontosságát, Narayan elmondta, hogy minden tartalomnak meg kell felelnie a SmartNews pontosságra és megbízhatóságra vonatkozó szerkesztési irányelveinek.

Aggodalmának adott hangot a technológiai elbocsátások miatt, amelyek az AI etikai és bizalmi csoportok eltávolítását eredményezték. "Most elmondom, nagyon fontos, hogy továbbra is legyen [emberi] felügyelet és befektetések a biztonsági védőkorlátokba. Ha hiányzik a szorgalom, szörnyet fogunk létrehozni" - mondta. "Az automatizálás nagyszerű [és lehetővé teszi] a rendszerek méretezését, de semmi sem közelíti meg az emberi találékonyságot."