Az OpenAI mesterséges intelligencia-átíró eszköze túlzottan hallucinál - itt van egy jobb alternatíva

Egy kutató „minden 10 általa megvizsgált hangátiratból nyolcban talált hallucinációt” a Whispertől.

Az OpenAI 2022-ben piacra dobott mesterséges intelligencia beszédfelismerő és átíró eszközéről, a Whisperről kiderült, hogy hallucinál vagy kitalál dolgokat - olyannyira, hogy a szakértők attól tartanak, hogy rossz kontextusban komoly károkat okozhat.

Múlt héten az AP arról számolt be, hogy a Michigani Egyetem egyik kutatója „minden 10 általa megvizsgált hangátiratból nyolcban talált hallucinációt”, amelyet a Whisper készített nyilvános találkozók tanulmányozása során.

Az adatpont egy a sok közül: külön egy mérnök, aki 100 órányi Whisper-átiratot vizsgált meg, azt mondta az AP-nek, hogy nagyjából 50%-uknál talált hallucinációt, míg egy másik fejlesztő szinte minden, a Whisper segítségével generált átiratban talált hallucinációt, ami összesen 26 000. .

Míg a felhasználók mindig számíthatnak arra, hogy a mesterséges intelligencia átírói itt-ott elhibáznak egy-egy szót vagy helyesírást, a kutatók megjegyezték, hogy "soha nem láttak még egy mesterséges intelligenciával hajtott átíró eszközt annyira hallucinálni, mint a Whisper".

Az OpenAI szerint a Whisper, egy nyílt forráskódú neurális hálózat "megközelíti az emberi szintű robusztusságot és pontosságot az angol beszédfelismerés terén". Számos iparágban széles körben integrálva van a beszédfelismerés általános típusaihoz, beleértve az interjúk átírását és fordítását, valamint a videofeliratok készítését.

Ez a mindenütt jelenlévő szint gyorsan terjesztheti a kitalált szövegeket, a hibásan hozzárendelt és kitalált idézeteket és más téves információkat több médiumban, amelyek jelentősége az eredeti anyag természetétől függően változhat. Az AP szerint a Whisper a ChatGPT egyes verzióiba beépült, az Oracle és a Microsoft call centereibe, hangsegédjeibe és felhőplatformjaiba beépült, és a múlt hónapban több mint 4,2 millió alkalommal töltötték le a HuggingFace-től.

Ami még ennél is aggasztóbb, a szakértők elmondták az AP-nek, hogy az egészségügyi szakemberek egyre gyakrabban használnak "suttogás-alapú eszközöket" a páciens-orvos konzultációk átírására. Az AP több mint 12 mérnököt, kutatót és fejlesztőt kérdezett meg, akik megerősítették, hogy a Whisper olyan kifejezéseket és teljes mondatokat gyártott az átírási szövegben, amelyek némelyike "faji kommentárt, erőszakos retorikát és még elképzelt orvosi kezeléseket is tartalmazhat".

"Senki sem akar téves diagnózist" - mondta Alondra Nelson, az Institute for Advanced Study professzora.

Lehet, hogy az OpenAI nem támogatta az orvosi felhasználási eseteket - a vállalat azt tanácsolja, hogy „ne használják a magas kockázatú területeken, például döntéshozatali kontextusokban, ahol a pontosság hibái jelentős hibákhoz vezethetnek az eredményekben” -, hanem az eszköz forgalomba hozatalát és népszerűsítését. pontossága azt jelenti, hogy valószínűleg több iparág is fel fogja venni, amelyek megpróbálják felgyorsítani a munkát és a hatékonyságot növelni, ahol csak lehetséges, függetlenül a lehetséges lehetőségektől. kockázatokat.

Úgy tűnik, hogy a probléma nem függ a hosszabb vagy rosszul rögzített hangtól sem. Az AP szerint az informatikusok a közelmúltban hallucinációkat találtak rövid, tiszta hangmintákban. A kutatók azt mondták az AP-nek, hogy a tendencia "több tízezer hibás átíráshoz vezet több millió felvételen".

"A probléma teljes kiterjedését nehéz felismerni, de a kutatók és mérnökök azt mondták, hogy munkájuk során gyakran találkoztak Whisper hallucinációival" - írja az AP. Emellett, amint Christian Vogler, a Gallaudet Egyetem technológiai hozzáférési programját irányító és süket, rámutatott, azok, akik siketek vagy nagyothallók, nem tudják elkapni a hallucinációkat, amelyek „a többi szöveg közé rejtve vannak”.

A kutatók eredményei egy szélesebb körű problémát jeleznek az AI-iparban: az eszközöket túl gyorsan hozzák a piacra a profitszerzés érdekében, különösen akkor, amikor az Egyesült Államokban még mindig hiányoznak a megfelelő mesterségesintelligencia-szabályozások. Ez az OpenAI folyamatban lévő for-non-profit vitája és a vezetők olyan közelmúltbeli előrejelzései miatt is releváns, amelyek nem veszik figyelembe az AI kockázatait.

"Az AnOpenAIspokesperson elmondta, hogy a vállalat folyamatosan tanulmányozza, hogyan csökkentheti a hallucinációkat, és nagyra értékeli a kutatók eredményeit, hozzátéve, hogy az OpenAI visszajelzéseket is beépít a modellfrissítésekbe" - írta az AP.

Amíg arra vár, hogy az OpenAI megoldja a problémát, javasoljuk, hogy próbálja ki az Otter.ai-t, egy újságírók által megbízható mesterségesintelligencia-átíró eszközt, amely hat új nyelvet adott hozzá. A múlt hónapban egy régi Otter.ai felhasználó megjegyezte, hogy a platform új AI összefoglaló funkciója hallucinált egy statisztikát, de ez a hiba nem magában az átírásban volt. Bölcs dolog lehet, ha nem hagyatkozunk erre a funkcióra, különösen azért, mert a kockázatok növekedhetnek, ha az AI-t nagyobb összefüggések összefoglalására kérik.

Az Otter.ai saját átírási útmutatója nem említi a hallucinációkat, csak azt, hogy "a pontosság olyan tényezőktől függően változhat, mint a háttérzaj, a hangszórók akcentusa és a beszélgetés összetettsége", és azt tanácsolja a felhasználóknak, hogy "nézzék át és szerkessszék az átiratokat, hogy biztosítsák teljes pontosság, különösen kritikus feladatok vagy fontos beszélgetések esetén."

Ha iPhone-ja van, az új iOS 18.1 Apple Intelligence rendszerrel mostantól lehetővé teszi a mesterséges intelligencia hívások rögzítését és átírását, de a ZDNET főszerkesztője, Jason Hiner szerint ez "még folyamatban van".

Eközben az OpenAI nemrég bejelentette, hogy további eszközöket ad 250 millió ChatGPT Plus felhasználójának.