A Samsung alkalmazottai véletlenül kiszivárogtatják az érzékeny vállalati adatokat a ChatGPT-be
Alig három héttel korábban a Samsung adatvédelmi aggályok miatt feloldotta az OpenAI ChatGPT-jét használó alkalmazottak tilalmát.
A tilalom feloldása óta azonban három különböző eset fordult elő, amikor a Samsung alkalmazottai 20 nap alatt véletlenül kiszivárogtattak a Samsung félvezetőrészlegével kapcsolatos érzékeny információkat a ChatGPT-nek - áll a The Economist Korea jelentésében (amint azt a Mashable észrevette).
A tilalom eredetileg a vállalati adatok védelmét szolgálta, de 2023. március 11-én feloldották, hogy a félvezető részleg mérnökei a ChatGPT-vel kijavíthassák a forráskóddal kapcsolatos problémákat, javíthassák a termelékenységet, valamint tisztában legyenek a legújabb technológiai változásokkal.
A dél-koreai óriás a ChatGPT használatának engedélyezése mellett felszólította a félvezető részleget, hogy "legyen óvatos a belső információbiztonsággal kapcsolatban, és ne adjon meg személyes adatokat" a népszerű mesterséges intelligencia (AI) chatbotban.
Először is, a Semiconductor and Device Solutions egyik alkalmazottja problémával szembesült egy félvezető berendezés-mérési adatbázis (DB) letöltő szoftver végrehajtása közben.
Mivel szoftverforráskóddal kapcsolatos problémának tűnt, az alkalmazott kimásolta és beillesztette a hibás bizalmas vállalati forráskódot az AI eszközbe. Ezután megkérte a chatbotot, hogy ellenőrizze a hibákat, és találjon megoldást, így a forráskód valójában a ChatGPT belső képzési adatainak részévé vált.
Másodszor, amikor egy alkalmazott, amikor nehézségekbe ütközött az eszköz hozamának és egyéb információinak megértésében, megosztotta a kódot az AI chatbottal, és "kódoptimalizálást" kért a ChatGPT-től.
Míg a harmadik esetben egy alkalmazott megosztott egy bizalmas vállalati értekezlet felvételét, és megkérte a ChatGPT-t, hogy alakítsa át jegyzetekké egy prezentációhoz. A ChatGPT-vel ezen incidensek miatt megosztott információk örökre részei, és nem törölhetők.
Ennek eredményeként a Samsung azonnali intézkedéseket hozott, és most egy kilobájtra vagy 1024 karakterre korlátozta az egyes alkalmazottak ChatGPT-üzeneteinek hosszát. A vállalat állítólag vizsgálja a kiszivárogtatásban részt vevő három alkalmazottat is, valamint fontolgatja a tilalom visszaállítását.
Az ilyen kínos szerencsétlenségek jövőbeni megelőzése érdekében a Samsung most saját mesterséges intelligencia chatbotot fejleszt, amelyet alkalmazottai szigorúan belső célokra használnak.
"Ha hasonló baleset történik még a vészhelyzeti információvédelmi intézkedések meghozatala után is, a ChatGPT-hez való hozzáférés blokkolható a vállalati hálózaton" - olvasható a Samsung által küldött belső feljegyzésben, amely azt tanácsolja alkalmazottainak, hogy legyenek óvatosak az AI-eszköz használata során.
"Amint a tartalmat beírják a ChatGPT-be, az adatok továbbításra és tárolásra kerülnek egy külső szerverre, ami lehetetlenné teszi a vállalat számára azok lekérését. ”
A ChatGPT felhasználói útmutatója kifejezetten figyelmezteti a felhasználókat, hogy ne osszanak meg érzékeny információkat beszélgetéseik során, mivel "nem tud törölni bizonyos utasításokat az előzményekből. ”
Fontos megjegyezni, hogy a ChatGPT-vel megosztott összes kérdést és szöveget megőrizzük az AI-modellek betanítása és fejlesztése érdekében, kivéve, ha a felhasználók kifejezetten úgy döntenek, hogy leiratkoznak. Más szóval, nehéz vagy lehetetlen teljesen törölni az adatokat a rendszerből.
"A biztonságos és felelősségteljes mesterséges intelligencia iránti elkötelezettségünk részeként felülvizsgáljuk a beszélgetéseket, hogy javítsuk rendszereinket, és biztosítsuk, hogy a tartalom megfeleljen irányelveinknek és biztonsági követelményeinknek... Beszélgetéseit mesterséges intelligencia oktatóink felülvizsgálhatják rendszereink fejlesztése érdekében" - magyarázza az OpenAI egyértelműen a honlapján.
Nevezetesen, az OpenAI azt állítja: "Eltávolítunk minden személyazonosításra alkalmas információt azokból az adatból, amelyeket a modell teljesítményének javítására kívánunk felhasználni. Ügyfelenként csak kis adatmintát használunk a modell teljesítményének javítására irányuló erőfeszítéseinkhez."
Érdekes módon a ChatGPT-t az utóbbi időben nagy ellenőrzés alá vonták az európai adatgyűjtési politikája miatt, mivel Olaszország adatvédelmi aggályok miatt ideiglenesen betiltotta az AI chatbotot az országban. Németország is követheti Olaszország közelmúltbeli ChatGPT-tilalmát, és hasonló lépéseket tehet az AI chatbot blokkolásával országában.