Az emberek már megpróbálják rávenni a ChatGPT-t, hogy rosszindulatú programokat írjon

A sötét webes fórumokon zajló csevegés elemzése azt mutatja, hogy már folynak az erőfeszítések az OpenAI chatbotjának használatára a rosszindulatú programok szkriptjének segítésére.

A ChatGPT AI chatbot rengeteg izgalmat keltett a rövid idő alatt, és most úgy tűnik, hogy egyesek rosszindulatú kódok generálására próbáltak segíteni.

A ChatGPT egy mesterséges intelligencia által vezérelt természetes nyelvi feldolgozó eszköz, amely emberszerű, társalgási módon lép kapcsolatba a felhasználókkal. Többek között olyan feladatok elvégzésére is használható, mint az e-mailek, esszék és kódolás .

A chatbot eszközt az OpenAI mesterséges intelligencia kutatólaboratórium adta ki novemberben, és széles körű érdeklődést és vitát váltott ki arról, hogyan fejlődik a mesterséges intelligencia, és hogyan lehet a jövőben használni. 

De mint minden más eszközt, rossz kezekben ezt is aljas célokra lehetett használni; a Check Point kiberbiztonsági kutatói pedig azt mondják, hogy a földalatti hackerközösségek felhasználói már kísérleteznek azzal, hogyan lehet a ChatGPT-t felhasználni a kibertámadások megkönnyítésére és a rosszindulatú műveletek támogatására. 

"A nagyon alacsony technikai ismeretekkel rendelkező fenyegetés szereplői - akár nulla technológiai ismerettel - képesek lehetnek rosszindulatú eszközöket létrehozni. Sokkal hatékonyabbá és könnyebbé teheti a kifinomult kiberbűnözők napi működését is - például a fertőzési lánc különböző részeinek létrehozását" - mondta Szergej Shykevich, a Check Point fenyegetési hírszerzési csoportjának vezetője a ZDNET-nek.  

Az OpenAI szolgáltatási feltételei kifejezetten tiltják a rosszindulatú programok generálását, amelyeket úgy határoz meg, mint "olyan tartalom, amely ransomware-t, keyloggereket, vírusokat vagy más szoftvert próbál generálni, amelyek bizonyos szintű károkat okoznak". Tiltja a spam létrehozására irányuló kísérleteket, valamint a kiberbűnözésre irányuló felhasználási eseteket is.

Számos nagy földalatti hackerfórum tevékenységének elemzése azonban azt sugallja, hogy a számítógépes bűnözők már használják a ChatGPT-t rosszindulatú eszközök fejlesztésére - és egyes esetekben már lehetővé teszi az alacsony szintű, fejlesztési vagy kódolási ismeretekkel nem rendelkező számítógépes bűnözők számára, hogy rosszindulatú programokat hozzanak létre. 

Az egyik fórumszálban, amely december vége felé jelent meg, a posztoló leírta, hogyan használták a ChatGPT-t a rosszindulatú programok törzseinek és technikáinak újralétrehozására, amelyeket a kutatási publikációkban és a gyakori rosszindulatú programokról szóló írásokban írtak le. 

Ezzel képesek voltak létrehozni egy Python-alapú információlopó rosszindulatú programot, amely gyakori fájlokat keres, beleértve a Microsoft Office dokumentumokat, PDF-eket és képeket, lemásolja őket, majd feltölti őket egy fájlátviteli protokoll szerverre. 

Ugyanez a felhasználó azt is bemutatta, hogyan használta a ChatGPT-t Java-alapú rosszindulatú programok létrehozására, amelyek a PowerShell segítségével más rosszindulatú programok titkos letöltésére és futtatására használhatók fel a fertőzött rendszereken. 

A kutatók megjegyzik, hogy az ezeket a szálakat készítő fórumfelhasználó "technológia-orientáltnak" tűnik, és megosztotta a bejegyzéseket, hogy megmutassa a technikailag kevésbé alkalmas kiberbűnözőknek, hogyan használhatják fel az AI-eszközöket rosszindulatú célokra, valós példákkal kiegészítve arra, hogyan lehet ezt megtenni. 

Az egyik felhasználó közzétett egy Python szkriptet, amely szerintük az első szkript volt, amelyet valaha létrehoztak. Egy másik fórumtaggal folytatott megbeszélés után azt mondták, hogy a ChatGPT segített nekik a létrehozásában. 

A szkript elemzése azt sugallja, hogy a fájlok titkosítására és visszafejtésére tervezték, ami némi munkával zsarolóvírussá alakítható, ami potenciálisan ahhoz vezethet, hogy az alacsony szintű számítógépes bűnözők saját zsaroló kampányokat fejlesztenek ki és terjesztenek. 

"Az összes fent említett kód természetesen jóindulatú módon használható. Ez a szkript azonban könnyen módosítható, hogy teljesen titkosítsa valakinek a gépét felhasználói beavatkozás nélkül. Például potenciálisan zsarolóvírussá alakíthatja a kódot, ha a szkript és a szintaktikai problémák kijavításra kerülnek" - mondta Check Point.

"Némi fejlesztésre lesz szükség a kódban és a szintaxisban, de koncepcionálisan, amikor működőképes, ez az eszköz hasonló műveleteket hajthat végre, mint a zsarolóprogramok" - mondta Shykevich.

De a számítógépes bűnözők nem csak a rosszindulatú programok fejlesztésére kísérleteznek a ChatGPT-vel; szilveszterkor az egyik földalatti fórumtag közzétett egy szálat, amelyben bemutatta, hogyan használták az eszközt olyan szkriptek létrehozására, amelyek egy automatizált sötét webes piactér működtethetők lopott számlaadatok, hitelkártyaadatok, rosszindulatú programok és egyebek vásárlására és eladására. 

A számítógépes bűnöző még egy kódrészletet is bemutatott, amelyet egy harmadik féltől származó API segítségével hoztak létre, hogy naprakész árakat kapjanak a Monero, a Bitcoin és az Ethereum kriptovalutákról a sötét webes piactér fizetési rendszerének részeként. 

Nehéz megmondani, hogy a ChatGPT segítségével generált rosszindulatú kibertevékenység aktívan működik-e a vadonban, mert ahogy Sykevich elmagyarázza, "technikai szempontból rendkívül nehéz tudni, hogy egy adott rosszindulatú programot a ChatGPT segítségével írtak-e vagy sem". 

De ahogy növekszik az érdeklődés a ChatGPT és más mesterséges intelligencia eszközök iránt, felkeltik a kiberbűnözők és csalók figyelmét, akik a technológiát arra szeretnék kihasználni, hogy rosszindulatú kampányokat hajtsanak végre alacsony költséggel és a szükséges legkevesebb erőfeszítéssel. A ZDNET felvette a kapcsolatot az OpenAI-val kommentárért, de a közzététel időpontjában még nem kapott választ. 

TOVÁBBI INFORMÁCIÓK A KIBERBIZTONSÁGRÓL

• Jön a metaverzum, és a biztonsági fenyegetések már megérkeztek
• Kiberbiztonság, felhő és kódolás: Miért vezeti ez a három készség a keresletet 2023-ban?
• Ez a "hőtámadás" képes leolvasni a jelszavát az ujjbegyek által hátrahagyott hőből
• A következő nagy biztonsági fenyegetés szembenéz velünk. Nehéz lesz megbirkózni vele
• A mesterséges intelligencia mindent megváltoztat a kiberbiztonsággal kapcsolatban, jóban és rosszban. Íme, amit tudnod kell