A jelentés szerint a Microsoft és az OpenAI észleli és megzavarja az AI-t használó nemzetállami kiberfenyegetéseket
A rosszfiúk is nagy nyelvi modelleket használnak.
Ahogy a generatív AI-technológiák egyre fejlettebbek, úgy fejlődnek a kibertámadások is. Ez a Microsoft és az OpenAI szerint, akik megosztották kutatási eredményeit a nagy nyelvi modellek (LLM) nemzetállamok által támogatott ellenfelek általi rosszindulatú használatáról.
Szerdán a Microsoft közzétette Cyber Signals 2024 jelentését, amely részletezi az általa az OpenAI mellett észlelt és megzavart nemzetállami támadásokat orosz, észak-koreai, iráni és kínai támogatású ellenfelek részéről, valamint az egyének és szervezetek által megtehető lépéseket felkészülni az esetleges támadásokra.
A két technológiai vállalat nyomon követte a Forest Blizzard, az Emerald Sleet, a Crimson Sandstorm, a Charcoal Typhoon és a Salmon Typhoon államilag összefüggő támadásait. Mindegyik támadás LLM-eket használt a kiberműveletek bizonyos kapacitásának bővítésére, beleértve a kutatásban, a hibaelhárításban és a tartalom létrehozásában nyújtott segítséget.
Emerald Sleet, egy észak-koreai fenyegetettség szereplője például az LLM-eket arra használta fel, hogy agytrösztöket és szakértőket kutassanak Észak-Koreával kapcsolatban, olyan tartalmat hozzon létre, amelyet valószínűleg lándzsahalász kampányokban használnának, megértsék a nyilvánosan ismert sebezhetőségeket, elhárítsák a technikai problémákat, és még segítséget is nyújtsanak a jelentés szerint különféle webtechnológiák használatával.
Hasonlóképpen, a Crimson Sandstorm, egy iráni fenyegetettség szereplő, LLM-eket használt technikai segítségnyújtásra, beleértve a szociális tervezés támogatását, a hibaelhárítási segítségnyújtást stb.
Ha többet szeretne olvasni az egyes nemzetállami fenyegetésekről, beleértve a hovatartozásukat és az LLM-ek használatát, megtekintheti a jelentést, amely az egyes fenyegetésekkel kapcsolatos tájékoztatóknak szentelt részt is tartalmaz.
A Microsoft megosztja, hogy a mesterséges intelligencia által vezérelt csalás, mint például a Voice Synthesis, amely lehetővé teszi a színészek számára, hogy olyan modellt tanítsanak, mint bárki, akár három másodperces hangharapással is, egyre inkább aggasztó fenyegetés.
Míg a jelentés azt mutatja, hogy rosszindulatú szereplők használják a generatív mesterséges intelligenciát, a technológiát a védelmezők, például a Microsoft is használhatják, hogy intelligensebb védelmet fejlesszenek ki, és előrébb maradjanak a folyamatos macska-egér hajszában, azaz a kiberbiztonságban.
A Microsoft naponta több mint 65 millió kiberbiztonsági jelet észlel. A jelentés szerint a mesterséges intelligencia biztosítja, hogy ezeket a jeleket elemezze a legértékesebb információért, amely segít megállítani a fenyegetéseket.
A Microsoft más módszereket is megoszt a mesterséges intelligencia használatában, beleértve az „AI-kompatibilis fenyegetésészlelést az erőforrások vagy a hálózaton lévő forgalom változásainak észlelésére; viselkedéselemzés a kockázatos bejelentkezések és rendellenes viselkedés észlelésére; gépi tanulási (ML) modellek a kockázatos bejelentkezések és rosszindulatú programok észlelése, amelyekben minden hozzáférési kérelmet teljesen hitelesíteni, hitelesíteni és titkosítani kell, és ellenőrizni kell az eszköz állapotát, mielőtt az eszköz csatlakozhatna a vállalati hálózathoz.
A jelentés zárásaként a Microsoft azt állítja, hogy az alkalmazottak és a közoktatás folyamatos oktatása kulcsfontosságú a társadalomfejlesztési technikák elleni küzdelemben, amelyek csak akkor sikeresek, ha az emberek nem azonosítják őket, és hogy a megelőzés - akár mesterséges intelligencia-kompatibilis, akár nem - kulcsfontosságú az összes kiberfenyegetés elleni küzdelemben. .