A ChatGPT és az új mesterséges intelligencia izgalmas és ijesztő módon pusztítja a kiberbiztonságot
Christopher Ahlberg, a Recordd Future vezérigazgatója szerint, az etika és a törvény nem korlátozza a kiberbűnözőket, hogy a mesterséges intelligencia segítségével innovatív új hackeket találjanak.
A generatív mesterséges intelligencia átalakítja a kiberbiztonságot, segítve mind a támadókat, mind a védelmezőket. A kiberbűnözők a mesterséges intelligencia segítségével kifinomult és újszerű, nagy léptékű támadásokat indítanak. A védők pedig ugyanazt a technológiát használják a kritikus infrastruktúra, a kormányzati szervezetek és a vállalati hálózatok védelmére - mondta Christopher Ahlberg, a Recorded Future fenyegetésfelderítő platform vezérigazgatója.
A generatív AI segített a rossz szereplőknek az innovációban és új támadási stratégiák kidolgozásában, lehetővé téve számukra, hogy egy lépéssel a kiberbiztonsági védelem előtt járjanak. A mesterséges intelligencia segít a kiberbűnözőknek automatizálni a támadásokat, átvizsgálni a támadási felületeket, és olyan tartalmat generálni, amely különféle földrajzi régiókra és demográfiai jellemzőkre rezonál, lehetővé téve számukra, hogy a potenciális áldozatok szélesebb körét célozzák meg a különböző országokban. A kiberbűnözők átvették a technológiát, hogy meggyőző adathalász e-maileket hozzanak létre. A mesterséges intelligencia által generált szövegek segítségével a támadók személyre szabott e-maileket és szöveges üzeneteket állíthatnak elő, amelyek nagyobb valószínűséggel megtévesztik a célpontokat.
"Azt hiszem, nem kell nagyon kreatívan gondolkodni ahhoz, hogy felismerd, ez valóban segíthet [a kiberbűnözőknek] szerzők lenni, ami probléma" - mondta Ahlberg.
A védők mesterséges intelligenciát használnak a támadások kivédésére. A szervezetek a technológiát a szivárgások megelőzésére és a hálózati sebezhetőségek proaktív feltárására használják. Ezenkívül dinamikusan automatizálja az olyan feladatokat, mint például a riasztások beállítása bizonyos kulcsszavakra, és az érzékeny információk online észlelése. A fenyegetésvadászok mesterséges intelligencia segítségével azonosítják a szokatlan mintákat és összegeznek nagy mennyiségű adatot, összekapcsolva a pontokat több információforrás és rejtett minták között.
A munkához továbbra is humán szakértőkre van szükség, de Ahlberg szerint a generatív mesterséges intelligencia technológia, amelyet a ChatGPT-hez hasonló projektekben látunk, segíthet.
"Szeretnénk felgyorsítani az elemzési ciklust, hogy segítsünk a gondolati sebességű elemzésben" - mondta. "Ez nagyon nehéz dolog, és úgy gondolom, hogy itt áttörést látunk, ami elég izgalmas."
Ahlberg a rendkívül intelligens gépek lehetséges veszélyeiről is beszélt. Ahogy a világ egyre inkább digitálissá válik és összekapcsolódik, a rosszindulatú szereplők kihasználhatják a valóság meghajlításának és a felfogások alakításának képességét. Ezek a fenyegetések nem korlátozódnak a nemzetállamokra, így a táj még összetettebbé és aszimmetrikusabbá válik.
A mesterséges intelligencia képes megvédeni ezeket a feltörekvő fenyegetéseket, de saját kockázatokat is rejt magában. Például a nagy feldolgozási képességekkel rendelkező gépek gyorsabban és hatékonyabban képesek feltörni a rendszereket, mint az emberek. E fenyegetések leküzdése érdekében biztosítanunk kell, hogy a mesterséges intelligencia védekező jellegű legyen, és világosan megértsük, ki irányítja.
Ahogy az AI egyre jobban integrálódik a társadalomba, fontos, hogy a törvényhozók, bírák és más döntéshozók megértsék a technológiát és annak következményeit. A műszaki szakértők és a politikai döntéshozók közötti erős szövetségek kialakítása kulcsfontosságú lesz a mesterséges intelligencia jövőjében a fenyegetésvadászatban és azon túl.
Az AI lehetőségei, kihívásai és etikai megfontolásai a kiberbiztonság terén összetettek és folyamatosan fejlődnek. Az elfogulatlan mesterségesintelligencia-modellek biztosítása és az emberi döntéshozatalban való részvétel fenntartása segít az etikai kihívások kezelésében. Az éberség, az együttműködés és a technológia világos megértése kulcsfontosságú lesz a rendkívül intelligens gépek lehetséges hosszú távú fenyegetéseinek kezelésében.
Ahlberg aggodalmát fejezte ki Kínával, Oroszországgal és az autonóm gépeket bevető gazdasági ellenfelekkel kapcsolatban is. Ezek az országok valószínűleg nem lassítják a mesterséges intelligencia fejlesztését, és nem osztják az etikai megfontolásokat. Noha az ilyen gépek "kihúzásának" képessége okos biztosíték, azt sugallja, hogy a technológia társadalomba és a globális gazdaságba való integrációja valószínűleg megnehezíti a szétválasztást. Ahlberg hangsúlyozza, hogy olyan termékeket és gépeket kell tervezni, amelyek egyértelműen meghatározzák, ki irányítja azokat.
"A nagy dolog, amit az internet tett ebben az egészben, hogy az internet lett az a hely, ahová a világ összes információja vándorolt" - mondta Ahlberg. "Ezek a nagy nyelvi modellek meglehetősen varázslatos dolgokat művelnek… hogy felgyorsítsák ezt a gondolkodási ciklust."
Hozzátette: "A következő 25 évben a világ az internet tükörképévé válik."