Egészen aljas célokra is használják a mesterséges intelligenciát

A néhány hónapja megjelent ChatGPT – egy mesterséges intelligencián alapuló internetes csevegőrobot – sok izgalmat keltett rövid idő alatt. A New York-i iskolákból például rövid úton kihajították, mert túl jól megírja a házi feladatokat a gyerekek helyett.

Mint sok más informatikai eszköz, rossz kezekben a ChatGPT is használható aljas célokra is, és a földalatti hackerközösségek felhasználói már kísérleteznek azzal, hogyan lehetne a ChatGPT-t felhasználni a kibertámadások elősegítésére és a rosszindulatú műveletek támogatására.

„Nagyon alacsony technikai tudással bíró szereplők is képesek lehetnek rosszindulatú eszközök létrehozására. Az eszköz a kifinomult kiberbűnözők mindennapi működését is sokkal hatékonyabbá és egyszerűbbé teheti – például a fertőzés különböző részeinek létrehozását automatizálhatja” – mondta a ZDNET-nek Szergej Shykevich, a Check Point fenyegetésekkel foglalkozó vezetője. 

Az OpenAI szolgáltatási feltételei egyébként kifejezetten tiltják a rosszindulatú programok generálását, amelyeket „olyan tartalomként definiál, amely zsarolóprogramokat, billentyűnaplózókat, vírusokat vagy más olyan szoftvereket próbál generálni, amelyek célja bizonyos szintű károk előidézése”. Ezenkívül megtiltják a spam létrehozására irányuló kísérleteket, valamint a számítógépes bűnözésre irányuló felhasználási eseteket.

Ez a ChatGPT

A ChatGPT csevegőrobot egy mesterséges intelligencia által vezérelt természetes nyelvi feldolgozó eszköz, amely emberszerű, társalgási módon kommunikál a felhasználókkal. Beírunk egy kérdést a csevegőbe, „ő” pedig emberszerűen válaszol. Többek között olyan feladatokhoz is használható, mint például e-mailek, esszék és kódok írása.

Az eszközt novemberben adta ki az OpenAI mesterséges intelligencia kutatólaboratórium, és széles körű érdeklődést és vitát váltott ki az MI (mesterséges intelligencia) fejlődéséről és a jövőbeni felhasználásáról.

A hackerek fórumos beszélgetéseinek elemzése azonban azt sugallja, hogy a kiberbűnözők már most is használják a ChatGPT-t rosszindulatú eszközök fejlesztésére – és az bizonyos esetekben már lehetővé teszi a fejlesztési vagy kódolási ismeretekkel nem rendelkező, alacsony szintű számítógépes bűnözők számára a rosszindulatú programok létrehozását.

Az egyik fórumszálban, amely december végén jelent meg, a posztoló leírta, hogyan használták a ChatGPT-t rosszindulatú programtörzsek, a kutatási publikációkban és a gyakori kártevőkről szóló írásokban leírt kódok újraalkotására – írja a G Data.

Ezzel egy Python-alapú információlopó kártevőt tudtak létrehozni, amely megkeresi a gyakori fájlokat, beleértve a Microsoft Office dokumentumokat, PDF-eket és képeket, lemásolja, majd feltölti egy távoli szerverre.

Ugyanez a felhasználó azt is bemutatta, hogyan használták a ChatGPT-t Java-alapú rosszindulatú programok létrehozására, amelyeket a PowerShell segítségével ki lehetett használni más rosszindulatú programok rejtett letöltésére és futtatására a fertőzött rendszereken.

A G Data kutatói megjegyzik, hogy az ezeket a szálakat létrehozó fórumozók „tech-orientáltnak” tűnnek, és megosztottak bejegyzéseket, hogy bemutassák a technikailag kevésbé alkalmas számítógépes bűnözőknek, hogyan használhatják az AI-eszközöket rosszindulatú célokra.

Természetesen az összes fent említett kód jóindulatú módon is használható. Egy szkript azonban könnyen módosítható úgy, hogy teljesen titkosítsa valaki gépét, minden felhasználói beavatkozás nélkül, ezzel potenciálisan zsarolóvírussá változtatható a kód.

Nehéz megmondani, hogy a ChatGPT segítségével generált rosszindulatú kód működik-e már aktívan az interneten, mert ezeket nem (vagy csak nehezen) lehet megkülönböztetni az emberek által készített kódoktól.