Z amatéra hackerem. Umělá inteligence ChatGPT vytváří malware na počkání

Generativní umělá inteligence dokáže generovat texty, obrázky, videa či třeba zdrojový kód. Jazykový model ChatGPT si vedle psaní textů poradí třeba s generováním zdrojového kódu na základě textového zadání. V rukou lidí se zlými úmysly se může však stát nebezpečný.

Check Point Research, výzkumný tým společnosti Check Point upozorňuje, že kyberzločinci už začali používat ChatGPT k vývoji škodlivých kódů a útočných nástrojů. Na hackerských fórech vytváří zlodějské malwary, šifrovací nástroje a poskytují návody, jak umělou inteligenci využít pro podvodné aktivity.

Umělá inteligence bude zcela jistě jedním z hlavních témat roku 2023. AI technologie pomáhají při ochraně před kybernetickými hrozbami, ale zároveň vidíme velký zájem kyberzločinců například o ChatGPT. Hackeři zkouší tuto dostupnou technologii používat k psaní škodlivého kódu, a i když jsou současné pokusy poměrně jednoduché, je jen otázkou času, než začnou AI nástroje využívat mnohem sofistikovanějším způsobem i profesionální hackerské skupiny,“ říká Petr Kadrmas, Beyond the Perimeter Security Expert, Eastern Europe z kyberbezpečnostní společnosti Check Point Software Technologies.

Tvorba zlodějských malwarů

29. prosince 2022 se na populárním hackerském fóru objevilo vlákno s názvem „ChatGPT – výhody malwaru“. Autor vlákna prozradil, že experimentuje s ChatGPT, aby vytvořil malwarové kmeny podle popisu ve výzkumných publikacích.

Podařilo se mu například vygenerovat základní nástroj pro krádeže, který v systému vyhledává 12 běžných typů souborů (například dokumenty MS Office, PDF a obrázky). Pokud jsou nalezeny zajímavé soubory, malware je zkopíruje do dočasného adresáře, zazipuje a odešle přes web. Soubory jsou ovšem odesílané v nezašifrované podobě, takže se mohou dostat do rukou i třetím stranám. Další skript by bylo možné snadno upravit tak, aby stáhl a spustil jakýkoli program, včetně běžného malwaru.

Mohlo se sice jednat o technicky orientovaného hackera, který chce jen vyzkoušet možnosti nové technologie, ale ve skutečnosti se zdálo, že příspěvky spíše ukazují technicky méně zdatným kyberzločincům, jak ChatGPT využít k tvorbě malwaru a k útokům.

Obrázek: Z amatéra hackerem. Umělá inteligence ChatGPT vytváří malware na počkání

Kyberzločinec ukazuje, jak vytvořit zlodějský malware pomocí ChatGPT. Foto: Se souhlasem Check Point

Tvorba vícevrstvých šifrovacích nástrojů

21. prosince 2022 zveřejnil hacker s přezdívkou USDoD skript v jazyce Python, o kterém zdůraznil, že je to „první skript, který kdy vytvořil“. USDoD zároveň potvrdil, že script byl vytvořen s pomocí OpenAI. Je to ukázka, že kyberzločinci, kteří nemají téměř žádné vývojářské zkušenosti, by mohli umělou inteligenci využít k vývoji škodlivých nástrojů a útoky na úrovni profesionálních kyberzločinců jsou zase o krok blíž i amatérům.

Zmíněné kódy lze samozřejmě použít i neškodným způsobem. Zároveň je však možné skript jednoduše upravit, aby zcela bez interakce uživatele zašifroval něčí počítač. Kód lze dokonce změnit i na ransomware, což by mohlo vyvolat paniku, protože ransomwarové útoky už tak patří mezi nejnebezpečnější hrozby současnosti.

Obrázek: Z amatéra hackerem. Umělá inteligence ChatGPT vytváří malware na počkání

Potvrzení, že nástroj byl vytvořen pomocí OpenAI. Foto: Se souhlasem ChatGPT

Obrázek: Z amatéra hackerem. Umělá inteligence ChatGPT vytváří malware na počkání

Kyberzločinec přezdívaný USDoD zveřejňuje vícevrstvý šifrovací nástroj. Foto: Se souhlasem ChatGPT

Využití ChatGPT pro podvodné aktivity a obchodování s nelegálním nebo kradeným zbožím

Kyberzločinci také ukazují, jak pomocí ChatGPT vytvořit skripty pro darkwebové tržiště a nabídnout platformu pro automatizovaný obchod s nelegálním nebo kradeným zbožím, jako jsou kradené účty nebo platební karty, malware nebo dokonce drogy a munice, přičemž veškeré platby mohou probíhat v kryptoměnách.

Na hackerských fórech také probíhají diskuze, jak využít ChatGPT k vytváření podvodných schémat. Většinou se jedná o generování uměleckých děl pomocí jiné OpenAI technologie (DALLE2) a online prodej pomocí legitimních platforem, jako je Etsy. Jiný hacker zase vysvětluje, jak vygenerovat e-knihu nebo krátkou povídku pomocí ChatGPT a prodat obsah online.

Obrázek: Z amatéra hackerem. Umělá inteligence ChatGPT vytváří malware na počkání

Několik vláken na hackerských fórech, jak používat ChatGPT k podvodné činnosti. Foto: Se souhlasem ChatGPT

Obrázek: Z amatéra hackerem. Umělá inteligence ChatGPT vytváří malware na počkání

Ukázka využití ChatGPT k vytváření skriptů pro obchodování na dark webu. Foto: Se souhlasem ChatGPT

Zatím je příliš brzy, abychom mohli jasně říci, jestli se ChatGPT stane novým oblíbeným nástrojem hackerů. Nicméně kyberzločinci možnosti zneužití aktivně zkoumají, měli bychom proto zpozornět a připravit se na nové nebezpečné výzvy.

Zdroj: TZ Check Point
Úvodní fotografie: Pixabay

Odebírat
Upozornit na
guest
0 Komentářů
Inline Feedbacks
View all comments
Obrázek: Vědci poprvé dokázali zachytit energii ze solární elektrárny v kosmu
Vědci poprvé dokázali zachytit energii ze solární elektrárny v kosmu
Obrázek: Koncept digitálních dvojčat pomáhá vytvářet kosmickou větev Průmyslu 4.0. Jaké výhody může přinést?
Koncept digitálních dvojčat pomáhá vytvářet kosmickou větev Průmyslu 4.0. Jaké výhody může přinést?
Obrázek: Izrael chce ulevit silnicím, plánuje přepravní flotilu dronů
Izrael chce ulevit silnicím, plánuje přepravní flotilu dronů
Obrázek: 15" MacBook Air je sen. Apple na WWDC představil nejtenčí 15" notebook současnosti
15″ MacBook Air je sen. Apple na WWDC představil nejtenčí 15″ notebook současnosti
Obrázek: Jak na perfektní fotky mobilem? Vivo X90 Pro v rukou profesionálního fotografa
Jak na perfektní fotky mobilem? Vivo X90 Pro v rukou profesionálního fotografa
Obrázek: Zákaz TikToku od ledna 2024: Zakáže Západ oblíbenou sociální síť mladých?
Zákaz TikToku od ledna 2024: Zakáže Západ oblíbenou sociální síť mladých?
Obrázek: Jak fotit mobilem v noci? Tohle vykouzlili profesionálové s Xiaomi 13 Pro
Jak fotit mobilem v noci? Tohle vykouzlili profesionálové s Xiaomi 13 Pro
Obrázek: Kde sledovat mistrovství světa v hokeji? Online v prohlížeči, na mobilu i v PC bez internetu
Kde sledovat mistrovství světa v hokeji? Online v prohlížeči, na mobilu i v PC bez internetu