Z amatéra hackerem. Umělá inteligence ChatGPT vytváří malware na počkání

Generativní umělá inteligence dokáže generovat texty, obrázky, videa či třeba zdrojový kód. Jazykový model ChatGPT si vedle psaní textů poradí třeba s generováním zdrojového kódu na základě textového zadání. V rukou lidí se zlými úmysly se může však stát nebezpečný.

Check Point Research, výzkumný tým společnosti Check Point upozorňuje, že kyberzločinci už začali používat ChatGPT k vývoji škodlivých kódů a útočných nástrojů. Na hackerských fórech vytváří zlodějské malwary, šifrovací nástroje a poskytují návody, jak umělou inteligenci využít pro podvodné aktivity.

Umělá inteligence bude zcela jistě jedním z hlavních témat roku 2023. AI technologie pomáhají při ochraně před kybernetickými hrozbami, ale zároveň vidíme velký zájem kyberzločinců například o ChatGPT. Hackeři zkouší tuto dostupnou technologii používat k psaní škodlivého kódu, a i když jsou současné pokusy poměrně jednoduché, je jen otázkou času, než začnou AI nástroje využívat mnohem sofistikovanějším způsobem i profesionální hackerské skupiny,“ říká Petr Kadrmas, Beyond the Perimeter Security Expert, Eastern Europe z kyberbezpečnostní společnosti Check Point Software Technologies.

Tvorba zlodějských malwarů

29. prosince 2022 se na populárním hackerském fóru objevilo vlákno s názvem „ChatGPT – výhody malwaru“. Autor vlákna prozradil, že experimentuje s ChatGPT, aby vytvořil malwarové kmeny podle popisu ve výzkumných publikacích.

Podařilo se mu například vygenerovat základní nástroj pro krádeže, který v systému vyhledává 12 běžných typů souborů (například dokumenty MS Office, PDF a obrázky). Pokud jsou nalezeny zajímavé soubory, malware je zkopíruje do dočasného adresáře, zazipuje a odešle přes web. Soubory jsou ovšem odesílané v nezašifrované podobě, takže se mohou dostat do rukou i třetím stranám. Další skript by bylo možné snadno upravit tak, aby stáhl a spustil jakýkoli program, včetně běžného malwaru.

Mohlo se sice jednat o technicky orientovaného hackera, který chce jen vyzkoušet možnosti nové technologie, ale ve skutečnosti se zdálo, že příspěvky spíše ukazují technicky méně zdatným kyberzločincům, jak ChatGPT využít k tvorbě malwaru a k útokům.

Obrázek: Z amatéra hackerem. Umělá inteligence ChatGPT vytváří malware na počkání

Kyberzločinec ukazuje, jak vytvořit zlodějský malware pomocí ChatGPT. Foto: Se souhlasem Check Point

Tvorba vícevrstvých šifrovacích nástrojů

21. prosince 2022 zveřejnil hacker s přezdívkou USDoD skript v jazyce Python, o kterém zdůraznil, že je to „první skript, který kdy vytvořil“. USDoD zároveň potvrdil, že script byl vytvořen s pomocí OpenAI. Je to ukázka, že kyberzločinci, kteří nemají téměř žádné vývojářské zkušenosti, by mohli umělou inteligenci využít k vývoji škodlivých nástrojů a útoky na úrovni profesionálních kyberzločinců jsou zase o krok blíž i amatérům.

Zmíněné kódy lze samozřejmě použít i neškodným způsobem. Zároveň je však možné skript jednoduše upravit, aby zcela bez interakce uživatele zašifroval něčí počítač. Kód lze dokonce změnit i na ransomware, což by mohlo vyvolat paniku, protože ransomwarové útoky už tak patří mezi nejnebezpečnější hrozby současnosti.

Obrázek: Z amatéra hackerem. Umělá inteligence ChatGPT vytváří malware na počkání

Potvrzení, že nástroj byl vytvořen pomocí OpenAI. Foto: Se souhlasem ChatGPT

Obrázek: Z amatéra hackerem. Umělá inteligence ChatGPT vytváří malware na počkání

Kyberzločinec přezdívaný USDoD zveřejňuje vícevrstvý šifrovací nástroj. Foto: Se souhlasem ChatGPT

Využití ChatGPT pro podvodné aktivity a obchodování s nelegálním nebo kradeným zbožím

Kyberzločinci také ukazují, jak pomocí ChatGPT vytvořit skripty pro darkwebové tržiště a nabídnout platformu pro automatizovaný obchod s nelegálním nebo kradeným zbožím, jako jsou kradené účty nebo platební karty, malware nebo dokonce drogy a munice, přičemž veškeré platby mohou probíhat v kryptoměnách.

Na hackerských fórech také probíhají diskuze, jak využít ChatGPT k vytváření podvodných schémat. Většinou se jedná o generování uměleckých děl pomocí jiné OpenAI technologie (DALLE2) a online prodej pomocí legitimních platforem, jako je Etsy. Jiný hacker zase vysvětluje, jak vygenerovat e-knihu nebo krátkou povídku pomocí ChatGPT a prodat obsah online.

Obrázek: Z amatéra hackerem. Umělá inteligence ChatGPT vytváří malware na počkání

Několik vláken na hackerských fórech, jak používat ChatGPT k podvodné činnosti. Foto: Se souhlasem ChatGPT

Obrázek: Z amatéra hackerem. Umělá inteligence ChatGPT vytváří malware na počkání

Ukázka využití ChatGPT k vytváření skriptů pro obchodování na dark webu. Foto: Se souhlasem ChatGPT

Zatím je příliš brzy, abychom mohli jasně říci, jestli se ChatGPT stane novým oblíbeným nástrojem hackerů. Nicméně kyberzločinci možnosti zneužití aktivně zkoumají, měli bychom proto zpozornět a připravit se na nové nebezpečné výzvy.

Zdroj: TZ Check Point
Úvodní fotografie: Pixabay

Obrázek: Co se starými kryty na mobil? Česká značka FIXED dokáže, co jiní ne a vyrábí z nich nové
Co se starými kryty na mobil? Česká značka FIXED dokáže, co jiní ne a vyrábí z nich nové
Obrázek: AI ve vašem počítači. Co představí Microsoft na akci Microsoft Build 2024?
AI ve vašem počítači. Co představí Microsoft na akci Microsoft Build 2024?
Obrázek: Reklama na nový iPad pobouřila: Apple drtil hudbu i umění, Samsung chytře zareagoval
Reklama na nový iPad pobouřila: Apple drtil hudbu i umění, Samsung chytře zareagoval
Obrázek: Kvalitní alternativa k Apple Watch SE? Huawei Watch Fit 3 jsou levnější, s delší výdrží a větším displejem
Kvalitní alternativa k Apple Watch SE? Huawei Watch Fit 3 jsou levnější, s delší výdrží a větším displejem
Obrázek: Tuhle chybu dělá většina z nás: Datum narození jako heslo nepoužívejte
Tuhle chybu dělá většina z nás: Datum narození jako heslo nepoužívejte
Obrázek: Allegro Smart! Week poprvé v Česku: Ušetřit můžete tisíce, vybrali jsme pro vás nejzajímavější produkty
Allegro Smart! Week poprvé v Česku: Ušetřit můžete tisíce, vybrali jsme pro vás nejzajímavější produkty
Obrázek: Kde sledovat mistrovství světa v hokeji? Online v prohlížeči, na mobilu i v PC bez internetu
Kde sledovat mistrovství světa v hokeji? Online v prohlížeči, na mobilu i v PC bez internetu
Obrázek: Jak spustit retro hry na počítači s Windows 11?
Jak spustit retro hry na počítači s Windows 11?