Z amatéra hackerem. Umělá inteligence ChatGPT vytváří malware na počkání

Generativní umělá inteligence dokáže generovat texty, obrázky, videa či třeba zdrojový kód. Jazykový model ChatGPT si vedle psaní textů poradí třeba s generováním zdrojového kódu na základě textového zadání. V rukou lidí se zlými úmysly se může však stát nebezpečný.

Check Point Research, výzkumný tým společnosti Check Point upozorňuje, že kyberzločinci už začali používat ChatGPT k vývoji škodlivých kódů a útočných nástrojů. Na hackerských fórech vytváří zlodějské malwary, šifrovací nástroje a poskytují návody, jak umělou inteligenci využít pro podvodné aktivity.

Umělá inteligence bude zcela jistě jedním z hlavních témat roku 2023. AI technologie pomáhají při ochraně před kybernetickými hrozbami, ale zároveň vidíme velký zájem kyberzločinců například o ChatGPT. Hackeři zkouší tuto dostupnou technologii používat k psaní škodlivého kódu, a i když jsou současné pokusy poměrně jednoduché, je jen otázkou času, než začnou AI nástroje využívat mnohem sofistikovanějším způsobem i profesionální hackerské skupiny,“ říká Petr Kadrmas, Beyond the Perimeter Security Expert, Eastern Europe z kyberbezpečnostní společnosti Check Point Software Technologies.

Tvorba zlodějských malwarů

29. prosince 2022 se na populárním hackerském fóru objevilo vlákno s názvem „ChatGPT – výhody malwaru“. Autor vlákna prozradil, že experimentuje s ChatGPT, aby vytvořil malwarové kmeny podle popisu ve výzkumných publikacích.

Podařilo se mu například vygenerovat základní nástroj pro krádeže, který v systému vyhledává 12 běžných typů souborů (například dokumenty MS Office, PDF a obrázky). Pokud jsou nalezeny zajímavé soubory, malware je zkopíruje do dočasného adresáře, zazipuje a odešle přes web. Soubory jsou ovšem odesílané v nezašifrované podobě, takže se mohou dostat do rukou i třetím stranám. Další skript by bylo možné snadno upravit tak, aby stáhl a spustil jakýkoli program, včetně běžného malwaru.

Mohlo se sice jednat o technicky orientovaného hackera, který chce jen vyzkoušet možnosti nové technologie, ale ve skutečnosti se zdálo, že příspěvky spíše ukazují technicky méně zdatným kyberzločincům, jak ChatGPT využít k tvorbě malwaru a k útokům.

Obrázek: Z amatéra hackerem. Umělá inteligence ChatGPT vytváří malware na počkání

Kyberzločinec ukazuje, jak vytvořit zlodějský malware pomocí ChatGPT. Foto: Se souhlasem Check Point

Tvorba vícevrstvých šifrovacích nástrojů

21. prosince 2022 zveřejnil hacker s přezdívkou USDoD skript v jazyce Python, o kterém zdůraznil, že je to „první skript, který kdy vytvořil“. USDoD zároveň potvrdil, že script byl vytvořen s pomocí OpenAI. Je to ukázka, že kyberzločinci, kteří nemají téměř žádné vývojářské zkušenosti, by mohli umělou inteligenci využít k vývoji škodlivých nástrojů a útoky na úrovni profesionálních kyberzločinců jsou zase o krok blíž i amatérům.

Zmíněné kódy lze samozřejmě použít i neškodným způsobem. Zároveň je však možné skript jednoduše upravit, aby zcela bez interakce uživatele zašifroval něčí počítač. Kód lze dokonce změnit i na ransomware, což by mohlo vyvolat paniku, protože ransomwarové útoky už tak patří mezi nejnebezpečnější hrozby současnosti.

Obrázek: Z amatéra hackerem. Umělá inteligence ChatGPT vytváří malware na počkání

Potvrzení, že nástroj byl vytvořen pomocí OpenAI. Foto: Se souhlasem ChatGPT

Obrázek: Z amatéra hackerem. Umělá inteligence ChatGPT vytváří malware na počkání

Kyberzločinec přezdívaný USDoD zveřejňuje vícevrstvý šifrovací nástroj. Foto: Se souhlasem ChatGPT

Využití ChatGPT pro podvodné aktivity a obchodování s nelegálním nebo kradeným zbožím

Kyberzločinci také ukazují, jak pomocí ChatGPT vytvořit skripty pro darkwebové tržiště a nabídnout platformu pro automatizovaný obchod s nelegálním nebo kradeným zbožím, jako jsou kradené účty nebo platební karty, malware nebo dokonce drogy a munice, přičemž veškeré platby mohou probíhat v kryptoměnách.

Na hackerských fórech také probíhají diskuze, jak využít ChatGPT k vytváření podvodných schémat. Většinou se jedná o generování uměleckých děl pomocí jiné OpenAI technologie (DALLE2) a online prodej pomocí legitimních platforem, jako je Etsy. Jiný hacker zase vysvětluje, jak vygenerovat e-knihu nebo krátkou povídku pomocí ChatGPT a prodat obsah online.

Obrázek: Z amatéra hackerem. Umělá inteligence ChatGPT vytváří malware na počkání

Několik vláken na hackerských fórech, jak používat ChatGPT k podvodné činnosti. Foto: Se souhlasem ChatGPT

Obrázek: Z amatéra hackerem. Umělá inteligence ChatGPT vytváří malware na počkání

Ukázka využití ChatGPT k vytváření skriptů pro obchodování na dark webu. Foto: Se souhlasem ChatGPT

Zatím je příliš brzy, abychom mohli jasně říci, jestli se ChatGPT stane novým oblíbeným nástrojem hackerů. Nicméně kyberzločinci možnosti zneužití aktivně zkoumají, měli bychom proto zpozornět a připravit se na nové nebezpečné výzvy.

Zdroj: TZ Check Point
Úvodní fotografie: Pixabay

Odebírat
Upozornit na
guest
0 Komentářů
Inline Feedbacks
View all comments
Obrázek: Závody v oblasti AI pokračují. Google představil Bard, konkurenci pro ChatGPT
Závody v oblasti AI pokračují. Google představil Bard, konkurenci pro ChatGPT
Obrázek: Satelity z vysloužilých skafandrů? Netradiční nápad skončil fiaskem
Satelity z vysloužilých skafandrů? Netradiční nápad skončil fiaskem
Obrázek: Konec vyhledávačů, jak je známe. Microsoft rozšiřuje Bing o umělou inteligenci
Konec vyhledávačů, jak je známe. Microsoft rozšiřuje Bing o umělou inteligenci
Obrázek: Samsung, Google a Qualcomm spojují síly ve vývoji smíšené reality
Samsung, Google a Qualcomm spojují síly ve vývoji smíšené reality
Obrázek: Recenze: Česká čistička vzduchu GARNI 45T OneCare obstála na výbornou
93%
Recenze: Česká čistička vzduchu GARNI 45T OneCare obstála na výbornou
Znečištěný vzduch
Čistíte si doma vzduch? Co znamená PM 2.5 a jaký mohou mít nečistoty vliv na vaše zdraví?
Obrázek: Blíží se kometa, kterou můžete vidět pouze jednou za 50 000 let. Jak ji sledovat?
Blíží se kometa, kterou můžete vidět pouze jednou za 50 000 let. Jak ji sledovat?
Obrázek: Konec složitostem. Novinka ve WhatsAppu ušetří hodiny se zálohováním
Konec složitostem. Novinka ve WhatsAppu ušetří hodiny se zálohováním