Z amatéra hackerem. Umělá inteligence ChatGPT vytváří malware na počkání

Generativní umělá inteligence dokáže generovat texty, obrázky, videa či třeba zdrojový kód. Jazykový model ChatGPT si vedle psaní textů poradí třeba s generováním zdrojového kódu na základě textového zadání. V rukou lidí se zlými úmysly se může však stát nebezpečný.

Check Point Research, výzkumný tým společnosti Check Point upozorňuje, že kyberzločinci už začali používat ChatGPT k vývoji škodlivých kódů a útočných nástrojů. Na hackerských fórech vytváří zlodějské malwary, šifrovací nástroje a poskytují návody, jak umělou inteligenci využít pro podvodné aktivity.

Umělá inteligence bude zcela jistě jedním z hlavních témat roku 2023. AI technologie pomáhají při ochraně před kybernetickými hrozbami, ale zároveň vidíme velký zájem kyberzločinců například o ChatGPT. Hackeři zkouší tuto dostupnou technologii používat k psaní škodlivého kódu, a i když jsou současné pokusy poměrně jednoduché, je jen otázkou času, než začnou AI nástroje využívat mnohem sofistikovanějším způsobem i profesionální hackerské skupiny,“ říká Petr Kadrmas, Beyond the Perimeter Security Expert, Eastern Europe z kyberbezpečnostní společnosti Check Point Software Technologies.

Tvorba zlodějských malwarů

29. prosince 2022 se na populárním hackerském fóru objevilo vlákno s názvem „ChatGPT – výhody malwaru“. Autor vlákna prozradil, že experimentuje s ChatGPT, aby vytvořil malwarové kmeny podle popisu ve výzkumných publikacích.

Podařilo se mu například vygenerovat základní nástroj pro krádeže, který v systému vyhledává 12 běžných typů souborů (například dokumenty MS Office, PDF a obrázky). Pokud jsou nalezeny zajímavé soubory, malware je zkopíruje do dočasného adresáře, zazipuje a odešle přes web. Soubory jsou ovšem odesílané v nezašifrované podobě, takže se mohou dostat do rukou i třetím stranám. Další skript by bylo možné snadno upravit tak, aby stáhl a spustil jakýkoli program, včetně běžného malwaru.

Mohlo se sice jednat o technicky orientovaného hackera, který chce jen vyzkoušet možnosti nové technologie, ale ve skutečnosti se zdálo, že příspěvky spíše ukazují technicky méně zdatným kyberzločincům, jak ChatGPT využít k tvorbě malwaru a k útokům.

Obrázek: Z amatéra hackerem. Umělá inteligence ChatGPT vytváří malware na počkání

Kyberzločinec ukazuje, jak vytvořit zlodějský malware pomocí ChatGPT. Foto: Se souhlasem Check Point

Tvorba vícevrstvých šifrovacích nástrojů

21. prosince 2022 zveřejnil hacker s přezdívkou USDoD skript v jazyce Python, o kterém zdůraznil, že je to „první skript, který kdy vytvořil“. USDoD zároveň potvrdil, že script byl vytvořen s pomocí OpenAI. Je to ukázka, že kyberzločinci, kteří nemají téměř žádné vývojářské zkušenosti, by mohli umělou inteligenci využít k vývoji škodlivých nástrojů a útoky na úrovni profesionálních kyberzločinců jsou zase o krok blíž i amatérům.

Zmíněné kódy lze samozřejmě použít i neškodným způsobem. Zároveň je však možné skript jednoduše upravit, aby zcela bez interakce uživatele zašifroval něčí počítač. Kód lze dokonce změnit i na ransomware, což by mohlo vyvolat paniku, protože ransomwarové útoky už tak patří mezi nejnebezpečnější hrozby současnosti.

Obrázek: Z amatéra hackerem. Umělá inteligence ChatGPT vytváří malware na počkání

Potvrzení, že nástroj byl vytvořen pomocí OpenAI. Foto: Se souhlasem ChatGPT

Obrázek: Z amatéra hackerem. Umělá inteligence ChatGPT vytváří malware na počkání

Kyberzločinec přezdívaný USDoD zveřejňuje vícevrstvý šifrovací nástroj. Foto: Se souhlasem ChatGPT

Využití ChatGPT pro podvodné aktivity a obchodování s nelegálním nebo kradeným zbožím

Kyberzločinci také ukazují, jak pomocí ChatGPT vytvořit skripty pro darkwebové tržiště a nabídnout platformu pro automatizovaný obchod s nelegálním nebo kradeným zbožím, jako jsou kradené účty nebo platební karty, malware nebo dokonce drogy a munice, přičemž veškeré platby mohou probíhat v kryptoměnách.

Na hackerských fórech také probíhají diskuze, jak využít ChatGPT k vytváření podvodných schémat. Většinou se jedná o generování uměleckých děl pomocí jiné OpenAI technologie (DALLE2) a online prodej pomocí legitimních platforem, jako je Etsy. Jiný hacker zase vysvětluje, jak vygenerovat e-knihu nebo krátkou povídku pomocí ChatGPT a prodat obsah online.

Obrázek: Z amatéra hackerem. Umělá inteligence ChatGPT vytváří malware na počkání

Několik vláken na hackerských fórech, jak používat ChatGPT k podvodné činnosti. Foto: Se souhlasem ChatGPT

Obrázek: Z amatéra hackerem. Umělá inteligence ChatGPT vytváří malware na počkání

Ukázka využití ChatGPT k vytváření skriptů pro obchodování na dark webu. Foto: Se souhlasem ChatGPT

Zatím je příliš brzy, abychom mohli jasně říci, jestli se ChatGPT stane novým oblíbeným nástrojem hackerů. Nicméně kyberzločinci možnosti zneužití aktivně zkoumají, měli bychom proto zpozornět a připravit se na nové nebezpečné výzvy.

Zdroj: TZ Check Point
Úvodní fotografie: Pixabay

Odebírat
Upozornit na
guest
0 Komentářů
Inline Feedbacks
View all comments
Obrázek: Jak vznikají chytré telefony? Návštěva továrny značky vivo aneb od součástek ke smartphonu ve vaší kapse
Jak vznikají chytré telefony? Návštěva továrny značky vivo aneb od součástek ke smartphonu ve vaší kapse
Obrázek: Rozhovor o chytrých televizorech: Na 8K ještě nenastal ten správný čas, věří Danny Tack z TP Vision
Rozhovor o chytrých televizorech: Na 8K ještě nenastal ten správný čas, věří Danny Tack z TP Vision
Obrázek: Tesla Cybertruck utáhne motor vesmírné rakety a naložená ve sprintu porazila i Porsche 911
Tesla Cybertruck utáhne motor vesmírné rakety a naložená ve sprintu porazila i Porsche 911
Obrázek: Saramonic BlinkMe B2: Mikrofon, se kterým vás uslyší i uvidí
Saramonic BlinkMe B2: Mikrofon, se kterým vás uslyší i uvidí
Obrázek: Píše vám Alza.cz? Podvodníci zneužívají Vánoc a luxují konta přes falešné stránky e-shopu
Píše vám Alza.cz? Podvodníci zneužívají Vánoc a luxují konta přes falešné stránky e-shopu
Obrázek: Co je to PPC reklama a kde všude se může zobrazit?
Co je to PPC reklama a kde všude se může zobrazit?
Obrázek: Nabíjení elektromobilu na cestách: Jak využít hotelové nabíječky?
Nabíjení elektromobilu na cestách: Jak využít hotelové nabíječky?
Obrázek: Gravírujeme laserem do dřeva i kovu: Praktický test gravírovačky TWO TREES TS2 10W
Gravírujeme laserem do dřeva i kovu: Praktický test gravírovačky TWO TREES TS2 10W