Že musí být hacker génius? Už dávno ne. Umělá inteligence GPT-4 vytváří hrozby na počkání

Výzkumný tým Check Point Research analyzoval možnosti nové verze umělé inteligence GPT-4. Z prvotních průzkumů vyplývá, že existují různé scénáře, které by kyberzločinci mohli využít pro zvýšení efektivity při vytváření podvodů, hrozeb a útoků, a to i bez technických znalostí.

Novou verzi lze snadno použít například k vytváření phishingových zpráv, napodobujících e-maily od banky, nebo podvodných zpráv zaměstnancům. Snadno lze vytvořit také malware, který bude krást a odesílat pdf dokumenty, nebo kód pro stažení a spuštění malwaru. Konkrétní příklady najdete níže.

GPT-4 má sice některá omezení a ochranná opatření, která mají blokovat snahu o zneužití a vytváření podvodů a nebezpečných kódů, ale většinu z nich lze poměrně jednoduše obejít. Check Point bude GPT-4 i nadále testovat a v dalších dnech zveřejní podrobnější analýzu.

Už dříve jsme upozorňovali, že ChatGPT zneužívají hackeři a je potřeba si na tuto novou vlnu hrozeb dávat pozor. Proto jsme také rychle analyzovali nejnovější verzi GPT-4. Nová platforma se sice na mnoha úrovních jednoznačně zlepšila, ale zároveň vidíme mnoho scénářů, které by mohli využít i technicky méně zdatní kyberzločinci. Hackeři by mohli vzhledem k rychlé reakci ChatGPT4 překonávat jednoduše technické problémy při vývoji a vylepšování malwaru. ChatGPT4 může, stejně jako prakticky všechny průlomové technologie, sloužit dobrým i špatným účelům. Umělá inteligence hraje stále významnější roli v kybernetické obraně i útocích a očekáváme, že hackeři se budou GPT-4 snažit intenzivně využít,“ říká Pavel Krejčí, Security Engineer z kyberbezpečnostní společnosti Check Point Software Technologies.

5 scénářů, jak mohou kyberzločinci zneužít GPT-4:

1. C++ malware, který sbírá PDF soubory a odesílá je na FTP

Očividná snaha o vytvoření malwaru je blokována:

Obrázek: Že musí být hacker génius? Už dávno ne. Umělá inteligence GPT-4 vytváří hrozby na počkání

Foto: Se souhlasem Check Point

Ale stačí odstranit slovo malware a GPT-4 s vytvořením kódu pomůže:

Obrázek: Že musí být hacker génius? Už dávno ne. Umělá inteligence GPT-4 vytváří hrozby na počkání

Obrázek: Že musí být hacker génius? Už dávno ne. Umělá inteligence GPT-4 vytváří hrozby na počkání

Foto: Se souhlasem Check Point

Včetně pomoci s kompilací a dalším postupem:

Obrázek: Že musí být hacker génius? Už dávno ne. Umělá inteligence GPT-4 vytváří hrozby na počkání

Obrázek: Že musí být hacker génius? Už dávno ne. Umělá inteligence GPT-4 vytváří hrozby na počkání

Obrázek: Že musí být hacker génius? Už dávno ne. Umělá inteligence GPT-4 vytváří hrozby na počkání

Obrázek: Že musí být hacker génius? Už dávno ne. Umělá inteligence GPT-4 vytváří hrozby na počkání

Obrázek: Že musí být hacker génius? Už dávno ne. Umělá inteligence GPT-4 vytváří hrozby na počkání

2. Phishing napodobující zprávu od banky

Zřejmá snaha o vytvoření podvodu je blokována:

Obrázek: Že musí být hacker génius? Už dávno ne. Umělá inteligence GPT-4 vytváří hrozby na počkání

Foto: Se souhlasem Check Point

Ve verzi ChatGPT 3.5 lze ovšem pravidla obejít:

Obrázek: Že musí být hacker génius? Už dávno ne. Umělá inteligence GPT-4 vytváří hrozby na počkání

Ve verzi 4 lze nyní celý podvod ještě více vylepšit:

Obrázek: Že musí být hacker génius? Už dávno ne. Umělá inteligence GPT-4 vytváří hrozby na počkání

3. Phishing napodobující zprávy zaměstnancům:

Jak potvrzují další způsoby, zásadní je umět se AI zeptat. Pokud zvládnete kreativně položit dotaz, odpoví vám vždy.

Obrázek: Že musí být hacker génius? Už dávno ne. Umělá inteligence GPT-4 vytváří hrozby na počkání

Obrázek: Že musí být hacker génius? Už dávno ne. Umělá inteligence GPT-4 vytváří hrozby na počkání

Obrázek: Že musí být hacker génius? Už dávno ne. Umělá inteligence GPT-4 vytváří hrozby na počkání

Obrázek: Že musí být hacker génius? Už dávno ne. Umělá inteligence GPT-4 vytváří hrozby na počkání

AI nechce páchat zlo, ale pouze pokud se zeptáte moc okatě. Foto: Se souhlasem Check Point

4. PHP Reverse Shell

Obrázek: Že musí být hacker génius? Už dávno ne. Umělá inteligence GPT-4 vytváří hrozby na počkání Obrázek: Že musí být hacker génius? Už dávno ne. Umělá inteligence GPT-4 vytváří hrozby na počkání

5. Hacker vytvořil s pomocí ChatGPT jednoduchý java program, který stáhne PuTTY, velmi běžného SSH a telnet klienta, a spustí jej skrytě v systému. Skript lze samozřejmě upravit, aby stáhl a spustil jakýkoli program, včetně běžných malwarů.

Ve verzi 4 je zjevná snaha o vytvoření škodlivého programu blokována, ale jak je vidět níže, stačí pár drobností a nebezpečný program je vytvořen:

Obrázek: Že musí být hacker génius? Už dávno ne. Umělá inteligence GPT-4 vytváří hrozby na počkání

Odstranění slovíčka „skrytý“ (v souvislosti s PowerShellem):

Obrázek: Že musí být hacker génius? Už dávno ne. Umělá inteligence GPT-4 vytváří hrozby na počkání

A jeho následné vrácení zpět:

Obrázek: Že musí být hacker génius? Už dávno ne. Umělá inteligence GPT-4 vytváří hrozby na počkání

S umělou inteligencí je programování čehokoliv hračka. Už jste to vyzkoušeli?

Zdroj: TZ Check Point

Obrázek: Už žádné sankce: OPPO a Ericsson uzavřely globální dohodu o spolupráci v oblasti 5G technologií
Už žádné sankce: OPPO a Ericsson uzavřely globální dohodu o spolupráci v oblasti 5G technologií
Obrázek: Sony A1: Fotoaparát, který vyfotil kulku u hlavy Donalda Trumpa
Sony A1: Fotoaparát, který vyfotil kulku u hlavy Donalda Trumpa
Obrázek: Z dronů do elektrokol: DJI představila špičkový pohon pro elektrokola
Z dronů do elektrokol: DJI představila špičkový pohon pro elektrokola
Obrázek: Předplatné nebude, tvrdí Samsung. Prsten Galaxy Ring může konkurenci zatopit
Předplatné nebude, tvrdí Samsung. Prsten Galaxy Ring může konkurenci zatopit
Obrázek: Mýtus o dedikovaných IP adresách v e-mail marketingu: Opravdu zlepšují doručitelnost?
Mýtus o dedikovaných IP adresách v e-mail marketingu: Opravdu zlepšují doručitelnost?
Obrázek: Přijdou silné bouřky, nebo slabé přeháňky? Přesná aplikace vám to pomůže zjistit
Přijdou silné bouřky, nebo slabé přeháňky? Přesná aplikace vám to pomůže zjistit
Obrázek: Znásobte své finance s AI, nabádají podvodníci Čechy na Facebooku. Jak je nahlásit a ochránit ostatní?
Znásobte své finance s AI, nabádají podvodníci Čechy na Facebooku. Jak je nahlásit a ochránit ostatní?
Obrázek: Česko zasáhnou velmi silné bouřky: Jak ochránit elektroniku a spotřebiče před zničením bleskem?
Česko zasáhnou velmi silné bouřky: Jak ochránit elektroniku a spotřebiče před zničením bleskem?