Sítě umělé inteligence jsou vůči hackerským útokům zranitelnější, než jsme si mysleli

Umělá inteligence (AI) může být prospěšná pro společnost stejně jako škodlivá. Hlavně je však velice nebezpečnou „spící zbraní“ hackerů. Američtí vědci teď svými testy demonstrovali, jak zranitelná vůči zmanipulování může být. Hackeři ji mohou přimět k čemukoli, dokonce i k vraždě.

Umělá inteligence plní stále zásadnější roli ve společnosti a brzy ponese zodpovědnost i za lidské životy. Na s tím spojená nebezpečí upozornili vědci ze Severokarolínské státní univerzity (NC State University, NCSU).

Vědci otestovali odolnost oblíbených architektur a technologií neuronových sítí ResNet-50, DenseNet-121, ViT-B a DEiT-S, které se běžně používají v systémech umělé inteligence po celém světě. K těmto účelům vyvinuli vlastní software QuadAttacK.

Obrázek: Sítě umělé inteligence jsou vůči hackerským útokům zranitelnější, než jsme si mysleli

Hackeři mohou přimět AI k čemukoli, dokonce i k vraždě. Zdroj: Unsplash

Jeho prostřednictvím posílali systému umělé inteligence zmanipulovaná data a sledovali její reakce. Pokud identifikovali slabinu, mohli přimět AI, aby „viděla“, co chtěli. Přitom zjistili, že je to mnohem snazší, než by se mohlo zdát, píše server ScienceDaily.

„Překvapilo nás, jak moc byly všechny čtyři sítě náchylné k útokům nepřítele. Zvláště nás ale ohromilo, do jaké míry jsme mohli útoky sami vylaďovat tak, aby sítě viděly přesně to, co jsme sami chtěli,“ upozornil vedoucí studie Tianfu Wu.

Až začne AI zabíjet

„Pokud by hackeři pronikli do sítě umělé inteligence a dokázali ji přesvědčit ke špatným rozhodnutím, v některých případech by to mohlo mít katastrofální důsledky,“ varují odborníci na webu North Carolina State University.

Takový hacker může například virtuálně přelepit značku STOP tak, aby ji autonomní systém neviděl. Nebo do rentgenového zařízení nainstaluje kód, který změní obrazová data tak, že systém umělé inteligence stanoví nepřesnou diagnózu.

Obrázek: Sítě umělé inteligence jsou vůči hackerským útokům zranitelnější, než jsme si mysleli

Hackeři mohou ovlivnit, co umělá inteligence vidí. Zdroj: Unsplash

Experti varují, že tyto útoky nepovedou pouze k tomu, že udělá AI chybu. Hackeři jsou schopni tyto systémy zmanipulovat a přimět téměř k čemukoli, ať už hovoříme o krádežích nebo dokonce zabíjení. A znepokojivé je to i kvůli nástupu autonomních vozů, které AI pro analýzu provozu a okolí vozidla využívají, jako je např. chystaný FSD 12 od společnosti Tesla.

Představte si děsivý scénář, v němž se vašeho automobilu na dálku zmocní hacker a získá nad vámi kontrolu. Ze studie tak vyplývá, že systémy umělé inteligence náchylné vůči hackerským útokům by neměly být používány tam, kde hrozí újma na zdraví.

Zdroje: 1, 2

Odebírat
Upozornit na
guest
0 Komentářů
Inline Feedbacks
View all comments
Obrázek: Honor Magic 6 Pro dostal první aktualizaci. Aktivovala AI funkci Magic Portal
Honor Magic 6 Pro dostal první aktualizaci. Aktivovala AI funkci Magic Portal
Obrázek: Jako robíci z Červeného trpaslíka: Chytrá AI lampička od Xiaomi sleduje vaše ruce a chová se jako mazlíček
Jako robíci z Červeného trpaslíka: Chytrá AI lampička od Xiaomi sleduje vaše ruce a chová se jako mazlíček
Obrázek: Doogee má s Českem velké plány. Na MWC 2024 představilo skládací FLIP X a chytrý prsten
Doogee má s Českem velké plány. Na MWC 2024 představilo skládací FLIP X a chytrý prsten
Obrázek: GPU vs. CPU: O kolik akcelerace AI na GPU urychlí práci ve Photoshopu? Změřili jsme rozdíl s NVIDIA RTX 4070
GPU vs. CPU: O kolik akcelerace AI na GPU urychlí práci ve Photoshopu? Změřili jsme rozdíl s NVIDIA RTX 4070
Obrázek: Jak koupit Bitcoin v ČR? Návod na bezpečný nákup kryptoměn v roce 2024
Jak koupit Bitcoin v ČR? Návod na bezpečný nákup kryptoměn v roce 2024
Obrázek: Jak rychle nabijete chytrý telefon? Nabíjení Redmi Note 13 Pro+ je rychlejší než vaše ranní káva
Jak rychle nabijete chytrý telefon? Nabíjení Redmi Note 13 Pro+ je rychlejší než vaše ranní káva
Obrázek: Občanka v mobilu od A do Z: Jak nainstalovat a zprovoznit eDoklady?
Občanka v mobilu od A do Z: Jak nainstalovat a zprovoznit eDoklady?
Obrázek: 5 způsobů, jak zjistit zapomenuté heslo K WiFi. Snadno v PC i na mobilu
5 způsobů, jak zjistit zapomenuté heslo K WiFi. Snadno v PC i na mobilu