Americké armádě během odvetných úderů v Sýrii a Iráku pomáhala vybírat cíle umělá inteligence (AI). Agentuře Bloomberg to prozradila zaměstnankyně blízkovýchodního velitelství americké armády. I když se jedná o praktické využití, vzbuzuje to obavy ze zneužití algoritmů strojového učení například teroristy.
Armáda USA dříve tvrdila, že používá technologii AI pouze pro zpravodajské účely. Schuyler Mooreová, jež v blízkovýchodním štábu CERN vede technickou sekci, pro Bloomberg přiznala i útočné využití těchto systémů.
7. října 2023 zahájily Izraelské obranné síly (IDF) tehdy ještě s požehnáním Washingtonu invazi do Pásma Gazy. Na americké jednotky v Sýrii a Iráku se v reakci na to slétly jako hejno vos různé militantní frakce podporované Íránem, což nakonec vyústilo ve smrt tří amerických vojáků.
2. února 2024 přišla obávaná odplata – Američané uskutečnili velké množství úderů, při kterých zasáhli na 85 cílů v Sýrii a Iráku. S odvetou přitom pomohlo „oko umělé inteligence“, píše s odkazem na rozhovor web India Today.
„Používáme počítačové vidění pro určení toho, kde se vyskytují hrozby,“ podotkla Mooreová. Takové programy na bázi strojového učení fungují například tak, že na záběr pořízených drony rozeznávají různé objekty a pomáhají tak odhalovat nepřátelské pozice.
Hrozba zneužití
Systém pro detekci cílů vyvinula americká armáda v rámci projektu Maven už v roce 2017. Pentagon si od toho sliboval nasazení nástrojů strojového učení napříč resortem. Nedávno navíc podepsal smlouvu s americkou firmou OpenAI.
Její systémy umělé inteligence mají sloužit k prevenci sebevražd veteránů. Startup mimo jiné spolupracuje s americkým ministerstvem obrany i na kybernetické bezpečnosti. Jakékoli využití svých systémů, které není „mírumilovné“, ovšem odmítá.
Yoshua Bengio, počítačový vědec z Kanady, minulý rok varoval před rizikem zneužití systémů AI ve vojenském sektoru. Vyjádřil obavy, že se k těmto stále sofistikovanějším technologiím dostanou aktéři se špatnými úmysly.
Například teroristé by je mohli použít k útoku na civilní objekty a způsobit větší ztráty na životech. Pokud nás AI přeroste, bude stále těžší udržet nad ní kontrolu. Bengio přiznal, že kvůli tomu trpí duševními problémy. Tak vážné obavy to jsou.
Zdroje: India Today, Bloomberg