Americké ministerstvo spravedlnosti spolu s Národním úřadem pro vyšetřování (FBI) zastavilo sofistikovanou tajnou informační kampaň založenou na umělé inteligenci (AI) na sociální síti X (dříve Twitter). Stopy vyšetřování vedly až k Rusku. Tento případ poukazuje na rizika spojená s touto technologií.

Podle ministerstva se podařilo odhalit složitou dezinformační kampaň založenou na zhruba tisícovce falešných účtů na platformě X. Tyto účty převzaly americkou identitu a pomáhaly šířit ruskou propagandu, píše server ReadWrite.

Za těmito profily však nestáli lidé, ale armáda botů, což je dlouhodobý problém X. Šéf sociální sítě Elon Musk slíbil podniknutí kroků proti botům, způsob jeho podnikání ale naopak krizi ještě prohloubil, čehož ruská strana snadno využila.

FBI odhalila na X roboty šířící proruské nálady. Zdroj: Pixabay

FBI operaci vystopovala až k zástupci šéfredaktora ruské televize RT News, dříve známé jako Russian Today. Vyšetřování navíc zjistilo financování ze strany ruské Federální služby bezpečnosti (FSB), nástupce KGB.

Ministerstvo po tomto odhalení převzalo kontrolu nad dvěma webovými stránkami podílejícími se na správě účtů botů a přimělo sociální síť X, aby poskytla data týkající se 968 účtů, o nichž potvrdilo, že se jedná o boty.

Je to ještě horší

Tady však přichází hlavní jádro problému. FBI totiž s nizozemskými zpravodajci a kanadskými experty na kybernetickou bezpečnost identifikovala nástroj AI zvaný Meliorator. Ten dokáže masově „vyrábět“ autenticky vypadající účty na sociálních sítích.

Software lze popsat jako nějakou továrnu na internetové roboty. Zjištění poukazuje na bezprecedentní důležitost zakročit proti botům a falešným účtům na sociálních sítích a řešit otázky kolem bezpečnosti AI.

AI dokáže generovat dezinformace masově. Zdroj: Pixabay

„Rusko mělo v úmyslu dál využívat tuto farmu botů na šíření dezinformací generovaných umělou inteligencí, aby podkopalo naše partnery na Ukrajině a ovlivnilo geopolitické narativy příznivé pro ruskou vládu,“ oznámil ředitel FBI Christopher Wray.

Platforma X následně účty smazala, podle FBI nepřilákaly mnoho zájemců. Šířily hlavně protiukrajinské nálady a vyzdvihovaly vládu ruského prezidenta Vladimira Putina. Prezentovaly ho jako člověku, jemuž na Ukrajině záleží.

Zdroje: ReadWrite