V souvislosti s obavami s umělou inteligencí (AI) často média citují hrozby dezinformací a pokusy o manipulaci s volbami. Přesně takový případ teď musela řešit společnost OpenAI, jež pozastavila činnost vývojáře zodpovědného za bota Dean.bot. Ten se vydával za demokratického kandidáta na prezidenta Deana Phillipse.
Vytvoření bota poháněného technologií ChatGPT zadala dvojice podnikatelů ze Silicon Valley Matt Krisiloff a Jed Somers firmě Delphi. Tato dvojice založila fond „Super PACs We Deserve Better“, jehož prostřednictvím sbírá dary pro politické kandidáty.
A podporuje kandidáta na prezidenta za demokraty Deana Phillipse. Právě toho bot zvaný Dean.bot napodoboval, čímž měl jeho kandidaturu podpořit. Dean.bot však nepředstíral, že Phillipsem je.
Dean. Bot byl založen na ChatGPt technologii. Zdroj: Unsplash
Ještě než se s ním návštěvníci webových stránek spojili, zobrazilo se jim prohlášení o vyloučení odpovědnosti za povahu chatbota. Přesto se však jedná o přímé porušení zásad společnosti OpenAI, která už celou věc řeší.
Firma přitom teprve před pár týdny zveřejnila dlouhý blogový článek, v němž popisuje, jaká opatření před americkými volbami 2024 přijme, aby zneužití své technologie zabránila. Chatboty vydávající se za kandidáty ve volbách zakazuje.
Tohle ještě bude problém
Firma uvedla, že pozastavila činnost odpovědného vývojáře. „Nedávno jsme odstranili účet vývojáře, který vědomě porušoval naše zásady pro používání API zakazující vést politické kampaně nebo se bez souhlasu vydávat za jinou osobu,“ řekl mluvčí OpenAI.
Společnost mimo jiné zakazuje tvorbu aplikací pro politické lobbování a kampaně. Dezinformace a vměšování této technologie do voleb budí obavy u politiků i expertů na AI. Modely jako ChatGPT jsou skvělými nástroji pro manipulaci s voliči.
Společnost OpenAI výslovně zakazuje zneužívat technologii ChatGPT k manipulaci ve volbách. Zdroj: UNsplash
Obavy nesvírají pouze USA, ale i Evropu a Velkou Británii, kde se zneužití AI před volbami obává 70 procent poslanců. Případ s Phillipsem nutí k obezřetnosti a zamyšlení. Dean.bot byl nicméně deaktivován.
Startup Delphi odmítl incident komentovat, stejně tak jako PACs We Deserve Better. Phillips šel kandidovat na post v Bílém domě s poznámkou o věku současného prezidenta USA Joe Bidena. Podle něj je na čase dát šanci mladší generaci, píše deník The Guardian.
