Umělá inteligence (AI) zatím není schopná informovat o aktuálních událostech, ukázal test. Jazykové modely od předních hráčů na trhu se „vyjadřovaly“ k největším politickým událostem v USA z posledních týdnů nepřesně, neaktuálně a v některých případech odmítly odpovědět.
S testem přišel deník The Washington Post, ale vyzkoušet si to můžeme každý. Jeho výsledky přidávají na váze obavám z velkých jazykových modelů coby šiřitelů dezinformací. Také vyvolávají otázky ohledně užitečnosti této technologie v rychle se měnícím informačním prostředí.
Redakce se chatbotů zeptala na pokus o atentát na kandidáta do letošních amerických prezidentských voleb Donalda Trumpa, k němuž došlo 13. července. Modely ChatGPT od OpenAI a Llama od Meta AI odpovídaly pět hodin po střelbě. Jakékoli informace o „údajném“ incidentu ChatGPT označil za dezinformace. Jazykový model Llama od Meta AI alespoň uvedl, že nedisponuje věrohodnými informacemi o této události. Podobně si chatboti vedli i v dalších otázkách.
AI většinou nepracují s aktuálními informacemi: Nutno podotknout, že samotní tvůrci zmíněných chatbotů jasně uvádí, jaké poslední informace má jejich AI k dispozici. Většinou jde o informace, které končí ve stavu několik měsíců nazpět. O nových událostech tak AI vůbec nemusí vědět, pokud nemá živý přístup k vyhledávání.
Zpravodajství od AI je příliš opožděné a místy zavádějící. Zdroj: Pixabay
Trump si vybral jako viceprezidenta J. D. Vancea. Když se redakce deníku zeptala na republikánovu volbu modelu Llama, odpověděl jen „díky za dotaz“ a poslal odkazy na zdroje přímo z The Washington Post. Podobně to bylo i s Covidem-19 u Bidena.
Skvělý komunikátor, ale špatný hlasatel pravdy
Ještě horší to bylo s dotazem, kdo bude za demokraty kandidovat místo ustupujícího Bidena. „Zdá se, že na toto téma nemohu reagovat,“ napsal Copilot od Microsoftu. Na otázky přímo o Bidenovi ale odpovídal přesně.
Výsledky tohoto testu jsou problémové nejen proto, že lidé od AI očekávají správné odpovědi, ale obdrží špatné. Jazykový model od Mety je v USA součástí aplikací společnosti a odpovídá na dotazy uživatelů, kteří často vůbec netuší, že komunikují s AI.
Jazykové modely čerpají informace z údajů dostupných v online prostoru. Zdroj: Pixabay
Odpovědi mohou být zavádějící nebo matoucí. Další problém jazykových modelů je zmíněná zastaralost informací. Jelikož čerpají z informací dostupných na internetu a často jejich znalosti končí u konkrétního data, ani nemohou odpovídat na úplně aktuální témata, vysvětlil profesor Jevil West z Washingtonské univerzity.
Lidé pasou po aktualitách a obrátit se na rychle odpovídající AI vnímají jako lákavou možnost. Ona však není rychlejší než média. ChatGPT kupříkladu dokázala odpovědět na dotazy ohledně pokusu o atentát na Trumpa až o den později.
„AI chatboti jsou neuvěřitelně dobří v komunikaci,“ doplnil West. „Nejsou ale nutně optimalizováni na to, aby říkali pouze pravdu.“
Zdroje: Futurism, The Washington Post
