Nebezpečí umělé inteligence (AI) spočívá v její nepředvídatelnosti. Mohla by způsobit katastrofální ekonomickou krizi a světové konflikty. Jedinou naší obranou je globální regulace a snaha pochopit ne jednu, ale všechny její hrozby pro společnost, řekl izraelský historik a knižní autor Yuval Noah Harari.

„Většina lidí považuje za největší hrozbu pro lidstvo jaderný konflikt. Ten ale zahrnuje jediný katastrofický scénář a všichni mu rozumějí. Umělá inteligence jich má mnoho a nerozumí jim nikdo,“ řekl pro list The Guardian izraelský historik Yuval Noah Harari.

Technologii popsal jako vysoce sofistikovanou. Její kroky obtížně předpovídají dokonce i odborníci v této oblasti. Harari o tom hovořil krátce po summitu AI Safety britského premiéra Rishiho Sunakaka v Bletchley Park.

Kroky AI se těžko předvídají i pro experty. Foto: Unsplash

„S umělou inteligencí mluvíme o velkém počtu nebezpečných scénářů, z nichž každý má relativně malou pravděpodobnost, že bude představovat existenční hrozbu pro přežití lidské civilizace,“ podotkl Harari.

Umělá inteligence je dle jeho slov první technologií se schopností samostatného rozhodování, vytváření nápadů, učení se a rozvíjení. Jedním z problémů například je, že může navrhovat biologické zbraně, kterým však veřejnost nerozumí.

To je jedna z mnoha hrozeb, kterou představuje. Vhodné prostředí pro ni představuje svět financí. „Tento sektor je pro AI ideální, protože to jsou pouze data a potenciálně vážný zdroj ekonomické krize,“ varoval odborník.

Zhoubná řetězová reakce

A nadhodil otázku: „Co se stane, když AI získá nejen větší kontrolu nad finančním světovým systémem, ale začne vytvářet nová zařízení a systémy, který může rozumět umělá inteligence, ale žádná lidská bytost je chápat nebude?“

Upozornil, že finanční krizi v roce 2008 zavinily finanční systémy, kterým jsme nerozuměli, například zajištěné dluhové obligace (CDO). Nebyly dostatečně regulovány a jen málo kdo je chápal, což komplikovalo i samotné řešení krize.

AI může spustit katastrofální ekonomickou krizi, která by mohla spustit světové konflikty ohrožující existenci lidstva. Zdroj: Pixabay

„AI má potenciál vytvářet finanční systémy řádově mnohem složitější než CDO. Představte si, že máte situaci, kdy máte finanční systém, kterému není žádná lidská bytost schopna porozumět, a tudíž není schopna ho regulovat,“ řekl Harari.

A pak podle něj přijde finanční krize, přičemž nikdo nebude chápat, co se vlastně děje. Rozsáhlá ekonomická krize způsobená AI by sama o sobě civilizaci nezničila. Mohla by ale vyvolat světové konflikty, a ty by mohly její existenci ohrozit.

Řešením je podle historika globální regulace. Naději vkládá v dohodu mezi největšími hráči v oblasti AI dosaženou na AI Safety. To ale nestačí. Regulační instituce by podle něj měly najmout experty, kteří budou chápat jednotlivé hrozby ve své komplexnosti.

Zdroje: Rozhovor pro The Guardian