Umělá inteligence může zavinit katastrofální ekonomickou krizi, varuje známý historik Harari

Nebezpečí umělé inteligence (AI) spočívá v její nepředvídatelnosti. Mohla by způsobit katastrofální ekonomickou krizi a světové konflikty. Jedinou naší obranou je globální regulace a snaha pochopit ne jednu, ale všechny její hrozby pro společnost, řekl izraelský historik a knižní autor Yuval Noah Harari.

Většina lidí považuje za největší hrozbu pro lidstvo jaderný konflikt. Ten ale zahrnuje jediný katastrofický scénář a všichni mu rozumějí. Umělá inteligence jich má mnoho a nerozumí jim nikdo,“ řekl pro list The Guardian izraelský historik Yuval Noah Harari.

Technologii popsal jako vysoce sofistikovanou. Její kroky obtížně předpovídají dokonce i odborníci v této oblasti. Harari o tom hovořil krátce po summitu AI Safety britského premiéra Rishiho Sunakaka v Bletchley Park.

Obrázek: Umělá inteligence může zavinit katastrofální ekonomickou krizi, varuje známý historik Harari

Kroky AI se těžko předvídají i pro experty. Foto: Unsplash

„S umělou inteligencí mluvíme o velkém počtu nebezpečných scénářů, z nichž každý má relativně malou pravděpodobnost, že bude představovat existenční hrozbu pro přežití lidské civilizace,“ podotkl Harari.

Umělá inteligence je dle jeho slov první technologií se schopností samostatného rozhodování, vytváření nápadů, učení se a rozvíjení. Jedním z problémů například je, že může navrhovat biologické zbraně, kterým však veřejnost nerozumí.

To je jedna z mnoha hrozeb, kterou představuje. Vhodné prostředí pro ni představuje svět financí. „Tento sektor je pro AI ideální, protože to jsou pouze data a potenciálně vážný zdroj ekonomické krize,“ varoval odborník.

Zhoubná řetězová reakce

A nadhodil otázku: „Co se stane, když AI získá nejen větší kontrolu nad finančním světovým systémem, ale začne vytvářet nová zařízení a systémy, který může rozumět umělá inteligence, ale žádná lidská bytost je chápat nebude?“

Upozornil, že finanční krizi v roce 2008 zavinily finanční systémy, kterým jsme nerozuměli, například zajištěné dluhové obligace (CDO). Nebyly dostatečně regulovány a jen málo kdo je chápal, což komplikovalo i samotné řešení krize.

AI může spustit katastrofální ekonomickou krizi, která by mohla spustit světové konflikty ohrožující existenci lidstva

AI může spustit katastrofální ekonomickou krizi, která by mohla spustit světové konflikty ohrožující existenci lidstva. Zdroj: Pixabay

„AI má potenciál vytvářet finanční systémy řádově mnohem složitější než CDO. Představte si, že máte situaci, kdy máte finanční systém, kterému není žádná lidská bytost schopna porozumět, a tudíž není schopna ho regulovat,“ řekl Harari.

A pak podle něj přijde finanční krize, přičemž nikdo nebude chápat, co se vlastně děje. Rozsáhlá ekonomická krize způsobená AI by sama o sobě civilizaci nezničila. Mohla by ale vyvolat světové konflikty, a ty by mohly její existenci ohrozit.

Řešením je podle historika globální regulace. Naději vkládá v dohodu mezi největšími hráči v oblasti AI dosaženou na AI Safety. To ale nestačí. Regulační instituce by podle něj měly najmout experty, kteří budou chápat jednotlivé hrozby ve své komplexnosti.

Zdroje: Rozhovor pro The Guardian

Odebírat
Upozornit na
guest
0 Komentářů
Inline Feedbacks
View all comments
Obrázek: Biorobotické medúzy: Hlubiny oceánů budou prozkoumávat podvodní kyborgové
Biorobotické medúzy: Hlubiny oceánů budou prozkoumávat podvodní kyborgové
Obrázek: Globální dodávky chytrých telefonů rostou, největší odbyt má Samsung
Globální dodávky chytrých telefonů rostou, největší odbyt má Samsung
Obrázek: Čtyřnohý společník pro astronauty. NASA vyvíjí nové roboty pro kosmické mise
Čtyřnohý společník pro astronauty. NASA vyvíjí nové roboty pro kosmické mise
Obrázek: Český zdicí robot naživo: Je překvapivě pomalý, na rozdíl od lidí ale nepotřebuje odpočívat
Český zdicí robot naživo: Je překvapivě pomalý, na rozdíl od lidí ale nepotřebuje odpočívat
Obrázek: Máte doma nefunkční GPS lokátor od Invoxia? Nyní bude v ČR opět fungovat
Máte doma nefunkční GPS lokátor od Invoxia? Nyní bude v ČR opět fungovat
Obrázek: Tesla v ČR otevřela své rychlonabíječky pro všechny elektromobily. Jak nabíjet na Superchargeru?
Tesla v ČR otevřela své rychlonabíječky pro všechny elektromobily. Jak nabíjet na Superchargeru?
Obrázek: Noční fotografie s vivo X100 Pro: Jak fotit v noci se smartphonem jako profík?
Noční fotografie s vivo X100 Pro: Jak fotit v noci se smartphonem jako profík?
Obrázek: Recenze robotického vysavače TESLA RoboStar iQ700 s laserovou navigací: Čistá domácnost bez námahy?
85%
Recenze robotického vysavače TESLA RoboStar iQ700 s laserovou navigací: Čistá domácnost bez námahy?