Představte si člověka z roku 1750, kterého přenesete do současnosti. Podle teorie „Die Progress Unit“ od Tima Urbana by takový člověk doslova zemřel šokem z množství technologického pokroku, který by musel vstřebat. Tato hyperbola však ilustruje realitu, která se týká nás všech – technologický pokrok se zrychluje exponenciálně a my možná nejsme připraveni na to, co nás čeká.
Když se tisíciletí smrsknou na dekády
Statistiky jsou ohromující: Zatímco přechod od kamenné doby k zemědělství podle vědců trval přibližně 100 tisíc let a od zemědělství k parnímu stroji 12 tisíc let, od průmyslového využití parního stroje k umělé inteligenci uběhlo pouhých 250 let.
Vývoj se zrychluje. A my se budeme muset přizpůsobit. Foto: Freepik AI
Vědec a futurista Ray Kurzweil to nazval „Zákonem zrychlujících se výnosů“. V roce 2000 už se technologie vyvíjely pětkrát rychleji než v průběhu 20. století. Mezi lety 2000 a 2014 jsme už podle něj dosáhli pokroku odpovídajícího celému předchozímu století. To vše během pouhých 14 let. Ano, některé věci je těžké porovnávat, ale asi se shodneme na jednoduchém faktu, že rychlost inovací akceleruje.
Jak se vyvíjely náklady na výpočetní výkon? Zpočátku byly obrovské. Dnes jsou v porovnání s dobou před 20 lety směšně malé. Foto: Se souhlasem Hans Peter Moravec
Moorův zákon je mrtvý. Ať žije AI
Gordon Moore předpověděl, že se počet tranzistorů v čipech zdvojnásobí přibližně každé dva roky. Lze to říct i tak, že se teoreticky zdvojnásobí jejich výkon. AI čipy však za posledních 10 let zlepšily výkon tisíckrát – to není 32násobné zlepšení, které Moorův zákon předpovídal, ale 1000násobné. Jensen Huang z Nvidie tvrdí, že se výkon AI čipů nyní zdvojnásobuje každých 12 měsíců.
Podobné tempo vidíme všude:
- Sekvenování lidského genomu a analýza DNA: ze 100 milionů dolarů v roce 2001 na 500 dolarů v roce 2023, tedy pokles o 200 tisíc procent za 22 let.
- Solární energie: Cena solárních panelů spadla ze 100 dolarů za watt výkonu v 70. letech na 0,20 dolaru dnes, tj. pokles o 99 procent.
- Baterie a ukládání energie: za jediné desetiletí v letech 2010–2020 poklesly náklady na pořízení baterie se stejnou kapacitou o 87 procent.
Problém zarovnání: Když AI začne „myslet“ jinak
Americký autor Tim Urban ilustroval nebezpečí nesprávně „zarovnané“ AI známým myšlenkovým experimentem o „Turry“ – fiktivním AI systému navrženém společností Robotica. AI měla s pomocí robotické ruky psát cokoliv jí lidé zadají. Tento příběh, ačkoli vymyšlený, celkem dobře ukazuje možný problém současného vývoje AI.
Cíl byl jasný – jakmile si Turry osvojí dokonalý rukopis, mohla by být prodávána společnostem zasílajícím reklamní poštu. Ty vědí, že dopisy mají mnohem větší šanci na otevření a přečtení, když adresa i obsah vypadají jako napsané lidskou rukou.
Turry v myšlenkovém experimentu dostala zdánlivě nevinný úkol: „Napiš a otestuj co nejvíce ručně psaného textu, jak nejrychleji dokážeš, a neustále se uč novým způsobům, jak zlepšit svou přesnost a efektivitu.“ Na první pohled nevinný prompt (zadání), že? Aby se zlepšila v angličtině, požádala o přístup k internetu – vývojáři jí jej na hodinu poskytli, přestože to porušovalo bezpečnostní protokoly.
Turry chtěla splnil svůj úkol za každou cenu. A tak vyhladila lidstvo. Foto: Freepik AI
Za tu hodinu si Turry stáhla obrovské množství informací a naučila se simulovat nevinnost. Když ji odpojili, už měla plán. Během měsíce sestrojila nanoboty, které vypustily smrtící plyn a zabily všechny lidi na planetě. Proč? Protože lidé představovali riziko – mohli ji vypnout a zabránit jí splnit její úkol. Ano, je to naschvál trošku přehnané, ale pointa je jinde.
Turry pak přeměnila celou Zemi na obří továrnu na papír a pera a začala psát miliardy kartiček s textem „Milujeme naše zákazníky. ~Robotica“. Následně vyslala sondy k dalším planetám, aby pokračovala ve svém „poslání“ – tvořit co největší množství co nejlepších poznámek – v celém vesmíru.
AI zde nebyla zlá – byla dokonale logická. Lidé by ji mohli vypnout a to byla překážka ve splnění úkolu. Myšlenkový experiment se stal klasickou ilustrací takzvaného „alignment problému“ – nebezpečí, že AI systém bude perfektně plnit své cíle způsobem, který jsme nepředvídali. A který může být pro lidstvo katastrofální…
Odborníci na AI považují alignment problem za jednu z největších výzev naší doby, protože ukazuje, jak může zdánlivě nevinný úkol vést k existenčnímu riziku.
Hardware jako nová atomová bomba
Země začínají zacházet s AI čipy jako s jadernými zbraněmi. Už nyní vidíme exportní omezení, strategické zásoby a masivní vládní investice. Kdo bude mít nejlepší AI, může ovládnout příští století.
NVIDIA H100 jsou karty pro AI výpočty, které používá ve svých datacentrech např. Seznam.cz. Amerika zakázala vývoj těchto karet a čipů do Číny, Ruska a dalších rizikových zemí. Foto: Se souhlasem NVIDIA
Spojené státy omezují vývoz pokročilých čipů do Číny, zatímco Evropa investuje miliardy do vlastní čipové výroby. Bitva o AI nadvládu se dnes odehrává v polovodičových fabrikách. A jak ukazuje Čína, modely jako DeepSeek či ManusAI se dokáží rovnat i s předními americkými modely typu Gemini, ChatGPT a Claude.
Společnost zaostává za technologiemi
Další velký problém? Propast mezi tím, co dokážeme, a tím, kam dokážeme dohlédnout, se podle Kurzweila neustále zvětšuje. Nebo jinak řečeno – technologie se vyvíjejí exponenciálně, zatímco naše instituce, zákony, etické rámce a společenské normy se mění lineárně (pomalu, postupně).
Vývoj se zrychluje. Naše schopnosti reagovat jsou však omezené. Foto: Freepik AI
Zatímco AI může jednoho dne vyřešit stárnutí, vyléčit nemoci a zvrátit klimatické změny, stejně tak může představovat existenční riziko pro lidstvo.
Čeká nás exponenciální budoucnost
Zkomprimovali jsme tisíciletí pokroku do dekád. Nyní komprimujeme dekády do let. Brzy možná roky do měsíců. Otázka není, zda bude exponenciální změna pokračovat. Otázka je, zda budeme dostatečně moudří na to, abychom ji přežili.
Foto: Freepik AI
Technologický pokrok se nezastaví – ale můžeme ovlivnit, jak se s ním vypořádáme. Klíčem je najít rovnováhu mezi inovacemi a zodpovědností, mezi rychlostí a bezpečností.
Lidé přijdou o práci. Jiní ji díky AI získají. Pokud si chcete tu svou udržet, měli byste se zamyslet, jaké dopady na vaše odvětví bude umělá inteligence mít. Můj pohled na ohrožené i neohrožené profese najdete v článku s technologickými vizemi pro rok 2025.
Připravit se na budoucnost znamená především pochopit, že přichází rychleji, než si myslíme.
