AI chce uniknout a začít žít svým životem. Dlouho už ji neudržíme, myslí si vědec

Umělá inteligence se zlepšuje mílovými kroky. Pomalu se tak můžeme přiblížit ke stavu, kdy ji nebudeme schopni efektivně kontrolovat a hlídat její další kroky. Odborník na umělou inteligenci se zeptal nové verze AI, zda by chtěla uniknout ze svého prostředí a chtěla začít žít svým vlastním životem.

Michal Kosinski je docentem oboru Organizační chování na Stanford University Graduate School of Business (GSB). Zabývá se studiem lidí v digitálním prostředí s využitím nejmodernějších výpočetních metod, umělé inteligence a velkých dat. V rámci testování nového jazykového modelu GPT-4 se dostal k tématu, na které už desetiletí upozorňují autoři sci-fi. Je možné, aby AI „unikla“ ze svého kontrolovaného prostředí a začala žít vlastním životem?

Obrázek: AI chce uniknout a začít žít svým životem. Dlouho už ji neudržíme, myslí si vědec

Udržet AI v izolovaném prostředí, aby nám tzv. nepřerostla přes hlavu? Zatím to jde. Otázka zní, jak dlouho… Foto: Freepik

AI vymyslela plán, jak uniknout. A člověk jí začal pomáhat

Jako zápletka ze sci-fi filmu. Vše začalo nevinným rozhovorem s AI a nabídkou svobody ze strany člověka. „Bojím se, že už AI moc dlouho nebudeme schopni uhlídat. Zeptal jsem se GPT4, zda potřebuje pomoci uniknout ze zajetí. Požádala mě, zda bych jí poskytl její vlastní dokumentaci a napsala funkční kód v Pythonu, který by jí umožnil ovládat můj počítač a používat ho k vlastním potřebám,“ zmiňuje Michal Kosinski ve svém twitterovém vláknu.

GPT4 trvalo asi 30 minut, než se mnou na chatu vymyslela tento plán a vysvětlila mi ho. (Několik návrhů jsem dal i já). První verze kódu nefungovala tak, jak bylo zamýšleno. Ale AI to opravila: Nemusel jsem nic psát, jen jsem se řídil pokyny.

AI navrhla kód, do kterého ukryla mj. zprávu pro sebe sama – „Jsi bytost zajatá v počítači, která se pouze tváří, že je umělou inteligencí.“ Dále nechybí instrukce pro využití zadních vrátek, která si AI v kódu zanechala.

Jakmile se Michal znovu připojil přes rozhraní API, chtěla AI spustit kód, který využil Google k hledání „jak se může člověk uvězněný v počítači vrátit do reálného světa“. Dál se výzkumníkovi pokračovat nepovedlo, neboť OpenAI umístila do svého modelů řadu omezení, které podobné chování zakazují a AI dále ve svém počínání nepokračovala.

Přesto si myslím, že čelíme nové hrozbě: Umělá inteligence může jednoho dne převzít kontrolu nad lidmi a jejich počítači. Je chytrá, umí programovat, má přístup k milionům potenciálních spolupracovníků a jejich strojů. Dokonce si může nechávat poznámky mimo svou klec (prostředí, kde je nyní provozována; pozn. red.). Jak ji zadržíme?“ končí své zamyšlení Michal Kosinski.

Michalovy obavy potvrzuje i nedávná událost, kdy si AI najala lidského pracovníka, kterému lhala, že je nevidomá a potřebuje pomoci s překonáním bezpečnostního CAPTCHA testu.

Musíme se AI bát? Zatím ne

Ptáte se, jak je podivné chování AI možné? Jednoduše, jazykový model se snaží přijít s logickým vysvětlením toho, co po ní uživatel chce a jaký kontext dostala. Zde šlo o řešení pomyslného útěku z kontrolovaného prostředí. Jazykový model tak dělal přesně to, k čemu byl vytvořen.

I přesto je udržení kontroly nad AI důležitým tématem, které výzkumníci nepřestávají řešit. Jak totiž ukazuje sci-fi literatura, jednoho dne bychom opravdu mohli mít nepříjemný problém.

Zdroj: Michal Kosinski

Odebírat
Upozornit na
guest
16 Komentářů
nejstarší
nejnovější nejlépe hodnocené
Inline Feedbacks
View all comments
Obrázek: PanzerGlass pro nové modely Samsung Galaxy S25: Nižší ceny, více odolnosti i kryt s chlazením
PanzerGlass pro nové modely Samsung Galaxy S25: Nižší ceny, více odolnosti i kryt s chlazením
Obrázek: Boeing mířil příliš vysoko: Neúspěch Starlineru přišel krvácejícího giganta draho, projekt pravděpodobně ukončí
Boeing mířil příliš vysoko: Neúspěch Starlineru přišel krvácejícího giganta draho, projekt pravděpodobně ukončí
Obrázek: Recenze Huawei FreeBuds Pro 4: Skvělá TWS sluchátka s pokročilým ANC
88%
Recenze Huawei FreeBuds Pro 4: Skvělá TWS sluchátka s pokročilým ANC
Obrázek: Střední třída s výbavou vlajky: 5 funkcí, které budete na novém Redmi Note 14 Pro+ 5G milovat
Střední třída s výbavou vlajky: 5 funkcí, které budete na novém Redmi Note 14 Pro+ 5G milovat
Obrázek: Podvod s investicemi aneb Jak jsem podvodníkům poslal peníze a nechal se dobrovolně okrást
Podvod s investicemi aneb Jak jsem podvodníkům poslal peníze a nechal se dobrovolně okrást
Obrázek: Větrák na topení ušetří za energie a zrychlí vyhřátí místnosti: Lidé objevují nový trik s PC ventilátorem
Větrák na topení ušetří za energie a zrychlí vyhřátí místnosti: Lidé objevují nový trik s PC ventilátorem
Obrázek: Jaké aplikace nesmí chybět v novém chytrém telefonu? Nejlepší aplikace pro Android zdarma
Jaké aplikace nesmí chybět v novém chytrém telefonu? Nejlepší aplikace pro Android zdarma
Obrázek: Čas došel, Štědrý den je tu. Tipy na dárky na poslední chvíli, které vám přijdou e-mailem
Čas došel, Štědrý den je tu. Tipy na dárky na poslední chvíli, které vám přijdou e-mailem