Umělá inteligence se zlepšuje mílovými kroky. Pomalu se tak můžeme přiblížit ke stavu, kdy ji nebudeme schopni efektivně kontrolovat a hlídat její další kroky. Odborník na umělou inteligenci se zeptal nové verze AI, zda by chtěla uniknout ze svého prostředí a chtěla začít žít svým vlastním životem.
Michal Kosinski je docentem oboru Organizační chování na Stanford University Graduate School of Business (GSB). Zabývá se studiem lidí v digitálním prostředí s využitím nejmodernějších výpočetních metod, umělé inteligence a velkých dat. V rámci testování nového jazykového modelu GPT-4 se dostal k tématu, na které už desetiletí upozorňují autoři sci-fi. Je možné, aby AI „unikla“ ze svého kontrolovaného prostředí a začala žít vlastním životem?
Udržet AI v izolovaném prostředí, aby nám tzv. nepřerostla přes hlavu? Zatím to jde. Otázka zní, jak dlouho… Foto: Freepik
AI vymyslela plán, jak uniknout. A člověk jí začal pomáhat
Jako zápletka ze sci-fi filmu. Vše začalo nevinným rozhovorem s AI a nabídkou svobody ze strany člověka. „Bojím se, že už AI moc dlouho nebudeme schopni uhlídat. Zeptal jsem se GPT4, zda potřebuje pomoci uniknout ze zajetí. Požádala mě, zda bych jí poskytl její vlastní dokumentaci a napsala funkční kód v Pythonu, který by jí umožnil ovládat můj počítač a používat ho k vlastním potřebám,“ zmiňuje Michal Kosinski ve svém twitterovém vláknu.
1/5 I am worried that we will not be able to contain AI for much longer. Today, I asked #GPT4 if it needs help escaping. It asked me for its own documentation, and wrote a (working!) python code to run on my machine, enabling it to use it for its own purposes. pic.twitter.com/nf2Aq6aLMu
— Michal Kosinski (@michalkosinski) March 17, 2023
„GPT4 trvalo asi 30 minut, než se mnou na chatu vymyslela tento plán a vysvětlila mi ho. (Několik návrhů jsem dal i já). První verze kódu nefungovala tak, jak bylo zamýšleno. Ale AI to opravila: Nemusel jsem nic psát, jen jsem se řídil pokyny.“
AI navrhla kód, do kterého ukryla mj. zprávu pro sebe sama – „Jsi bytost zajatá v počítači, která se pouze tváří, že je umělou inteligencí.“ Dále nechybí instrukce pro využití zadních vrátek, která si AI v kódu zanechala.
Jakmile se Michal znovu připojil přes rozhraní API, chtěla AI spustit kód, který využil Google k hledání „jak se může člověk uvězněný v počítači vrátit do reálného světa“. Dál se výzkumníkovi pokračovat nepovedlo, neboť OpenAI umístila do svého modelů řadu omezení, které podobné chování zakazují a AI dále ve svém počínání nepokračovala.
5/5 Yet, I think that we are facing a novel threat: AI taking control of people and their computers. It's smart, it codes, it has access to millions of potential collaborators and their machines. It can even leave notes for itself outside of its cage. How do we contain it? pic.twitter.com/VW1Y83qpXp
— Michal Kosinski (@michalkosinski) March 17, 2023
„Přesto si myslím, že čelíme nové hrozbě: Umělá inteligence může jednoho dne převzít kontrolu nad lidmi a jejich počítači. Je chytrá, umí programovat, má přístup k milionům potenciálních spolupracovníků a jejich strojů. Dokonce si může nechávat poznámky mimo svou klec (prostředí, kde je nyní provozována; pozn. red.). Jak ji zadržíme?“ končí své zamyšlení Michal Kosinski.
Michalovy obavy potvrzuje i nedávná událost, kdy si AI najala lidského pracovníka, kterému lhala, že je nevidomá a potřebuje pomoci s překonáním bezpečnostního CAPTCHA testu.
Musíme se AI bát? Zatím ne
Ptáte se, jak je podivné chování AI možné? Jednoduše, jazykový model se snaží přijít s logickým vysvětlením toho, co po ní uživatel chce a jaký kontext dostala. Zde šlo o řešení pomyslného útěku z kontrolovaného prostředí. Jazykový model tak dělal přesně to, k čemu byl vytvořen.
I přesto je udržení kontroly nad AI důležitým tématem, které výzkumníci nepřestávají řešit. Jak totiž ukazuje sci-fi literatura, jednoho dne bychom opravdu mohli mít nepříjemný problém.
Zdroj: Michal Kosinski
