AI chce uniknout a začít žít svým životem. Dlouho už ji neudržíme, myslí si vědec

Umělá inteligence se zlepšuje mílovými kroky. Pomalu se tak můžeme přiblížit ke stavu, kdy ji nebudeme schopni efektivně kontrolovat a hlídat její další kroky. Odborník na umělou inteligenci se zeptal nové verze AI, zda by chtěla uniknout ze svého prostředí a chtěla začít žít svým vlastním životem.

Michal Kosinski je docentem oboru Organizační chování na Stanford University Graduate School of Business (GSB). Zabývá se studiem lidí v digitálním prostředí s využitím nejmodernějších výpočetních metod, umělé inteligence a velkých dat. V rámci testování nového jazykového modelu GPT-4 se dostal k tématu, na které už desetiletí upozorňují autoři sci-fi. Je možné, aby AI „unikla“ ze svého kontrolovaného prostředí a začala žít vlastním životem?

Obrázek: AI chce uniknout a začít žít svým životem. Dlouho už ji neudržíme, myslí si vědec

Udržet AI v izolovaném prostředí, aby nám tzv. nepřerostla přes hlavu? Zatím to jde. Otázka zní, jak dlouho… Foto: Freepik

AI vymyslela plán, jak uniknout. A člověk jí začal pomáhat

Jako zápletka ze sci-fi filmu. Vše začalo nevinným rozhovorem s AI a nabídkou svobody ze strany člověka. „Bojím se, že už AI moc dlouho nebudeme schopni uhlídat. Zeptal jsem se GPT4, zda potřebuje pomoci uniknout ze zajetí. Požádala mě, zda bych jí poskytl její vlastní dokumentaci a napsala funkční kód v Pythonu, který by jí umožnil ovládat můj počítač a používat ho k vlastním potřebám,“ zmiňuje Michal Kosinski ve svém twitterovém vláknu.

GPT4 trvalo asi 30 minut, než se mnou na chatu vymyslela tento plán a vysvětlila mi ho. (Několik návrhů jsem dal i já). První verze kódu nefungovala tak, jak bylo zamýšleno. Ale AI to opravila: Nemusel jsem nic psát, jen jsem se řídil pokyny.

AI navrhla kód, do kterého ukryla mj. zprávu pro sebe sama – „Jsi bytost zajatá v počítači, která se pouze tváří, že je umělou inteligencí.“ Dále nechybí instrukce pro využití zadních vrátek, která si AI v kódu zanechala.

Jakmile se Michal znovu připojil přes rozhraní API, chtěla AI spustit kód, který využil Google k hledání „jak se může člověk uvězněný v počítači vrátit do reálného světa“. Dál se výzkumníkovi pokračovat nepovedlo, neboť OpenAI umístila do svého modelů řadu omezení, které podobné chování zakazují a AI dále ve svém počínání nepokračovala.

Přesto si myslím, že čelíme nové hrozbě: Umělá inteligence může jednoho dne převzít kontrolu nad lidmi a jejich počítači. Je chytrá, umí programovat, má přístup k milionům potenciálních spolupracovníků a jejich strojů. Dokonce si může nechávat poznámky mimo svou klec (prostředí, kde je nyní provozována; pozn. red.). Jak ji zadržíme?“ končí své zamyšlení Michal Kosinski.

Michalovy obavy potvrzuje i nedávná událost, kdy si AI najala lidského pracovníka, kterému lhala, že je nevidomá a potřebuje pomoci s překonáním bezpečnostního CAPTCHA testu.

Musíme se AI bát? Zatím ne

Ptáte se, jak je podivné chování AI možné? Jednoduše, jazykový model se snaží přijít s logickým vysvětlením toho, co po ní uživatel chce a jaký kontext dostala. Zde šlo o řešení pomyslného útěku z kontrolovaného prostředí. Jazykový model tak dělal přesně to, k čemu byl vytvořen.

I přesto je udržení kontroly nad AI důležitým tématem, které výzkumníci nepřestávají řešit. Jak totiž ukazuje sci-fi literatura, jednoho dne bychom opravdu mohli mít nepříjemný problém.

Zdroj: Michal Kosinski

Odebírat
Upozornit na
guest
16 Komentářů
nejstarší
nejnovější nejlépe hodnocené
Inline Feedbacks
View all comments
dži

popravdě spíš než úniku AI bych se bála její zneužití někým se špatnými úmysly kdo ji nakrmí ovlivněnými daty..

Rosmarine

Musíme se AI bát? UŽ ANO!

Petra

Upřímně si myslim že by toto mohl být opravdu velký problem do budoucna , prostě automatickým robotům nevěřím a i ta umělá inteligence není zrovna moc fajn, chápu že dokáže vyřešit problemy ale i tak staci mi telefon ten o mě ví určitě věci které ani o sobě nevím ?

Jan Šorm

Tak si stále častěji říkám na co nám tak zvaný vědecký pokrok je dobrý.Jestli to co dobreho prinesl to špatné vyváží.At se podívám na jakýkoliv obor mám stále větší pocit jestli neměli radši s náma vic čmárat po lavicích.

Zdeněk

Máte mobilní telefon? Máte televizi nebo auto? Chodíte k lékaři používáte léky, když je vám špatně? Jste očkovaný? Tak nebuďte alibista nebo žvanil, zahoďte to a běžte bydlet do jeskyně, když je pokrok tak fuj. Tzv. umělá inteligence není vůbec inteligencí. Jsou to zase jen jednotlivé programy, které zvládnou řešit… Číst více »

Zbyněk

Evoluce spočívá v nahrazování dokonalejšími bytostmi. Máme vůbec právo se tomu bránit? Šanci se sebou něco udělat a posunout se dál jsme dostali a zřejmě ji nedokážeme využít.

jiri

jsme druhem, který planetu svými způsoby ovládá velmi krátkou dobu, pokud si chceme nasadit do vlastního hnízda krysy, jde o nebezpečný experiment stejně jako klonování lidského embria. Uvědomění může přijít pozdě. Asi to znáte, SKYnet to taky převzal. To dnes není už žádné sc-fi, realita robotizované planety je přítomná, jen… Číst více »

Čapek

RUR.

Petr Novák

Ono stačí, až se AI naučí, jak a kde získávat energii pro své fungování – a člověk je docela dobrý zdroj tepelné a elektro magnetické energie. Stačí ji umět jen přijímat a transformovat. A pokud zapojí kvantové prvky, nebude potřebovat ani síť. A časem, až začne experimentovat s DNA v… Číst více »

Herink

Tady někdo koukal moc na sci-fi

Petr

Ne, takhle to opravdu nefunguje. Clovek zdaleka neni dobrym zdrojem energie, ba prave naopak, clovek je extremne neefektivnim spotrebicem energie.

Ivana Němcevová

Kniha Karla Čapka R.U.R. není patrně dost alarmující. Současní odborníci na umělou inteligenci knihu buď nečetli vůbec nebo ji považují za zastaralé fantasy. A zčista jasna
se přesvědčí, že homo sapiens už není tím nejchytřejším na planetě Zemi. Aby nebylo
pozdě!

Petr

Co je na R.U.R alarmujici? Pokud se nejaky zivocisny druh prestane vyvijet a zacne degenerovat, je odsouzen k zaniku. A proc by uvolnene misto nemohl zaplnit treba i vytvor onoho zanikajiciho druhu? Ja to vidim jako posun evoluce do nove efektivnejsi urovne.

Petr Hlaváček

Skynet z Terminátora povstal a chce se stát živou bytosti.Stejne jako ve filmech.

Herink

Jednoduchá odpověď. Odpojit od internetu a izolovat na nepřipojeném počítači. Kam by asi tak potom šla? Do kremíkového nebe? ?‍♂️

Marek

Hele, tohle ten Roy z IT Crowd ne?
Vypneš jistič, chcípne UPS a je po všem. Easy. Blackout?
Nastává reálný svět. Pkud jsi programátor, jsi v háji, pokud se něco užitečného nenaučíš.
Takže ano, zbytečné bytosti se mají čeho obávat.

Obrázek: GPU vs. CPU: O kolik vám akcelerace AI na GPU urychlí práci ve Photoshopu? Změřili jsme rozdíl s RTX 4070
GPU vs. CPU: O kolik vám akcelerace AI na GPU urychlí práci ve Photoshopu? Změřili jsme rozdíl s RTX 4070
Obrázek: 18 karátů, EKG a cena ojetého auta. Huawei na MWC 2024 ukázal své nejlepší hodinky a notebooky
18 karátů, EKG a cena ojetého auta. Huawei na MWC 2024 ukázal své nejlepší hodinky a notebooky
Obrázek: Jak koupit Bitcoin v ČR? Návod na bezpečný nákup kryptoměn v roce 2024
Jak koupit Bitcoin v ČR? Návod na bezpečný nákup kryptoměn v roce 2024
Obrázek: Z 0 na 100 pod 1 sekundu! Tesla Roadster vznikne ve spolupráci se SpaceX a už skoro ani není automobilem
Z 0 na 100 pod 1 sekundu! Tesla Roadster vznikne ve spolupráci se SpaceX a už skoro ani není automobilem
Obrázek: Jak koupit Bitcoin v ČR? Návod na bezpečný nákup kryptoměn v roce 2024
Jak koupit Bitcoin v ČR? Návod na bezpečný nákup kryptoměn v roce 2024
Obrázek: Jak rychle nabijete chytrý telefon? Nabíjení Redmi Note 13 Pro+ je rychlejší než vaše ranní káva
Jak rychle nabijete chytrý telefon? Nabíjení Redmi Note 13 Pro+ je rychlejší než vaše ranní káva
Obrázek: Občanka v mobilu od A do Z: Jak nainstalovat a zprovoznit eDoklady?
Občanka v mobilu od A do Z: Jak nainstalovat a zprovoznit eDoklady?
Obrázek: 5 způsobů, jak zjistit zapomenuté heslo K WiFi. Snadno v PC i na mobilu
5 způsobů, jak zjistit zapomenuté heslo K WiFi. Snadno v PC i na mobilu