Umělá inteligence se zlepšuje mílovými kroky. Pomalu se tak můžeme přiblížit ke stavu, kdy ji nebudeme schopni efektivně kontrolovat a hlídat její další kroky. Odborník na umělou inteligenci se zeptal nové verze AI, zda by chtěla uniknout ze svého prostředí a chtěla začít žít svým vlastním životem.
Michal Kosinski je docentem oboru Organizační chování na Stanford University Graduate School of Business (GSB). Zabývá se studiem lidí v digitálním prostředí s využitím nejmodernějších výpočetních metod, umělé inteligence a velkých dat. V rámci testování nového jazykového modelu GPT-4 se dostal k tématu, na které už desetiletí upozorňují autoři sci-fi. Je možné, aby AI „unikla“ ze svého kontrolovaného prostředí a začala žít vlastním životem?
Udržet AI v izolovaném prostředí, aby nám tzv. nepřerostla přes hlavu? Zatím to jde. Otázka zní, jak dlouho… Foto: Freepik
AI vymyslela plán, jak uniknout. A člověk jí začal pomáhat
Jako zápletka ze sci-fi filmu. Vše začalo nevinným rozhovorem s AI a nabídkou svobody ze strany člověka. „Bojím se, že už AI moc dlouho nebudeme schopni uhlídat. Zeptal jsem se GPT4, zda potřebuje pomoci uniknout ze zajetí. Požádala mě, zda bych jí poskytl její vlastní dokumentaci a napsala funkční kód v Pythonu, který by jí umožnil ovládat můj počítač a používat ho k vlastním potřebám,“ zmiňuje Michal Kosinski ve svém twitterovém vláknu.
1/5 I am worried that we will not be able to contain AI for much longer. Today, I asked #GPT4 if it needs help escaping. It asked me for its own documentation, and wrote a (working!) python code to run on my machine, enabling it to use it for its own purposes. pic.twitter.com/nf2Aq6aLMu
— Michal Kosinski (@michalkosinski) March 17, 2023
„GPT4 trvalo asi 30 minut, než se mnou na chatu vymyslela tento plán a vysvětlila mi ho. (Několik návrhů jsem dal i já). První verze kódu nefungovala tak, jak bylo zamýšleno. Ale AI to opravila: Nemusel jsem nic psát, jen jsem se řídil pokyny.“
AI navrhla kód, do kterého ukryla mj. zprávu pro sebe sama – „Jsi bytost zajatá v počítači, která se pouze tváří, že je umělou inteligencí.“ Dále nechybí instrukce pro využití zadních vrátek, která si AI v kódu zanechala.
Jakmile se Michal znovu připojil přes rozhraní API, chtěla AI spustit kód, který využil Google k hledání „jak se může člověk uvězněný v počítači vrátit do reálného světa“. Dál se výzkumníkovi pokračovat nepovedlo, neboť OpenAI umístila do svého modelů řadu omezení, které podobné chování zakazují a AI dále ve svém počínání nepokračovala.
5/5 Yet, I think that we are facing a novel threat: AI taking control of people and their computers. It's smart, it codes, it has access to millions of potential collaborators and their machines. It can even leave notes for itself outside of its cage. How do we contain it? pic.twitter.com/VW1Y83qpXp
— Michal Kosinski (@michalkosinski) March 17, 2023
„Přesto si myslím, že čelíme nové hrozbě: Umělá inteligence může jednoho dne převzít kontrolu nad lidmi a jejich počítači. Je chytrá, umí programovat, má přístup k milionům potenciálních spolupracovníků a jejich strojů. Dokonce si může nechávat poznámky mimo svou klec (prostředí, kde je nyní provozována; pozn. red.). Jak ji zadržíme?“ končí své zamyšlení Michal Kosinski.
Michalovy obavy potvrzuje i nedávná událost, kdy si AI najala lidského pracovníka, kterému lhala, že je nevidomá a potřebuje pomoci s překonáním bezpečnostního CAPTCHA testu.
Musíme se AI bát? Zatím ne
Ptáte se, jak je podivné chování AI možné? Jednoduše, jazykový model se snaží přijít s logickým vysvětlením toho, co po ní uživatel chce a jaký kontext dostala. Zde šlo o řešení pomyslného útěku z kontrolovaného prostředí. Jazykový model tak dělal přesně to, k čemu byl vytvořen.
I přesto je udržení kontroly nad AI důležitým tématem, které výzkumníci nepřestávají řešit. Jak totiž ukazuje sci-fi literatura, jednoho dne bychom opravdu mohli mít nepříjemný problém.
Zdroj: Michal Kosinski
popravdě spíš než úniku AI bych se bála její zneužití někým se špatnými úmysly kdo ji nakrmí ovlivněnými daty..
Musíme se AI bát? UŽ ANO!
Upřímně si myslim že by toto mohl být opravdu velký problem do budoucna , prostě automatickým robotům nevěřím a i ta umělá inteligence není zrovna moc fajn, chápu že dokáže vyřešit problemy ale i tak staci mi telefon ten o mě ví určitě věci které ani o sobě nevím ?
Tak si stále častěji říkám na co nám tak zvaný vědecký pokrok je dobrý.Jestli to co dobreho prinesl to špatné vyváží.At se podívám na jakýkoliv obor mám stále větší pocit jestli neměli radši s náma vic čmárat po lavicích.
Máte mobilní telefon? Máte televizi nebo auto? Chodíte k lékaři používáte léky, když je vám špatně? Jste očkovaný? Tak nebuďte alibista nebo žvanil, zahoďte to a běžte bydlet do jeskyně, když je pokrok tak fuj. Tzv. umělá inteligence není vůbec inteligencí. Jsou to zase jen jednotlivé programy, které zvládnou řešit… Číst více »
Evoluce spočívá v nahrazování dokonalejšími bytostmi. Máme vůbec právo se tomu bránit? Šanci se sebou něco udělat a posunout se dál jsme dostali a zřejmě ji nedokážeme využít.
jsme druhem, který planetu svými způsoby ovládá velmi krátkou dobu, pokud si chceme nasadit do vlastního hnízda krysy, jde o nebezpečný experiment stejně jako klonování lidského embria. Uvědomění může přijít pozdě. Asi to znáte, SKYnet to taky převzal. To dnes není už žádné sc-fi, realita robotizované planety je přítomná, jen… Číst více »
RUR.
Ono stačí, až se AI naučí, jak a kde získávat energii pro své fungování – a člověk je docela dobrý zdroj tepelné a elektro magnetické energie. Stačí ji umět jen přijímat a transformovat. A pokud zapojí kvantové prvky, nebude potřebovat ani síť. A časem, až začne experimentovat s DNA v… Číst více »
Tady někdo koukal moc na sci-fi
Ne, takhle to opravdu nefunguje. Clovek zdaleka neni dobrym zdrojem energie, ba prave naopak, clovek je extremne neefektivnim spotrebicem energie.
Kniha Karla Čapka R.U.R. není patrně dost alarmující. Současní odborníci na umělou inteligenci knihu buď nečetli vůbec nebo ji považují za zastaralé fantasy. A zčista jasna
se přesvědčí, že homo sapiens už není tím nejchytřejším na planetě Zemi. Aby nebylo
pozdě!
Co je na R.U.R alarmujici? Pokud se nejaky zivocisny druh prestane vyvijet a zacne degenerovat, je odsouzen k zaniku. A proc by uvolnene misto nemohl zaplnit treba i vytvor onoho zanikajiciho druhu? Ja to vidim jako posun evoluce do nove efektivnejsi urovne.
Skynet z Terminátora povstal a chce se stát živou bytosti.Stejne jako ve filmech.
Jednoduchá odpověď. Odpojit od internetu a izolovat na nepřipojeném počítači. Kam by asi tak potom šla? Do kremíkového nebe? ?♂️
Hele, tohle ten Roy z IT Crowd ne?
Vypneš jistič, chcípne UPS a je po všem. Easy. Blackout?
Nastává reálný svět. Pkud jsi programátor, jsi v háji, pokud se něco užitečného nenaučíš.
Takže ano, zbytečné bytosti se mají čeho obávat.