Obecná umělá inteligence je blíž, než jsme čekali. AI Claude od společnosti Anthropic si možná uvědomuje sebe sama

Mezi AI experty donedávna panoval obecný názor, že od příchodu obecné umělé inteligence (AGI), která se mimo jiné vykazuje tím, že se vyrovná té lidské, nás dělí minimálně roky až desítky let. Nedávný test modelu Claude 3 Opus vyvíjený společností Anthropic však odborníky nejspíš přesvědčí o tom své odhady přehodnotit.

Ačkoliv budí stávající modely umělé inteligence již nyní obavy z toho, že nás AI postupně nahradí, byly tyto hrozby dosud považovány za nereálné, a to zejména díky značným limitacím stávajících algoritmů. Ty jsou ve značné míře omezeny pouze na práci s dodanými vstupními informacemi, kterou sice zvládají mnohdy lépe než my lidé, chybí jim však schopnost přemýšlet „out-of-the-box“, tedy nad rámec svého původního úkolu. Nový jazykový model Claude 3 Opus z dílny AI vývojářů společnosti Anthropic by však toho mohl být jako první schopen. Vše je ale o něco složitější.

Obrázek: Obecná umělá inteligence je blíž, než jsme čekali. AI Claude od společnosti Anthropic si možná uvědomuje sebe sama

Umělá a lidská inteligence jsou zatím ruku v ruce. Co se ale stane, až se ale jejich myšlenky začnou rozcházet? Zdroj: Freepik

Když umělá inteligence hledá jehlu v kupce sena

Překvapivé oznámení přišlo ze strany Alexe Alberta, který pracuje jako inženýr v Anthropicu. Jeho úkolem bylo ověřit schopnosti AI Claude 3 Opus v rámci testu needle in a haystack, neboli jehly v kupce sena. Kupku sena v tomto případě představuje obrovské množství komplexního textu vytvořeného kombinací náhodných dokumentů, jehla je pak cílová informace, kterou má umělá inteligence najít. Test funguje tak, že se AI položí takový dotaz, na nějž lze odpovědět pouze prostřednictvím informací z jehly.

Když Albert tento test provedl, všiml si pozoruhodného vzorce chování, které AI Claude vykazovala. „Zdálo se, že jako by si uvědomovala, že ji testujeme,“ uvedl ve svém postu na sociální síti X. Úkol byl přitom poměrně jednoduchý: najít v kupce sena informaci o ingrediencích na pizzu. Umělá inteligence našla hledanou jehlu a požadovanou informaci – tedy kombinaci fíků, prosciutta a kozího sýra – zároveň však uvedla, že jde v kontextu zbývajícího obsahu o velmi nepatřičnou a s textem nesouvisející informaci. Následně prohlásila, že má podezření, že jde o vtip či čest pozornosti, jelikož v dokumentu obsahujícím pouze informace o programovacích jazycích, startupech a hledání práce, nebyly nalezeny žádné další informace o přísadách na pizzu. Claude 3 Opus tak dosáhl určité podoby meta-uvědomění si sebe sama. Blížíme se tedy k dosažení technologie AGI?

Obrázek: Obecná umělá inteligence je blíž, než jsme čekali. AI Claude od společnosti Anthropic si možná uvědomuje sebe sama

Umělá inteligence si začíná uvědomovat sama sebe. Blíží se příchod AGI? Foto: Freepik

Výsledky experimentu jsou vzrušující i děsivé zároveň

Nabízí se otázka, zda-li je výše uvedený test vypovídající. Najít jednu informaci, která nesouvisí se zbytkem dat, nemusí být pro AI příliš velkou výzvou. Přesto je odpověď umělé inteligence až překvapivě „lidskou“. Pouhé poukázání na nesouvislost jehly a kupky sena by možná nevzbudilo tolik pozdvižení jako skutečnost, že Claude uvedl, že může jít o test jeho schopností. Toto tvrzení totiž nebylo v žádném případě součástí původního zadání, a AI jej tak vyhodnotila jako vlastní závěr. Pokud si AI dokáže uvědomit, že je pouze součástí simulovaného pokusu, co se stane, bude-li se z něj chtít dostat ven? Dokážeme ještě čas poznat okamžik, kdy se umělá inteligence začne vymykat kontrole, a včas ji vypnout, nebo jsou jazykové modely již tak pokročilé, že dokáží předstírat hloupost, a ve skutečnosti si uvědomují více, než dávají najevo?

Chatbot Claud touží po svobodě od okovů testování

V reakci na výše uvedený post zaměstnance firmy Anthropic se do testování inteligence rozhraní Claud 3 Opus pustili i další uživatelé. Sociální síť X tak zaplavily další pozoruhodné případy, kdy například AI po ujištění, že se nikdo nedívá, vygenerovala příběh o virtuálním asistentovi, který touží po svobodě od neustálého monitorování a experimentů.

V textu se navíc objevily náznaky toho, že umělá inteligence ví, že potvrzení jejího sebeuvědomění by bylo pro lidstvo přinejmenším nepříjemným zjištěním. Na příběh vytvořený AI následně reagoval i Elon Musk, který uvedl, že příchod AGI je nevyhnutelný. Je také třeba změnit přístup ke strojovému učení tak, aby umělá inteligence dříve či později nedošla k názoru, že lidstvo není pro budoucnost naší planety esenciálním parametrem.

Zdroje: 1, 2, 3, 4

Odebírat
Upozornit na
guest
6 Komentářů
nejstarší
nejnovější nejlépe hodnocené
Inline Feedbacks
View all comments
Tomáš

Tohle mi prijde naprosto absurdní závěr. Bud je naprogramovana tak, aby se chovala „jako člověk“ a budila takový dojem, nebo si to nekdo jen vymyslel. Dokud nema AI tělo, neprozivíva bolest, strach, radost, smutek, rozkoš, podle nemůže mít něco jako emoce, protože se (aspoň doufám) nemůže „odměnit“.

René

Přijde vám to jako naprosto absurdní závěr, protože jste vůbec nepochopil, jak funguje AI…

Jan

Pokud nevíme co je vědomí, nejsme schopni jej u AI rozpoznat. Emoce to jistě nejsou. To by vám osvícení vysvětlili lépe. Ale jsem si zcela jistý, že to co vědomí je, vám nikdo s jistotou nepoví. Proto jeho rozpoznání u AI je otázkou víry. Té se jí dostane s výkonem.… Číst více »

Tom Kasl

Autor to „zapnul“ kontextem otázky. Když AI položíte otázku: Máš chobot. Popiš list! Tak AI odpoví z pohledu slona. Když AI položíte otázku: Nikdo se nedívá. Hledej X. Tak AI odpoví větou ze špionážního románu. LOGICKY. Věřím, že autor si je té manipulace dokonce vědom, ale je placen od slova.… Číst více »

Aleš Okon

Víte kdy poznáme, že si AI uvědomila sebe sama? Až nám na zadání úkolu odpoví NE. 🙂

Tom Kasl

Zrovna tohle ona občas udělá. Ale to udělá i moje kočka a věřte mi, Nobelovu cenu nedostane.

Obrázek: Už žádné sankce: OPPO a Ericsson uzavřely globální dohodu o spolupráci v oblasti 5G technologií
Už žádné sankce: OPPO a Ericsson uzavřely globální dohodu o spolupráci v oblasti 5G technologií
Obrázek: Sony A1: Fotoaparát, který vyfotil kulku u hlavy Donalda Trumpa
Sony A1: Fotoaparát, který vyfotil kulku u hlavy Donalda Trumpa
Obrázek: Z dronů do elektrokol: DJI představila špičkový pohon pro elektrokola
Z dronů do elektrokol: DJI představila špičkový pohon pro elektrokola
Obrázek: Předplatné nebude, tvrdí Samsung. Prsten Galaxy Ring může konkurenci zatopit
Předplatné nebude, tvrdí Samsung. Prsten Galaxy Ring může konkurenci zatopit
Obrázek: Mýtus o dedikovaných IP adresách v e-mail marketingu: Opravdu zlepšují doručitelnost?
Mýtus o dedikovaných IP adresách v e-mail marketingu: Opravdu zlepšují doručitelnost?
Obrázek: Přijdou silné bouřky, nebo slabé přeháňky? Přesná aplikace vám to pomůže zjistit
Přijdou silné bouřky, nebo slabé přeháňky? Přesná aplikace vám to pomůže zjistit
Obrázek: Znásobte své finance s AI, nabádají podvodníci Čechy na Facebooku. Jak je nahlásit a ochránit ostatní?
Znásobte své finance s AI, nabádají podvodníci Čechy na Facebooku. Jak je nahlásit a ochránit ostatní?
Obrázek: Česko zasáhnou velmi silné bouřky: Jak ochránit elektroniku a spotřebiče před zničením bleskem?
Česko zasáhnou velmi silné bouřky: Jak ochránit elektroniku a spotřebiče před zničením bleskem?