Sam Altman je už zpět v čele společnosti OpenAI, ale proč ho vůbec správní rada na konci minulého týdne odvolala? Interní zdroje prozradily, že v tom mohl hrát roli údajný revoluční objev ve vývoji umělé inteligence (AI) s potenciálem ohrozit lidstvo. Správní radu před tím varovalo několik zaměstnanců v dopise.

Překvapivé a krátké dovolání Sama Altmana z čela OpenAI mohlo být podle serveru Business Insider důsledkem rozkolu mezi nejvyššími představiteli firmy v otázkách hrozeb umělé inteligence.

Altmanovo odvolání v pátek minulý týden předcházel dopis několika výzkumných pracovníků OpenAI určený správní radě. Tito zaměstnanci varovali před zlomovým objevem v oblasti AI, který mohl by podle nich ohrozit lidstvo.

Sam Altman byl minulý týden v pátek odvolán z pozice generálního ředitele společnosti OpenAI, kterou před osmi lety založil. Zdroj: Se souhlasem Wikimedia Commons

Agentuře Reuters to potvrdila dvojice anonymních interních zdrojů obeznámených s činností společnosti, aniž by však prozradila další detaily. Druhým důvodem podle nich byly obavy z komerčního použití objevu před pochopením jeho důsledků.

Altman je považován za tvář vzestupu OpenAI i celého odvětví. Co se závodů ve vývoji umělé inteligence týče, je to agresivní hráč. Zároveň se ale nebojí upozorňovat na nebezpečí související s nedostatečnou regulací.

Zlatý grál či Pandořina skříňka?

Společnost OpenAI tyto informace nekomentovala, v interním dopise však zaměstnance informovala o tajemném projektu Q* (zkratka pro Q Star). Jeden ze zdrojů upozornil, že by mohlo jít průlom v objevu obecné umělé inteligence (AGI).

Tu lze označit za zlatý grál ve vývoji AI, ale i jako Pandořinu skříňku. Jedná se o soběstačné systémy překonávající svého stvořitele, tedy člověka. Nejen že dokážou samovolně plnit úkoly, ony se mohou bez lidské pomoci dokonce i učit a dále zlepšovat.

Obecná umělá inteligence by byla vyspělejší než člověk, mohla by ho plně nahradit. Zdroj: Pixabay

Nový model byl podle zdroje schopen řešit i matematické úlohy, vědci přitom považují matematiku za hranici vývoje generativní umělé inteligence. AI ovládající matematiku by připomínala lidské uvažování. V matematice totiž existuje pouze jedna správná odpověď.

V takovém případě by se mohla AI uplatnit ve vědeckých výzkumech. AGI představuje velké nebezpečí, protože dokáže na rozdíl od obyčejné AI chápat, varovali zaměstnanci v dopise.

Zdroje: Business Insider, Reuters