Jsme krok od obecné umělé inteligence: Je hrozbou pro lidstvo a stojí za odvoláním Altamana?

Sam Altman je už zpět v čele společnosti OpenAI, ale proč ho vůbec správní rada na konci minulého týdne odvolala? Interní zdroje prozradily, že v tom mohl hrát roli údajný revoluční objev ve vývoji umělé inteligence (AI) s potenciálem ohrozit lidstvo. Správní radu před tím varovalo několik zaměstnanců v dopise.

Překvapivé a krátké dovolání Sama Altmana z čela OpenAI mohlo být podle serveru Business Insider důsledkem rozkolu mezi nejvyššími představiteli firmy v otázkách hrozeb umělé inteligence.

Altmanovo odvolání v pátek minulý týden předcházel dopis několika výzkumných pracovníků OpenAI určený správní radě. Tito zaměstnanci varovali před zlomovým objevem v oblasti AI, který mohl by podle nich ohrozit lidstvo.

Obrázek: Jsme krok od obecné umělé inteligence: Je hrozbou pro lidstvo a stojí za odvoláním Altamana?

Sam Altman byl minulý týden v pátek odvolán z pozice generálního ředitele společnosti OpenAI, kterou před osmi lety založil. Zdroj: Se souhlasem Wikimedia Commons

Agentuře Reuters to potvrdila dvojice anonymních interních zdrojů obeznámených s činností společnosti, aniž by však prozradila další detaily. Druhým důvodem podle nich byly obavy z komerčního použití objevu před pochopením jeho důsledků.

Altman je považován za tvář vzestupu OpenAI i celého odvětví. Co se závodů ve vývoji umělé inteligence týče, je to agresivní hráč. Zároveň se ale nebojí upozorňovat na nebezpečí související s nedostatečnou regulací.

Zlatý grál či Pandořina skříňka?

Společnost OpenAI tyto informace nekomentovala, v interním dopise však zaměstnance informovala o tajemném projektu Q* (zkratka pro Q Star). Jeden ze zdrojů upozornil, že by mohlo jít průlom v objevu obecné umělé inteligence (AGI).

Tu lze označit za zlatý grál ve vývoji AI, ale i jako Pandořinu skříňku. Jedná se o soběstačné systémy překonávající svého stvořitele, tedy člověka. Nejen že dokážou samovolně plnit úkoly, ony se mohou bez lidské pomoci dokonce i učit a dále zlepšovat.

Obrázek: Jsme krok od obecné umělé inteligence: Je hrozbou pro lidstvo a stojí za odvoláním Altamana?

Obecná umělá inteligence by byla vyspělejší než člověk, mohla by ho plně nahradit. Zdroj: Pixabay

Nový model byl podle zdroje schopen řešit i matematické úlohy, vědci přitom považují matematiku za hranici vývoje generativní umělé inteligence. AI ovládající matematiku by připomínala lidské uvažování. V matematice totiž existuje pouze jedna správná odpověď.

V takovém případě by se mohla AI uplatnit ve vědeckých výzkumech. AGI představuje velké nebezpečí, protože dokáže na rozdíl od obyčejné AI chápat, varovali zaměstnanci v dopise.

Zdroje: Business Insider, Reuters

Obrázek: Od 1. ledna 2025 už se eDoklady prokážete také u zdravotních pojišťoven, škol či bank
Od 1. ledna 2025 už se eDoklady prokážete také u zdravotních pojišťoven, škol či bank
Obrázek: Co kdybyste mohli ovládat zvuky kolem sebe? Vědci vyvinuli prototyp sluchátek, která to umožní
Co kdybyste mohli ovládat zvuky kolem sebe? Vědci vyvinuli prototyp sluchátek, která to umožní
Obrázek: Trump chce popustit AI uzdu, někteří jeho poradci ji však budou chtít krotit
Trump chce popustit AI uzdu, někteří jeho poradci ji však budou chtít krotit
Obrázek: NASA a SpaceX po 50 letech objevují zapomenuté technologie. Takto s 50m lodí přistanou na Měsíci
NASA a SpaceX po 50 letech objevují zapomenuté technologie. Takto s 50m lodí přistanou na Měsíci
Obrázek: Tyhle Black Friday nabídky si nenechte ujít: Nejvýhodnější neomezený tarif v ČR, Apple i směšně levná elektronika
Tyhle Black Friday nabídky si nenechte ujít: Nejvýhodnější neomezený tarif v ČR, Apple i směšně levná elektronika
Obrázek: Příběh jednoho podvodu: Koupil jsem falešná Apple sluchátka a nepoznali to ani v obchodu
Příběh jednoho podvodu: Koupil jsem falešná Apple sluchátka a nepoznali to ani v obchodu
Obrázek: Nejlepší telefon do 15 000 Kč: Ve slevových akcích pořídíte špičková zařízení
Nejlepší telefon do 15 000 Kč: Ve slevových akcích pořídíte špičková zařízení
Obrázek: Nejlepší telefony v Česku: Jaký vybrat, pokud chcete to nejlepší?
Nejlepší telefony v Česku: Jaký vybrat, pokud chcete to nejlepší?