Novinky ze světa AI #130: Zastavme vývoj superinteligence, než bude pozdě

Od výzev k zastavení vývoje superinteligence přes rostoucí zapojení AI do streamovacího průmyslu až po nové agentní prohlížeče a chytré operační systémy – svět umělé inteligence se opět mění a naznačuje, jak by v blízké budoucnosti mohla vypadat naše společnost po boku AI technologií.

Největší výzva AI komunity: Zastavme vývoj superinteligence, než bude pozdě

AI experti a další vlivné osobnosti ze světa technologií podepsali tento týden otevřený dopis, ve kterém žádají o zákaz vývoje obecné umělé inteligence (AGI). Mezi signatáři nechybí spoluzakladatel společnosti Apple Steve Wozniak, kmotři umělé inteligence Geoffrey Hinton a Yoshua Bengio či papežův poradce pro AI Paolo Benanti. Dopis má aktuálně bezmála 27 000 signatářů, přičemž každou chvíli přibývají noví.

Obrázek: Novinky ze světa AI #130: Zastavme vývoj superinteligence, než bude pozdě

Špičky v oboru AI technologií a další slavné osobnosti vyzvaly k omezení vývoje obecné umělé inteligence. Foto: Freepik

Dokument s názvem Statement on Superintelligence („Prohlášení o superinteligenci“) trvá na zákazu vývoje pokročilých AI modelů, dokud svět nebude mít možnost vytvořit pro ni bezpečnostní opatření: „Vyzýváme k zákazu vývoje superinteligence, který by neměl být zrušen, dokud nebude dosaženo širokého vědeckého konsensu o tom, že bude prováděn bezpečně a kontrolovatelně, a dokud nebude zajištěna silná podpora veřejnosti.“ Přestože se nejedná o první petici nebo dopis vyjadřující obavy ze superinteligence (takové dokumenty se objevily již například v roce 2023), jde o největší iniciativa tohoto druhu s masivní podporou tolika vlivných osobností.

Umělá inteligence dobývá streamovací svět. Netflix ji nasazuje na scénář, efekty i marketing

Streamovací služba Netflix plánuje posílit AI nástroje v různých vertikálních odvětvích. Vyplývá to z dopisu určeného akcionářům společnosti, ve kterém se kromě dosavadních tržních úspěchů hovoří i o plánech do budoucna. Spoluzakladatel a výkonný ředitel společnosti Ted Sarandos mimo jiné zdůraznil, že AI pomůže kreativním partnerům platformy vyprávět lepší příběhy rychleji a novými způsoby.

Obrázek: Novinky ze světa AI #130: Zastavme vývoj superinteligence, než bude pozdě

Společnost Netflix již nějaký čas experimentuje s nástroji umělé inteligence. V nadcházejících měsících by se AI funkce měly napříč streamovací platformou šířit i do dalších oblastí. Foto: Pexels

V dopise akcionářům společnost zdůraznila, že se vždy spoléhala na technologii, aby svým předplatitelům poskytovala vysoce kvalitní zážitky. Po letech používání AI a strojového učení v systému doporučovaného obsahu by prý nyní umělá inteligence měla dostat více prostoru. Netflix aktuálně testuje například možnost chytrého vyhledávače na bázi chatbota, či AI využívá k distribuci propagačních materiálů ve více jazycích. Plánuje se také širší využití nástrojů umělé inteligence v samotném obsahu namísto standardních počítačových efektů. Společnost uvedla příklad filmu Happy Gilmore 2, ve kterém tvůrci použili AI k omlazení postav ve flashbackové scéně. Další možné aplikace zahrnují použití AI k rešerši kostýmů a scénografie, případně zdokonalení marketingových aktivit.

OpenAI spustila vlastní prohlížeč Atlas s podporou agentních nástrojů

Společnost OpenAI představila, svůj první inteligentní webový prohlížeč ChatGPT Atlas. Po nástrojích ChatGPT a Sora jde o v pořadí třetí spotřebitelský produkt z dílny firmy pod vedením Sama Altmana. Prohlížeč využívá integraci modelu GPT-5 a umožňuje uživatelům provádět nejrůznější úkoly. Podobně jako konkurenční nástroje (například Comet vyvíjený společností Perplexity) obsahuje Atlas v postranním panelu AI asistenta, který může uživateli různými způsoby pomáhat na jakékoli záložce. Současně může pracovat s obsahem na všech otevřených kartách, a shromažďovat tak informace z různých zdrojů.

Atlas je aktuálně k dispozici pouze pro macOS, již je ale v plánu podpora nejen pro Windows, ale také pro mobilní systémy iOS a Android. Přístup k prohlížeči mají všichni uživatelé, pro využití agentních funkcí je však nutné předplatné ChatGPT Plus, Pro a Business.

Copilot už nebude jen doplněk. Windows 11 promění každý počítač v chytrý nástroj

Koncem minulého týdne oznámila společnost Microsoft své plány na největší upgrade umělé inteligence pro operační systém Windows 11. S novou aktualizací bude nativní AI asistent Copilot přímo integrován do operačního systému a bude uživatelům pomáhat s jejich každodenními činnostmi. Microsoft rovněž ruší požadavek na zakoupení AI PC pro přístup k těmto funkcím. Místo toho společnost uvádí, že každý PC a notebook kompatibilní s Windows 11 se automaticky promění v agentický operační systém.

Microsoft plánuje tuto integraci na třech úrovních. Nejprve by mělo vzniknout konverzační rozhraní podobné klasickým chatbotům. V další fázi se dostaví Copilot Vision, která umožní AI vidět vše, co se objeví na obrazovce, a pomáhat tak uživatelům. Na závěr by pak měly dorazit agentické nástroje Copilot Actions schopné vykonávat nejrůznější úkoly. Celkově by se také měl zdokonalit uživatelský komfort při práci s Copilotem, například prostřednictvím nových hlasových příkazů či ovládacích prvků.

Sora zobrazila slavné osobnosti v nevhodných scénách. OpenAI reaguje

Prakticky od prvního spuštění nové verze aplikace Sora uživatelé generují videa celebrit a veřejných osobností. Od Stephena Hawkinga skákajícího do bazénu po zobrazení Einsteina jako zápasníka – internet naplno využil svou kolektivní kreativitu. Některé z těchto výtvorů však vyvolaly také negativní reakce celebrit. Týká se to například videí, v nichž vystupuje bojovník za lidská práva Martin Luther King Jr., často v nevhodných situacích. Mezi tvůrci, kteří se proti obsahu generovaného nástrojem Sora ohradili, patřila i hvězda seriálu Perníkový táta Bryan Cranston.

„Byl jsem hluboce znepokojen nejen kvůli sobě, ale kvůli všem umělcům, jejichž práce a identita mohou být tímto způsobem zneužity. Jsem vděčný OpenAI za její politiku a za zlepšení bezpečnostních opatření a doufám, že oni i všechny společnosti zapojené do této práce budou respektovat naše osobní a profesní právo spravovat replikaci našeho hlasu a podoby,“ uvedl Cranston.

Společnost OpenAI v návaznosti na stížnosti posílila bezpečnostní opatření platformy Sora, aby zajistila, že se celebrity a veřejně známé osobnosti, které nedaly souhlas s tím, aby byly zobrazeny ve videích generovaných umělou inteligencí, v žádných videích neobjeví. K této změně došlo v době, kdy se ve Spojených státech čeká na schválení nového federálního zákona No Fakes Act, který by měl umělce chránit před neoprávněným vytvářením nebo používáním jejich podobizny, hlasu nebo výkonu pomocí umělé inteligence.

Zdroje: 1, 2, 3, 4, 5

Odebírat
Upozornit na
guest
0 Komentářů
nejstarší
nejnovější nejlépe hodnocené
Inline Feedbacks
View all comments
Obrázek: Novinky ze světa AI #130: Zastavme vývoj superinteligence, než bude pozdě
Novinky ze světa AI #130: Zastavme vývoj superinteligence, než bude pozdě
Revoluce v GPS: Chytré hodinky teď poznají vaši polohu s přesností na centimetry
Co umí AI v mobilu? S novým Xiaomi 15T Pro využijete umělou inteligenci na maximum
Chytré hodinky Huawei Watch Ultimate 2 umí komunikovat pod vodou a vypadají skvěle
Google varuje před obřím únikem dat. 2,5 miliardy uživatelů Gmailu v ohrožení
Jste opravdový Applista? Těchto pět tipů by měl znát každý majitel iPhonu
Obrázek: Zkrachoval vám dodavatel fotovoltaiky? Nepropadejte panice, takto situaci vyřešíte
Zkrachoval vám dodavatel fotovoltaiky? Nepropadejte panice, takto situaci vyřešíte
Soukromé konverzace s ChatGPT byly dohledatelné ve vyhledávačích. Jak být o krok napřed?