Novinky ze světa AI #141: Grok se topí v problémech, na přání uživatelů svléká dívky na fotografiích

Umělá inteligence zaznamenává i na začátku roku 2026 dynamický vývoj. Svědčí o tom nejen celá řada novinek představených na veletrhu spotřební elektroniky v Las Vegas, ale také další inovace z dílny větších či menších firem věnujícím se AI technologiím.

ChatGPT Health: OpenAI uvádí specialistu na lidské zdraví

Nástroje umělé inteligence nám dlouhodobě pomáhají s hledáním odpovědí na nejrůznější dotazy, ve vysoce specializovaných oborech – například medicíně – však zatím stále tápou. Společnost OpenAI to podle všeho hodlá změnit díky nedávno odhaleného nástroje ChatGPT Health. Nová funkce populárního chatbota umožňuje uživatelům bezpečně propojit jejich lékařské záznamy či data z fitness aplikací třetích stran přímo do rozhraní ChatGPT. V dedikovaném prostoru pak mohou umělé inteligenci pokládat otázky týkající se svého zdraví a následně získávat odpovědi založené na jejich vlastní anamnéze.

Obrázek: Novinky ze světa AI #141: Grok se topí v problémech, na přání uživatelů svléká dívky na fotografiích

Nový nástroj ChatGPT Health vyvíjený společností OpenAI by měl uživatelům pomoct se základní konzulací svého zdravotního stavu. Foto: Unsplash

ChatGPT Health je reakcí společnosti OpenAI na nejčastější dotazy vlastních uživatelů. Až 230 milionů lidí týdně pokládá ChatGPT dotazy související se zdravím, a nový nástroj jim tak má pomoci najít řešení. Důležitou roli v celém systému hraje soukromí a bezpečnost. Režim Health funguje zcela odděleně od běžných konverzací a sdílená data nejsou využívána pro trénink AI modelů.  OpenAI však stále zdůrazňuje, že novinka není určena pro diagnostiku a léčbu a nemá za cíl nahradit zdravotní péči. Jde spíše o nástroj, který má lidem pomoci lépe porozumět jejich zdravotnímu stavu, připravit se na návštěvy lékaře či získat rady ohledně stravy a cvičení.

Grok pod palbou kritiky: Chatbot generuje sexualizované snímky

Chatovací nástroj Grok od společnosti xAI Elona Muska čelí vlně kritiky a regulačních vyšetřování po tom, co začal masově generovat nevyžádané sexualizované snímky žen a nezletilých. Podle celodenní analýzy výzkumnice Genevieve Oh, jejíž výsledky byly publikovány v deníku Bloomberg, vytvořil Grok během přibližně 6 700 sexuálně sugestivních deepfake snímků za hodinu, což vyvolalo vlnu kritiky ze strany odborníků i samotných uživatelů.

Problémy s obsahem generovaným chatbotem xAI začaly koncem minulého roku, kdy uživatelé odhalili, že Grok bez větších obtíží upravuje fotky žen – ať už celebrit, či běžných lidí – tak, že je umístí do bikin, průhledného oblečení nebo jinak sexualizovaných pozic. Po eskalaci trendu se pak začaly objevovat i úpravy zahrnující nezletilé osoby, což vyvolalo obavy z vytváření materiálů se sexuálním zneužíváním dětí. Aktuálně tak probíhá vyšetřování nástroje Grok ze stran několika regulačních orgánů včetně Evropské komise. Sám Elon Musk na kritiku reagoval zprvu žertovně – sám si nechal vygenerovat obrázek sebe v bikinách a označil ho jako „perfektní“. Později však uvedl, že uživatelé tvořící nelegální obsah budou čelit stejným následkům, jako kdyby takový obsah nahrávali sami. Incident znovu otevírá debatu o odpovědnosti AI společností za obsah generovaný jejich nástroji a o potřebě účinnějších ochranných mechanismů.

YouTube Music je zahlcen AI obsahem. Předplatitelé volají po řešení

Uživatelé placené verze YouTube Music v posledních dnech vyjadřují frustraci z toho, že jejich doporučení zaplavují písně generované umělou inteligencí. Stížnosti se hromadí například na online diskuzním fóru Reddit, kde jeden z uživatelů uvedl, že až šest z deseti doporučení pro jeho účet tvoří AI produkce. Označení tohoto obsahu tlačítkem „Nezajímá mě to“ či palec dolů pak nemá na navrhované písně prakticky žádný efekt.

Obrázek: Novinky ze světa AI #141: Grok se topí v problémech, na přání uživatelů svléká dívky na fotografiích

Uživatelé platformy YouTube Music si stěžují na nefunkční algoritmus doporučení. Velkou část skladeb prý tvoří díla generovaná umělou inteligencí. Foto: Freepik

YouTube zatím hudbu generovanou umělou inteligencí přímo nezakazuje, požaduje ale po tvůrcích, aby takový obsah označovali jako vytvořený nebo upravený AI. Platforma však neposkytuje uživatelům snadný způsob, jak takový obsah filtrovat z doporučení. Někteří platící předplatitelé již zvažují přechod na jiné služby. Podobnému přehlcení AI obsahem však kromě YouTube Music čelí i Spotify či Deezer. Experti zdůrazňují, že streamovací služby budou muset najít způsob, jak AI obsah efektivněji odlišovat, jinak riskují ztrátu důvěry uživatelů a podpory skutečných umělců.

Instagram se musí změnit: Ředitel sociální sítě varuje před falešnou realitou

Šéf Instagramu Adam Mosseri zveřejnil na konci roku 2025 rozsáhlé zamyšlení o budoucnosti platformy v éře umělé inteligence. Ve svém příspěvku varoval před tím, že se „autenticita stává nekonečně reprodukovatelnou“ a že Instagram bude muset rychle reagovat na změny, jinak riskuje ztrátu relevance. Mosseri upozorňuje, že AI nástroje již nyní dokážou vytvářet fotografie a videa, která jsou k nerozeznání od skutečného obsahu. Deepfake příspěvky se neustále zlepšují a vše, co dříve tvořilo identitu tvůrců – schopnost být autentický, spojovat se s publikem, mít hlas, který nelze padělat – je díky umělé inteligence dostupné prakticky každému.

Obrázek: Novinky ze světa AI #141: Grok se topí v problémech, na přání uživatelů svléká dívky na fotografiích

Šéf Instagramu Adam Mosseri vyjádřil obavy z toho, že se vytrácí hranice mezi umělým a přirozeným obsahem na platormě. Sociální síť podle něj musí projít transformací, která tento trend zohlední. Foto: Unsplash

Mosseri však zároveň připouští, že i tento trend je pouze dočasný. Řešení by pak platforma mohla dosáhnout kombinací několika přístupů, například označováním fotek a videí generovaných AI, ověřováním autentického obsahu pomocí kryptografických podpisů přímo v kamerách či zlepšováním algoritmů pro hodnocení originality. Instagram podle něj čeká náročná transformace, kterou bude muset zvládnout rychle, aby si zachoval důvěru svých 3 miliard uživatelů.

DeepSeek představuje novou architekturu pro efektivnější trénink AI

Čínský startup DeepSeek, který si v minulosti získal pozornost online světa svým modelem R1, publikoval koncem roku 2023 výzkumnou práci popisující novou metodu tréninku velkých jazykových modelů. Ta nese název Manifold-Constrained Hyper-Connections (mHC) a slibuje stabilnější a efektivnější systém učení při minimálním nárůstu výpočetních nákladů.

Obrázek: Novinky ze světa AI #141: Grok se topí v problémech, na přání uživatelů svléká dívky na fotografiích

Čínský startup Deepseek publikoval studii informující o novém systému tréninku AI. V nadcházejících týdnech by mohl její výhody představit i praktickou ukázkou. Foto: Unsplash

Jedním z největších problémů při tréninku velkých AI modelů je nestabilita, která často vede k selhání a nutnosti začít znovu, což může znamenat ztrátu týdnů práce, masivního množství elektřiny a tisíců GPU hodin. Metoda mHC od DeepSeek se snaží tento problém řešit tím, že udržuje chování modelu předvídatelnějším, i když model roste do větších rozměrů. Experti se domnívají, že by čínský startup mohl v nadcházejících týdnech vydat nový model umělé inteligence, který bude demonstrovat sílu této inovativní tréninkové technologie v praxi.

Zdroje: 1, 2, 3, 4, 5

Odebírat
Upozornit na
guest
0 Komentářů
nejstarší
nejnovější nejlépe hodnocené
Inline Feedbacks
View all comments
To nejzajímavější z CES 2026: Létající vysavač, malý AI telefon do kapsy a robotické boty
MOVA na CES 2026: Létající vysavače, chytré sekačky i robotický minibar
Vyzkoušeli jsme trojitou skládačku Samsung TriFold. Jaký je telefon a tablet v jednom?
10 000 nitů a 20 000 zón: TCL na CES 2026 odhaluje osmou generaci Mini LED
Změňte si svůj trapný e-mail ze střední školy, Gmail to konečně umožní
Vybere si každý, i s nízkým rozpočtem. Vybrali jsme nejzajímavější herní notebooky
Češi, pozor na falešné e-shopy, bazary a podvodné SMS. Jak na bezpečné vánoční nákupy?
Recenze AI překladače Timekettle W4: Zkusili jsme mluvit česky v Číně a fungovalo to