Odlišit obsah vygenerovaný umělou inteligencí (AI) od lidské tvorby je stále obtížnější. Jediným možným řešením, jak od sebe obsah odlišit, je označovat jeho skutečného autora. K něčemu takovému se teď odhodlal YouTube. Jeho metoda má ale problém – je zatím dobrovolná.
Rozpoznat obrázky vygenerované AI nebyl ještě rok zpátky takový problém. Rychlost vývoje této technologie je však natolik obrovská, že už tady máme model Sora od amerického startupu OpenAI a syntetická videa a obrázky se tak stávají stále více neodlišitelnými od reality.
Tento problém neřeší pouze uživatelé na internetu, kteří zaplavení všemožným AI obsahem, ale také velké sociální sítě a platformy pro sdílení obsahu.
YouTube chce přimět tvůrce videí, aby označovali, zda jsou autory oni, nebo umělá inteligence. Zdroj: Pixabay
Videoportál YouTube zavedl nová pravidla, podle nichž jsou autoři při nahrávání videí povinni uvádět, zda jsou jeho tvůrci oni, nebo AI. Zaškrtávací políčko se objeví při nahrávacím procesu. Tvůrci budou muset uvést, zda je jejich obsah vytvořený s pomocí AI či pozměněný.
Má to ale háček. Tyto nové zásady se vztahují pouze na obsah znázorňující realitu. Tedy pokud ve videu nějaká osoba řekne či udělá něco, co se ve skutečnosti nikdy nestalo. Nebo např. pokud ve videu virtuální tornádo míří na skutečně existující město.
Čemu můžeme důvěřovat? Dnes už téměř ničemu
Stejně tak budou muset „tvůrci“ konat i v případě použití umělých hlasů vytvořených umělou inteligencí. Tyto zásady se však nevztahují na speciální efekty a zkrášlovací filtry a animace.
YouTube se zkrátka soustředí výhradně na rizika šíření dezinformací. Neřeší už ale problém, kdy se bude „tvůrce“ vydávat za autora animace, na níž bude vydělávat, půjde přitom o výsledek vygenerovaný AI. To není problém pouze animací, ale i dalšího obsahu.
Sociální média řeší, jak označovat obsah vygenerovaný umělou inteligencí. Zdroj: Pixabay
Řada uživatelů chce odlišit syntetický obsah od skutečného už z principu, ani YouTube to ovšem zatím neřeší. Částečně je to určitě dáno tím, že algoritmy pro detekci obsahu vygenerovaného AI jsou zatím nespolehlivé.
Do podobných nástrojů investuje i YouTube, avšak prozatím se musí spoléhat na upřímnost tvůrců při nahrávání obsahu, což je další problém. YouTube ale dodalo, že pokud tvůrce matoucí obsah neoznačí, může to dodatečně udělat za něj.
YouTube není jediný, kdo chce mít o původu obsahu přehled. Společnost Meta Platforms nedávno oznámila, že pracuje na novém systému pro rozpoznávání obrázků vygenerovaných umělou inteligencí. Tento systém se však nebude zaměřovat na videa či zvuk.
Zdroje: WWD
