Meta vyvíjí systém pro rozpoznávání obrázků generovaných umělou inteligencí

Uprostřed rychlého vývoje pokročilých modelů umělé inteligence (AI) je důležité umět rozlišit vygenerovaný obsah od toho skutečného. Mnohem zásadnější to bude hlavně v době, kdy se bude podobat tomu lidskému k nerozeznání. A právě o to se snaží společnost Meta.

Meta Platforms vlastnící sociální sítě Facebook a Instagram a komunikační aplikace Messenger a WhatsApp oznámila, že pracuje na novém nástroji pro detekci a označení obrázků vygenerovaných AI.

Firma Marka Zuckerberga už má podobný nástroj pro označení umělého obsahu vygenerovaného vlastními systémy AI. Nyní chce na Facebooku, Instagramu a Threads zachytávat umělý obsah ostatních společností.

Obrázek: Meta vyvíjí systém pro rozpoznávání obrázků generovaných umělou inteligencí

Meta vyvíjí systém pro rozpoznávání obrázků vygenerovaných AI. Zdroj: Unsplash

Výkonný ředitel Mety Nick Clegg napsal, že tento systém společnost rozšíří v „nadcházejících měsících“, upozornila televize BBC. Cílem je jasně vyznačit veškerý obsah vygenerovaný AI a zabránit šíření dezinformací, což je jedna z nejčastěji zmiňovaných obav.

Nutno však dodat, že se bude systém zaměřovat pouze na obrázky, nikoli zvuk a video. Právě takový obsah přitom vzbuzuje největší obavy, co se týče dezinformací. Označit zvukovou stopu či video jako „dílo“ AI musí sami uživatelé pod hrozbou sankcí.

Nebude to stačit

Clegg připustil, že tento systém stále není perfektní, ale i přesto Meta chce v kontrole obsahu generovaného AI inspirovat zbytek odvětví. Profesor z Marylandské univerzity Soheil Feizi zmínil skepsi. Tento systém je podle něj snadné obejít.

„Možná budou schopni vycvičit svůj detektor, aby byli mohli označit nějaké obrázky specificky vygenerované některými konkrétními modely. Takovým systémům se však dá velice snadno vyhnout s pomocí lehké úpravy snímků,“ uvedl Feizi.

V boji proti dezinformacím však budeme nutné vyvinout mnohem pokročilejší systémy na jejich detekci. Zdroj: Unsplash

Další problém je potenciálně vysoký počet „falešných poplachů“. Tento systém jednoduše může chybně označovat lidskou tvorbu jako obsah vygenerovaný AI. Může tedy spíše Metě přidat práci navíc než sloužit ku prospěchu věci.

Cegg rovněž připustil, že systém detekce nebude schopen rozpoznávat text vygenerovaný modely, jako je ChatGPT. „Stejně jako se bleskově vyvíjejí pokročilé jazykové modely a generátory obrázků, musíme investovat i do vylepšování systémů pro detekci umělého obsahu,“ dodal.