Meta vyvíjí systém pro rozpoznávání obrázků generovaných umělou inteligencí

Uprostřed rychlého vývoje pokročilých modelů umělé inteligence (AI) je důležité umět rozlišit vygenerovaný obsah od toho skutečného. Mnohem zásadnější to bude hlavně v době, kdy se bude podobat tomu lidskému k nerozeznání. A právě o to se snaží společnost Meta.

Meta Platforms vlastnící sociální sítě Facebook a Instagram a komunikační aplikace Messenger a WhatsApp oznámila, že pracuje na novém nástroji pro detekci a označení obrázků vygenerovaných AI.

Firma Marka Zuckerberga už má podobný nástroj pro označení umělého obsahu vygenerovaného vlastními systémy AI. Nyní chce na Facebooku, Instagramu a Threads zachytávat umělý obsah ostatních společností.

Obrázek: Meta vyvíjí systém pro rozpoznávání obrázků generovaných umělou inteligencí

Meta vyvíjí systém pro rozpoznávání obrázků vygenerovaných AI. Zdroj: Unsplash

Výkonný ředitel Mety Nick Clegg napsal, že tento systém společnost rozšíří v „nadcházejících měsících“, upozornila televize BBC. Cílem je jasně vyznačit veškerý obsah vygenerovaný AI a zabránit šíření dezinformací, což je jedna z nejčastěji zmiňovaných obav.

Nutno však dodat, že se bude systém zaměřovat pouze na obrázky, nikoli zvuk a video. Právě takový obsah přitom vzbuzuje největší obavy, co se týče dezinformací. Označit zvukovou stopu či video jako „dílo“ AI musí sami uživatelé pod hrozbou sankcí.

Nebude to stačit

Clegg připustil, že tento systém stále není perfektní, ale i přesto Meta chce v kontrole obsahu generovaného AI inspirovat zbytek odvětví. Profesor z Marylandské univerzity Soheil Feizi zmínil skepsi. Tento systém je podle něj snadné obejít.

„Možná budou schopni vycvičit svůj detektor, aby byli mohli označit nějaké obrázky specificky vygenerované některými konkrétními modely. Takovým systémům se však dá velice snadno vyhnout s pomocí lehké úpravy snímků,“ uvedl Feizi.

Obrázek: Meta vyvíjí systém pro rozpoznávání obrázků generovaných umělou inteligencí

V boji proti dezinformacím však budeme nutné vyvinout mnohem pokročilejší systémy na jejich detekci. Zdroj: Unsplash

Další problém je potenciálně vysoký počet „falešných poplachů“. Tento systém jednoduše může chybně označovat lidskou tvorbu jako obsah vygenerovaný AI. Může tedy spíše Metě přidat práci navíc než sloužit ku prospěchu věci.

Cegg rovněž připustil, že systém detekce nebude schopen rozpoznávat text vygenerovaný modely, jako je ChatGPT. „Stejně jako se bleskově vyvíjejí pokročilé jazykové modely a generátory obrázků, musíme investovat i do vylepšování systémů pro detekci umělého obsahu,“ dodal.

Obrázek: Meta vyvíjí systém pro rozpoznávání obrázků generovaných umělou inteligencí

Zdroj: Midjourney

Zdroje: BBC

Odebírat
Upozornit na
guest
0 Komentářů
Inline Feedbacks
View all comments
Obrázek: Biorobotické medúzy: Hlubiny oceánů budou prozkoumávat podvodní kyborgové
Biorobotické medúzy: Hlubiny oceánů budou prozkoumávat podvodní kyborgové
Obrázek: Globální dodávky chytrých telefonů rostou, největší odbyt má Samsung
Globální dodávky chytrých telefonů rostou, největší odbyt má Samsung
Obrázek: Čtyřnohý společník pro astronauty. NASA vyvíjí nové roboty pro kosmické mise
Čtyřnohý společník pro astronauty. NASA vyvíjí nové roboty pro kosmické mise
Obrázek: Český zdicí robot naživo: Je překvapivě pomalý, na rozdíl od lidí ale nepotřebuje odpočívat
Český zdicí robot naživo: Je překvapivě pomalý, na rozdíl od lidí ale nepotřebuje odpočívat
Obrázek: Máte doma nefunkční GPS lokátor od Invoxia? Nyní bude v ČR opět fungovat
Máte doma nefunkční GPS lokátor od Invoxia? Nyní bude v ČR opět fungovat
Obrázek: Tesla v ČR otevřela své rychlonabíječky pro všechny elektromobily. Jak nabíjet na Superchargeru?
Tesla v ČR otevřela své rychlonabíječky pro všechny elektromobily. Jak nabíjet na Superchargeru?
Obrázek: Noční fotografie s vivo X100 Pro: Jak fotit v noci se smartphonem jako profík?
Noční fotografie s vivo X100 Pro: Jak fotit v noci se smartphonem jako profík?
Obrázek: Recenze robotického vysavače TESLA RoboStar iQ700 s laserovou navigací: Čistá domácnost bez námahy?
85%
Recenze robotického vysavače TESLA RoboStar iQ700 s laserovou navigací: Čistá domácnost bez námahy?