Meta vyvíjí systém pro rozpoznávání obrázků generovaných umělou inteligencí

Uprostřed rychlého vývoje pokročilých modelů umělé inteligence (AI) je důležité umět rozlišit vygenerovaný obsah od toho skutečného. Mnohem zásadnější to bude hlavně v době, kdy se bude podobat tomu lidskému k nerozeznání. A právě o to se snaží společnost Meta.

Meta Platforms vlastnící sociální sítě Facebook a Instagram a komunikační aplikace Messenger a WhatsApp oznámila, že pracuje na novém nástroji pro detekci a označení obrázků vygenerovaných AI.

Firma Marka Zuckerberga už má podobný nástroj pro označení umělého obsahu vygenerovaného vlastními systémy AI. Nyní chce na Facebooku, Instagramu a Threads zachytávat umělý obsah ostatních společností.

Obrázek: Meta vyvíjí systém pro rozpoznávání obrázků generovaných umělou inteligencí

Meta vyvíjí systém pro rozpoznávání obrázků vygenerovaných AI. Zdroj: Unsplash

Výkonný ředitel Mety Nick Clegg napsal, že tento systém společnost rozšíří v „nadcházejících měsících“, upozornila televize BBC. Cílem je jasně vyznačit veškerý obsah vygenerovaný AI a zabránit šíření dezinformací, což je jedna z nejčastěji zmiňovaných obav.

Nutno však dodat, že se bude systém zaměřovat pouze na obrázky, nikoli zvuk a video. Právě takový obsah přitom vzbuzuje největší obavy, co se týče dezinformací. Označit zvukovou stopu či video jako „dílo“ AI musí sami uživatelé pod hrozbou sankcí.

Nebude to stačit

Clegg připustil, že tento systém stále není perfektní, ale i přesto Meta chce v kontrole obsahu generovaného AI inspirovat zbytek odvětví. Profesor z Marylandské univerzity Soheil Feizi zmínil skepsi. Tento systém je podle něj snadné obejít.

„Možná budou schopni vycvičit svůj detektor, aby byli mohli označit nějaké obrázky specificky vygenerované některými konkrétními modely. Takovým systémům se však dá velice snadno vyhnout s pomocí lehké úpravy snímků,“ uvedl Feizi.

Obrázek: Meta vyvíjí systém pro rozpoznávání obrázků generovaných umělou inteligencí

V boji proti dezinformacím však budeme nutné vyvinout mnohem pokročilejší systémy na jejich detekci. Zdroj: Unsplash

Další problém je potenciálně vysoký počet „falešných poplachů“. Tento systém jednoduše může chybně označovat lidskou tvorbu jako obsah vygenerovaný AI. Může tedy spíše Metě přidat práci navíc než sloužit ku prospěchu věci.

Cegg rovněž připustil, že systém detekce nebude schopen rozpoznávat text vygenerovaný modely, jako je ChatGPT. „Stejně jako se bleskově vyvíjejí pokročilé jazykové modely a generátory obrázků, musíme investovat i do vylepšování systémů pro detekci umělého obsahu,“ dodal.

Obrázek: Meta vyvíjí systém pro rozpoznávání obrázků generovaných umělou inteligencí

Zdroj: Midjourney

Zdroje: BBC

Odebírat
Upozornit na
guest
0 Komentářů
nejstarší
nejnovější nejlépe hodnocené
Inline Feedbacks
View all comments
Obrázek: PanzerGlass pro nové modely Samsung Galaxy S25: Nižší ceny, více odolnosti i kryt s chlazením
PanzerGlass pro nové modely Samsung Galaxy S25: Nižší ceny, více odolnosti i kryt s chlazením
Obrázek: Boeing mířil příliš vysoko: Neúspěch Starlineru přišel krvácejícího giganta draho, projekt pravděpodobně ukončí
Boeing mířil příliš vysoko: Neúspěch Starlineru přišel krvácejícího giganta draho, projekt pravděpodobně ukončí
Obrázek: Recenze Huawei FreeBuds Pro 4: Skvělá TWS sluchátka s pokročilým ANC
88%
Recenze Huawei FreeBuds Pro 4: Skvělá TWS sluchátka s pokročilým ANC
Obrázek: Střední třída s výbavou vlajky: 5 funkcí, které budete na novém Redmi Note 14 Pro+ 5G milovat
Střední třída s výbavou vlajky: 5 funkcí, které budete na novém Redmi Note 14 Pro+ 5G milovat
Obrázek: Podvod s investicemi aneb Jak jsem podvodníkům poslal peníze a nechal se dobrovolně okrást
Podvod s investicemi aneb Jak jsem podvodníkům poslal peníze a nechal se dobrovolně okrást
Obrázek: Větrák na topení ušetří za energie a zrychlí vyhřátí místnosti: Lidé objevují nový trik s PC ventilátorem
Větrák na topení ušetří za energie a zrychlí vyhřátí místnosti: Lidé objevují nový trik s PC ventilátorem
Obrázek: Jaké aplikace nesmí chybět v novém chytrém telefonu? Nejlepší aplikace pro Android zdarma
Jaké aplikace nesmí chybět v novém chytrém telefonu? Nejlepší aplikace pro Android zdarma
Obrázek: Čas došel, Štědrý den je tu. Tipy na dárky na poslední chvíli, které vám přijdou e-mailem
Čas došel, Štědrý den je tu. Tipy na dárky na poslední chvíli, které vám přijdou e-mailem