Meta vyvíjí systém pro rozpoznávání obrázků generovaných umělou inteligencí

Uprostřed rychlého vývoje pokročilých modelů umělé inteligence (AI) je důležité umět rozlišit vygenerovaný obsah od toho skutečného. Mnohem zásadnější to bude hlavně v době, kdy se bude podobat tomu lidskému k nerozeznání. A právě o to se snaží společnost Meta.

Meta Platforms vlastnící sociální sítě Facebook a Instagram a komunikační aplikace Messenger a WhatsApp oznámila, že pracuje na novém nástroji pro detekci a označení obrázků vygenerovaných AI.

Firma Marka Zuckerberga už má podobný nástroj pro označení umělého obsahu vygenerovaného vlastními systémy AI. Nyní chce na Facebooku, Instagramu a Threads zachytávat umělý obsah ostatních společností.

Obrázek: Meta vyvíjí systém pro rozpoznávání obrázků generovaných umělou inteligencí

Meta vyvíjí systém pro rozpoznávání obrázků vygenerovaných AI. Zdroj: Unsplash

Výkonný ředitel Mety Nick Clegg napsal, že tento systém společnost rozšíří v „nadcházejících měsících“, upozornila televize BBC. Cílem je jasně vyznačit veškerý obsah vygenerovaný AI a zabránit šíření dezinformací, což je jedna z nejčastěji zmiňovaných obav.

Nutno však dodat, že se bude systém zaměřovat pouze na obrázky, nikoli zvuk a video. Právě takový obsah přitom vzbuzuje největší obavy, co se týče dezinformací. Označit zvukovou stopu či video jako „dílo“ AI musí sami uživatelé pod hrozbou sankcí.

Nebude to stačit

Clegg připustil, že tento systém stále není perfektní, ale i přesto Meta chce v kontrole obsahu generovaného AI inspirovat zbytek odvětví. Profesor z Marylandské univerzity Soheil Feizi zmínil skepsi. Tento systém je podle něj snadné obejít.

„Možná budou schopni vycvičit svůj detektor, aby byli mohli označit nějaké obrázky specificky vygenerované některými konkrétními modely. Takovým systémům se však dá velice snadno vyhnout s pomocí lehké úpravy snímků,“ uvedl Feizi.

Obrázek: Meta vyvíjí systém pro rozpoznávání obrázků generovaných umělou inteligencí

V boji proti dezinformacím však budeme nutné vyvinout mnohem pokročilejší systémy na jejich detekci. Zdroj: Unsplash

Další problém je potenciálně vysoký počet „falešných poplachů“. Tento systém jednoduše může chybně označovat lidskou tvorbu jako obsah vygenerovaný AI. Může tedy spíše Metě přidat práci navíc než sloužit ku prospěchu věci.

Cegg rovněž připustil, že systém detekce nebude schopen rozpoznávat text vygenerovaný modely, jako je ChatGPT. „Stejně jako se bleskově vyvíjejí pokročilé jazykové modely a generátory obrázků, musíme investovat i do vylepšování systémů pro detekci umělého obsahu,“ dodal.

Obrázek: Meta vyvíjí systém pro rozpoznávání obrázků generovaných umělou inteligencí

Zdroj: Midjourney

Zdroje: BBC

Odebírat
Upozornit na
guest
0 Komentářů
nejstarší
nejnovější nejlépe hodnocené
Inline Feedbacks
View all comments
Koupili jste si počítač od ASUSu? Nezapomeňte na registraci, získáte slevy, hry zdarma i rychlou podporu
Obrázek: Česko míří na ISS: Aleš Svoboda završí českou vesmírnou cestu za 2 miliardy korun
Česko míří na ISS: Aleš Svoboda završí českou vesmírnou cestu za 2 miliardy korun
Obrázek: Recenze Asus ROG Strix SCAR 16: Stejný výkon v kompaktnějším balení
8.4/10
Recenze Asus ROG Strix SCAR 16: Stejný výkon v kompaktnějším balení
Obrázek: Nové jaderné bloky zruinují český rozpočet, tvrdí expert. Bude elektřina stát 200 eur za MWh místo slibovaných 90?
Nové jaderné bloky zruinují český rozpočet, tvrdí expert. Bude elektřina stát 200 eur za MWh místo slibovaných 90?
Konec tajemství u telefonů: Energetické štítky odhalí vše o výdrži, opravitelnosti i odolnosti. Nebo ne?
Koupili jste si počítač od ASUSu? Nezapomeňte na registraci, získáte slevy, hry zdarma i rychlou podporu
Huawei Watch FIT 4 fungují s iPhonem. Stojí o polovinu méně než Apple Watch a v řadě ohledů jsou dokonce lepší
AI magie v HONORu 400 Pro: Jak z obyčejné fotky udělat video za pár sekund?