Deepfakes jsou digitálně vytvořené obrazy nebo videa, ve kterých je tvář nebo tělo člověka nahrazeno tváří někoho jiného pomocí sofistikovaných algoritmů strojového učení a umělé inteligence. Tento fenomén v poslední době získává na popularitě a zároveň vyvolává obavy, a to i v České republice. Ukázky deepfakes naleznete níže v článku.
Odlišit obsah vygenerovaný umělou inteligencí (AI) od lidské tvorby je stále obtížnější. Jediným možným řešením, jak od sebe obsah odlišit, je označovat jeho skutečného autora. K něčemu takovému se teď odhodlal YouTube. Jeho metoda má ale problém – je zatím dobrovolná. Rozpoznat obrázky vygenerované AI nebyl ještě rok …
Nejnovější pokroky v oblasti umělé inteligence umožňují vytvářet realistická videa, která jsou k nerozeznání od skutečných televizních reportáží. Bohužel se objevují případy zneužití této technologie pro šíření dezinformací a podvodů. Jeden z nejnovějších na sociální síti YouTube láká uživatele do investiční pasti. Na YouTube se objevila falešná reportáž …
Nahrajete fotografii, vyplníte jméno a rázem jste součástí krátkého traileru na film Reminiscence. Studio Warner Bros. využilo netradičního způsobu propagace, který využívá techniku tzv. deepfake videí. I vaše staré fotografie se tak rázem rozpohybují. Statická fotografie působí na člověka o poznání jinak než video. O to větší byl …
Černobílé fotografie dokáží působit zvláštním dojmem. Ukazují historii bez barev a s jakýmsi odstupem. Jak by vypadali vaši předci na barevných fotografiích? A jak na videu? Online služba dokáže během několika sekund obarvit a rozhýbat staré fotografie. Obarvování černobílých fotografií nabízí celá řada nástrojů. Některé jsou zdarma, jiné …
Umělec a 3D návrhář Ian Spriggs se specializuje na tvorbu realistických modelů obličejů. Ty po vyrenderování vypadají naprosto nerozeznatelně od reality. Nevěříte? Podívejte se na Ianovu práci, za kterou stojí desítky hodin strávených za monitorem počítače a obrovská dávka talentu. Rostoucí výkon grafických karet, pokročilé funkce grafického softwaru …
Sociální síť Snapchat testuje novou funkci, která umožňuje vložit obličeje uživatelů do videa a ta následně sdílet. Jedná se tedy vlastně o jakási zjednodušená Deepfake videa tvořená umělou inteligencí, která zatím zdaleka nedosahují dokonalosti. Snapchat Cameos jsou alternativou pro Bitmoji a mají pomoci snadno a rychle vyjádřit emoce …
Manipulace s médii není ani zdaleka nic nového. Málokdy ji však vyřeší pouze samotné technologické inovace: Nutné je i vzdělávání. Samotná problematika totiž zdaleka nespočívá pouze v samotné existence i velmi sofistikovaného podvodu, řekněme deepfake videa. Prvotní problém vzniká už v našich hlavách, kdy lidská přirozenost ráda věří informacím, které dotváří …
V posledních dvou letech strmě roste jak sofistikovanost, tak rozšíření takzvaných deepfakes: videí nebo fotografií, v nichž je původně zachycené osobě velmi věrohodným způsobem nahrazen obličej za cizí – třeba prezidenta republiky. Prozatím se technologie rozšířila hlavně do pornografického průmyslu, kde působí znatelné etické problémy. Zatímco dříve mohli zhrzení bývalí partneři …
Jak vznikají deepfakes?
Sběr dat: Nejprve je třeba shromáždit dostatečně velký dataset obrázků nebo videí, které obsahují tvář cílové osoby. Čím více dat, tím přesnější a realističtější bude výsledné deepfake video.
Strojové učení: Používají se pokročilé algoritmy, jako jsou generativní adversariální sítě (GANs), které se skládají ze dvou částí: generátoru, který vytváří obrazy, a diskriminátoru, který je hodnotí. Generátor se snaží vytvořit co nejrealističtější obrazy, zatímco diskriminátor se je snaží odhalit. Tento proces trénování vede k vytváření stále přesnějších a těžko odhalitelných deepfakes.
Refinování a úpravy: Po vytvoření základního deepfake videa mohou následovat další úpravy pro zlepšení kvality a realističnosti, jako je úprava světla, zvuku a synchronizace pohybů.
Jaké podoby mohou deepfakes nabývat?
Deepfakes se mohou objevit v různých formách:
Politické deepfakes: Mohou být použity k manipulaci s veřejným míněním nebo k šíření dezinformací.
Celebritní deepfakes: Často se objevují ve formě videí, kde jsou tváře celebrit umístěny do kompromitujících scén.
Deepfakes ve zpravodajství: Mohou být využity k vytvoření falešných zpráv nebo manipulativních reportáží.
Osobní deepfakes: Vznikají pro osobní zábavu nebo jako součást uměleckých projektů.
Vliv umělé inteligence
Umělá inteligence hraje klíčovou roli v rozvoji a zdokonalování techniky deepfakes. Díky pokrokům v oblasti strojového učení a dostupnosti velkých datových sad se deepfakes stávají stále sofistikovanějšími a těžšími k detekci.
Deepfakes v České republice
V ČR se s deepfakes setkáváme stále častěji, ať už v sociálních médiích, reklamě nebo dokonce v politickém diskurzu. Je důležité rozpoznat potenciální rizika a etické dilema spojené s tímto fenoménem. Veřejnost by měla být vzdělávána o možnostech detekce a ochrany před manipulativním využitím deepfakes.
Jaká je budoucnost deepfakes?
Deepfakes představují fascinující, avšak zároveň nebezpečnou technologii, jejíž vliv a rozšíření v současné době roste. Je důležité být vůči nim ostražitý a rozvíjet technologie a metody pro jejich odhalení, aby bylo možné chránit integritu informací a osobní identity. V České republice je třeba věnovat pozornost rostoucímu vlivu deepfakes a zabývat se případnými dopady na společnost a demokracii.