Nejnovější pokroky v oblasti umělé inteligence umožňují vytvářet realistická videa, která jsou k nerozeznání od skutečných televizních reportáží. Bohužel se objevují případy zneužití této technologie pro šíření dezinformací a podvodů. Jeden z nejnovějších na sociální síti YouTube láká uživatele do investiční pasti.

Na YouTube se objevila falešná reportáž TV Prima, ve které moderátorka a host diskutují o údajně výnosné investiční příležitosti. Na první pohled vše vypadá normálně. Ve skutečnosti jde o podvod, jehož cílem je vylákat od důvěřivých obětí peníze. Tváře osob i jejich hlasy byly dokonale napodobeny pomocí umělé inteligence.

Tak tohle jsem asi ještě neviděl (bohužel jsem to nezastavil včas a reklama nešla vrátit na začátek, takže jenom 1 minuta reklamy)…
Reklama na youtube, o (podvodných?) investicích vedený jako rozhovor mezi redaktorkou z Prima CNN news pic.twitter.com/bF5Ns3WrCq

— chiptron.cz (@chiptronCZ) December 1, 2023

Podvodníci ve svých reklamách a materiálech často zneužívají tváře známých osobností. Dříve to často býval moderátor Leoš Mareš, dnes jsou to autority z bankovních institucí, ČEZu či dokonce sám prezident Petr Pavel. YouTube a další platformy zatím v boji s podobnými podvody selhávají a často jim trvá i několik měsíců, než dokáží podvodné reklamy zablokovat. Do té doby se však často vynoří nové.

Povedená deepfake videa už cílí i na ČR

Ještě nedávno platilo, že podobná videa a zvuk nebyly dostupné nástroje v českém jazyce schopny vygenerovat. To se však změnilo a tzv. deepfakes se s pokroky v oblasti AI zlepšují také. Deepfake je technologie, která umožňuje vyměnit tváře osob ve videích nebo audionahrávkách za tváře jiných pomocí pokročilých nástrojů a umělé inteligence. Funguje to tak, že počítačový program využívá algoritmy strojového učení, aby dokonale napodobil něčí vzhled, mimiku i hlas na základě sbírky obrazových a zvukových dat. Výsledkem jsou pak videa, která vypadají naprosto realisticky, ale jsou uměle vyfabrikovaná. Technologie deepfake tak otevírá obrovský prostor pro manipulaci, která je pouhým okem téměř nerozeznatelná.

Deepfake reportáž je velmi uvěřitelná. Jde o pokročilejší podvod, než jsme byli doposud zvyklí. Foto: Redakce inSmart.cz

Takovéto podvody mohou být velmi přesvědčivé a hrozí, že čím dál tím více lidí se stane jejich obětí. Je potřeba zvýšit povědomí o existenci deepfake videí a naučit veřejnost rozpoznat varovné znaky. Zde by měla být např. velkým vykřičníkem už samotná nabídka bleskového zbohatnutí.

Jak se před deepfake bránit?

Jak se deepfakes zlepšují, budou to mít lidé v kybernetickém prostoru stále těžší a těžší. Doporučujeme proto ověřovat si informaci z více nezávislých zdrojů. Buďte obezřetní při investování, zvláště pokud vám někdo slibuje nepravděpodobně vysoké zisky. V případě pochybností ohledně investic a financí se poraďte např. s odborníky ze své banky, nebo neváhejte kontaktovat instituci, za kterou se podvodníci vydávají. Jen tak se vyhneme tomu, abychom naletěli na lákavé, ale falešné sliby.

Zdroj: Redakce inSmart.cz