Úvod do deepfaků

Co to je deepfake?

Slovo deepfake vzniklo spojením dvou anglických slov: deep learning (hluboké učení – druh umělé inteligence) a fake (falešný). Deepfaky jsou syntetická média – videa, zvukové nahrávky nebo fotky – vytvořená umělou inteligencí tak, aby vypadala nebo zněla jako skuteční lidé.

Čím se deepfake liší od tradičních úprav? Běžná úprava fotek nebo videí vyžaduje ruční práci člověka – grafik musí obrázek upravovat pixel po pixelu. U deepfaku AI generuje obsah automaticky a učí se přitom na tisících příkladů skutečných tváří, hlasů nebo pohybů těla.

Příklady deepfaků jsou mimo jiné: video, ve kterém někdo říká slova, která nikdy neřekl; realistické fotky lidí, kteří ve skutečnosti neexistují; nahrávky hlasu, které zní úplně stejně jako hlas skutečného člověka.

Proč je to důležité? Ještě před několika lety vyžadovalo vytvoření přesvědčivého deepfaku pokročilé technické znalosti a výkonné počítače. Dnes stačí smartphone a bezplatná aplikace. To znamená, že kdokoli – doslova kdokoli – může vytvářet falešné materiály. Proto se schopnost rozpoznat deepfake stává jednou z nejdůležitějších digitálních dovedností naší doby.

Krátká historie deepfaků

Historie deepfaků je poměrně krátká, ale velmi dynamická. Všechno začalo na konci roku 2017, kdy anonymní uživatel serveru Reddit s přezdívkou „deepfakes“ začal zveřejňovat videa s vyměněnými tvářemi známých lidí. Použil k tomu volně dostupné nástroje strojového učení. Právě z jeho přezdívky pochází název celého jevu.

V dubnu 2018 vytvořil server BuzzFeed ve spolupráci s režisérem Jordanem Peelem varovné video – deepfake s bývalým prezidentem USA Barackem Obamou, který říká věci, jaké nikdy neřekl. Cílem videa bylo ukázat lidem, jak snadno se dá vytvořit přesvědčivé falešné video.

V roce 2019 se tvorba deepfaků dostala do smartphonů. Čínská aplikace Zao (září 2019) umožňovala za pár sekund vložit vlastní tvář do známých filmových scén a ze dne na den se stala virální. Oblíbené byly i další aplikace na hraní s tváří: FaceApp, fungující od roku 2017 (zestárnutí a omlazení tváře), a od roku 2020 Reface (výměna tváře v klipech a gifech) – miliony lidí se bavily výměnou tváří.

Od roku 2020 až dodnes se technologie deepfake vyvíjí závratným tempem. Kvalita falešných materiálů rok od roku roste a nástroje jsou zároveň stále dostupnější. Je to závod mezi tvůrci deepfaků a výzkumníky, kteří se je snaží odhalovat.

Typy deepfaků

Deepfaky nejsou jen vyměněné tváře ve videích. Existuje pět hlavních kategorií syntetických médií vytvářených umělou inteligencí.

1. Výměna obličeje ve videu (face swap) – nejznámější typ. AI rozpozná ve videu tvář jednoho člověka a nahradí ji tváří někoho jiného, snímek po snímku. Výsledek může být neuvěřitelně realistický.

2. Klonování hlasu (voice cloning) – AI se z nahrávek naučí, jak zní hlas určitého člověka, a pak v tomto hlase vygeneruje nový projev. Naklonovaný hlas může říct jakýkoli text.

3. Obrázky generované AI – tvorba realistických fotek lidí, kteří nikdy neexistovali. Technologie je tak pokročilá, že většina lidí tyto obrázky od skutečných fotografií nerozezná.

4. Text generovaný AI – falešné články, recenze, zprávy a příspěvky na sociálních sítích vytvářené automaticky velkými jazykovými modely. Mohou napodobovat styl psaní konkrétních lidí nebo médií.

5. Syntéza celého těla – nejpokročilejší forma deepfaku. AI generuje nejen tvář, ale celou postavu v pohybu – gesta, chůzi, řeč těla. Dá se vytvořit video s člověkem, který dělá věci, jaké nikdy nedělal.

Každý z těchto typů představuje jinou hrozbu a vyžaduje jiné metody odhalování. V dalších lekcích si každou kategorii podrobně probereme.

Deepfake a běžná úprava

Lidé upravují fotky a videa už desítky let. Programy jako Adobe Photoshop (vydaný v roce 1990) umožňují ruční retušování fotek – odstraňování nedokonalostí, změnu barev, a dokonce vkládání prvků z jiných fotek. To všechno ale vyžaduje lidskou práci, čas a dovednosti.

Deepfake funguje úplně jinak. Tady jsou klíčové rozdíly:

Rychlost – tradiční úprava profesionálního videa může trvat hodiny nebo dny. AI dokáže vytvořit přesvědčivý deepfake během minut, někdy i sekund.

Kvalita – AI se učí na milionech příkladů skutečných tváří, hlasů a pohybů. Díky tomu může generovaný obsah vypadat neuvěřitelně realisticky, i bez účasti profesionálního grafika.

Rozsah – jeden člověk s počítačem může pomocí AI vygenerovat stovky nebo tisíce falešných materiálů. Ruční úprava v takovém rozsahu by byla nemožná.

Dostupnost – kdysi vyžadovala úprava videa roky učení a drahý software. Dnes je mnoho nástrojů na deepfake zdarma a nevyžaduje žádné technické dovednosti.

Důležitá poznámka: samotný nástroj není ani špatný, ani dobrý. Photoshop se dá použít k vylepšení fotky z dovolené nebo k podvodu. Stejně tak AI na generování obsahu – může sloužit zábavě, vzdělávání nebo dezinformacím. Klíčové je, k jakému účelu někdo technologii používá.

Proč je deepfake nebezpečný?

Deepfake s sebou nese vážné hrozby, které se týkají jak jednotlivců, tak celé společnosti.

Eroze důvěry – to je možná největší nebezpečí. Když může být každé video, fotka nebo nahrávka hlasu zfalšované, lidé přestávají věřit i pravým materiálům. Vzniká svět, ve kterém si nikdo není jistý, co je pravda.

Dezinformace – deepfake se dá použít k masovému šíření falešných informací. Falešné výroky politiků, zfalšované zprávy z událostí, smyšlené skandály – všechno to může ovlivňovat veřejné mínění a výsledky voleb.

Narušení soukromí – použití něčí podoby bez souhlasu je vážné porušení osobnostních práv. Deepfake umožňuje vytvářet kompromitující materiály s tváří kohokoli.

Finanční podvody – zločinci používají naklonované hlasy, aby se vydávali za šéfy firem nebo členy rodiny a vylákali peníze. Takové útoky jsou stále častější.

Kyberšikana – tato hrozba se týká obzvlášť mladých lidí. Někdo může vytvořit falešné, zesměšňující nebo ubližující materiály s tváří oběti a rozšířit je po internetu. Takové materiály mohou hodně ublížit.

Pokud se to stane tobě nebo někomu, koho znáš: nesdílej to dál, nahlas materiál na platformě a řekni to dospělému, kterému důvěřuješ. Společně si zapište odkaz, název účtu a datum (intimní snímky neukládej). Není to tvoje vina. Můžeš také zavolat na Linku bezpečí 116 111 – zdarma.

Právě proto schopnost rozpoznat deepfake není jen zajímavost – je to nezbytná obranná dovednost v digitálním světě.