Deepfake: falošné videá vytvorené pomocou AI

Čo je deepfake a ako vznikol

Predstav si, že vidíš nahrávku známeho politika, alebo svetovej celebrity, ako hovorí veci, ktoré by za normálnych okolností nikdy nevyslovili. Pozoruješ ich pohyby, gestá, aj mikro výrazy tváre. Všetko vyzerá absolútne realisticky. Napriek tomu ide o úplnú fikciu. Tento fenomén nazývame deepfake. Samotný pojem vznikol spojením dvoch slov: „deep learning“ (hĺbkové učenie, čo je špecifická oblasť umelej inteligencie) a „fake“ (falošný).

Pôvod tohto výrazu siaha do roku 2017, kedy sa na internetovom fóre Reddit objavil používateľ s prezývkou deepfakes. Tento anonymný tvorca začal publikovať videá, v ktorých pomocou algoritmov hĺbkového učenia vymieňal tváre známych hercov a herečiek v audiovizuálnom obsahu. Čo bolo predtým výsadou drahých hollywoodskych štúdií s miliónovými rozpočtami na špeciálne efekty, sa z ničoho nič stalo dostupným pre každého s dostatočne výkonným počítačom a pripojením k internetu.

Syntéza médií však nezačala v roku 2017. Už v 90. rokoch 20. storočia akademické pracoviská výskumníkov v oblasti počítačovej grafiky skúmali možnosti automatickej úpravy tvárí. Prelom však nastal až s príchodom modernej architektúry generatívnych neurónových sietí po roku 2014. Vývoj išiel míľovými krokmi vpred. Od akademických experimentov a neohrabaných pokusov sme sa cez voľne dostupné mobilné aplikácie dostali k sofistikovaným generatívnym modelom. Dnes už dokážu v reálnom čase zmeniť tvoj hlas aj vizuálnu identitu napríklad počas videohovoru.

Ako umelá inteligencia vytvára falošné videá a hlasy

Na to, aby si pochopil, ako deepfake vzniká, nemusíš mať diplom zo softvérového inžinierstva. Základom je princíp strojového učenia a fungovania neurónových sietí, ktoré sú inšpirované prácou ľudského mozgu.

Kľúčovú úlohu tu zohráva architektúra známa ako GAN – Generative Adversarial Networks, ktorú v roku 2014 predstavil výskumník Ian Goodfellow so svojím tímom. Predstav si tento systém ako dvoch úhlavných rivalov: falšovateľa a policajta.

Generátor (falšovateľ): Jeho úlohou je vytvoriť obrázok, alebo video z dát, ktoré dostal.

Diskriminátor (policajt): Porovnáva výstup z generátora so skutočnými fotografiami a snaží sa odhaliť, či ide o podvrh.

Títo dvaja protivníci fungujú v neustálej slučke. Generátor pošle svoj výtvor diskriminátoru. Ak diskriminátor odhalí chybu, generátor sa poučí, upraví detaily a skúsi to znova. Tento proces prebieha miliónkrát za sekundu, kým generátor nevytvorí taký dokonalý obraz, že ho diskriminátor nedokáže odlíšiť od reality.

Postupne sa objavili aj novšie technológie, napríklad difúzne modely, ktoré dokážu vytvárať obraz z čistého šumu a dosahujú mimoriadne vysokú úroveň detailov.

Pri tvorbe syntetického hlasu proces funguje podobne. Modelu AI stačí krátka zvuková nahrávka konkrétneho človeka, niekedy len pár sekúnd čistého zvuku. Algoritmus zanalyzuje výšku hlasu, kadenciu, prízvuk, intonáciu aj dýchanie. Následne dokáže z ľubovoľného napísaného textu vygenerovať novú zvukovú stopu, ktorá znie na nerozoznanie od skutočného hlasu danej osoby.

Je dôležité rozlišovať medzi rôznymi formami syntetického obsahu. Deepfake nemusí predstavovať len kompletné video vygenerované od základu. Často ide o:

• Face swap: Výmena tváre jednej osoby za druhú na existujúcom videu.
• Lip-syncing: Úprava pohybu pier pôvodného rečníka tak, aby zodpovedali novému, vygenerovanému zvuku.
• Syntetický hlas: Zvuková nahrávka vytvorená text-to-speech AI modelom bez vizuálnej zložky.
• Plne syntetické médiá: Vytvorenie úplne novej, neexistujúcej postavy alebo prostredia vrátane obrazu aj zvuku.

Prečo môžu deepfakes pôsobiť tak realisticky

Naše oči a mozog sú prirodzene prispôsobené na to, aby veľmi citlivo vnímali ľudskú tvár a jej mimiku. V minulosti bolo odhalenie digitálne upraveného videa relatívne jednoduché. Podvrhy trpeli nedostatkami. Nesedeli tiene, tváre nemali mikrogestá, chýbalo žmurkanie, alebo pokožka pôsobila ako z plastu.

Dnešné pokročilé AI modely však dokážu napodobniť tie najjemnejšie detaily. Algoritmy dokážu mapovať desiatky kľúčových bodov na ľudskej tvári. Dokážu presne analyzovať, ako sa svaly na tvári pohybujú pri vyslovovaní jednotlivých hlások, ako sa mení lomenie svetla na zreničkách pri pohybe hlavy, či ako sa správa pokožka pri úsmeve.

Okrem vizuálnej stránky sa dramagicky zlepšila aj akustická stránka. Staršie hlasové syntetizátory zneli roboticky a bez emócií. Súčasné modely dokážu do generovaného hlasu zapracovať váhanie, smiech, povzdychy či špecifické rečové zvyky. Keď spojíš dokonale synchronizovaný pohyb pier s hlasom, ktorý obsahuje všetky ľudské nedokonalosti, tvoj mozog vyhodnotí takýto podnet ako skutočnosť.

Od zábavy a filmu až po podvody a manipuláciu

V kinematografii a televíznej produkcii mení syntéza médií pravidlá hry. Vďaka nej je možné omladiť hercov pre spomienkové scény bez nutnosti obsadzovať mladších dvojníkov. Rovnako umožňuje citlivo dokončiť filmové scény v prípadoch, keď herec predčasne zomrie. Technológia tiež zjednodušuje lokalizáciu a dabing filmov. Pomocou AI lip-syncingu je možné upraviť pohyb pier herca tak, aby presne zodpovedal dabingu v slovenskom, španielskom či japonskom jazyku, čo zvyšuje zážitok zo sledovania.

Rovnako nájde využitie vo vzdelávaní. Predstav si múzeum, kde teba a ostatných návštevníkov sprevádza vizuálne aj hlasovo verná kópiu Alberta Einsteina alebo Máriu Curie Sklodowskú, ktorí ti osobným výkladom vysvetlia svoje objavy.

Na druhej strane však stojí temná stránka technológie. Najväčšie riziko predstavujú finančné podvody, krádeže identity a kybernetické vydieranie. V posledných rokoch boli zdokumentované prípady, kedy podvodníci pomocou klonovania hlasu zmanipulovali zamestnancov firiem, aby previedli vysoké sumy peňazí na zahraničné účty. Vyskytujú sa aj prípady telefonátov, v ktorých útočníci generujú hlas rodinného príslušníka a tvrdia, že sa dostal do nebezpečenstva a súrne potrebuje finančnú pomoc.

Ešte závažnejším problémom je vytváranie nekonsenzuálneho obsahu, kedy sú tváre bežných ľudí bez ich súhlasu vkladané do kompromitujúcich situácií, čo vedie k šikane a osobnej traume.

Keď tvár a hlas prestanú byť dôkazom

Počas celého 20. storočia sme žili v presvedčení, že pokiaľ niečo neuvidím na vlastné oči, alebo nepočujem na vlastné uši, neuverím tomu. Fotografie a videá slúžili ako nespochybniteľné dôkazy v súdnictve, žurnalistike aj v bežnom živote. Deepfake technológia túto istotu definitívne ničí.

Rovnako nebezpečné je, že ak sa na verejnosti objaví skutočné, pravdivé video, ktoré usvedčuje politika či známu osobnosť zo zlyhania alebo zločinu, daná osoba môže jednoducho vyhlásiť: To nie som ja, to je iba AI deepfake. Vytvára sa tým prostredie všeobecnej nedôvery, kde je možné spochybniť akýkoľvek materiálny dôkaz. Keď sa dá spochybniť všetko, pravda stráca svoju váhu.

Ako rozpoznať falošné video vytvorené pomocou AI

Iba pomocou ľudského zraku a sluchu je stále ťažšie odhaliť pokročilý deepfake. Napriek tomu existujú určité detaily a nekonzistentnosti, na ktoré sa pri sledovaní podozrivého materiálu môžeš zamerať:

• Pohyby očí a žmurkanie: Hoci sa to AI modely rýchlo učia, staršie alebo menej kvalitné deepfakes často vykazujú neprirodzené žmurkanie. Postava žmurká príliš zriedkavo, alebo naopak, neprirodzene často a nepravidelne. Pohľad očí tiež nemusí presne sledovať smer hlavy.
• Synchronizácia pier a zvuk: Sleduj, či sa pohyb úst presne zhoduje s vyslovovanými hláskami. Hľadaj drobné opozdenia, alebo situácie, kedy ústa formujú iné slovo, než aké počuješ.
• Osvetlenie, tiene a hranice tváre: Všímom si, či sa svetlo na tvári mení rovnako ako na okolitom prostredí. Pozoruj okraje tváre, najmä okolo líca, brady a vlasov. Pri pohybe hlavy tu môžu vznikať jemné rozostrenia, mriežky alebo skákanie obrazu.
• Detaily pokožky a pozadia: Umelá inteligencia ma občas problém so zobrazením pórov pokožky, jemných vrások, zubov, alebo šperkov. Pokožka môže vyzerať neprirodzene hladko.
• Ruky a prsty: Generatívna AI má dlhodobo problémy so správnym zobrazením anatomických detailov rúk. Ak video zobrazuje dlane, spočítaj prsty a skontroluj ich prirodzené zakrivenie.

Je však nevyhnutné si uvedomiť jednu vec… žiadny z týchto vizuálnych znakov už dnes nie je stopercentným dôkazom. Technologické medzery sa rýchlo zatvárajú a spoliehať sa výhradne na vlastný zrak je rizikové. Zapoj kritické myslenie. Ak vo tebe video vyvoláva okamžitý nával hnevu alebo šoku, spomaľ. Práve silná emócia je často cieľom manipulácie. Nezdieľaj obsah ďalej, kým si nie si istý jeho pravosťou.

Budúcnosť deepfake technológií a boj proti digitálnym podvodom

Keďže samotné oko človeka postupne prestáva stačiť na odhalenie podvrhu, výskum sa presúva k technologickým riešeniam. Vzniká neustály zápas medzi vývojármi generatívnych modelov a výskumníkmi, ktorí vytvárajú detekčné nástroje.

Detekčné softvéry analyzujú videá na úrovni pixelov a vyhľadávajú vzorce, ktoré ľudský zrak nezachytí. Zameriavajú sa napríklad na mikroskopické zmeny vo farbe pokožky spôsobené prúdením krvi, ktoré AI zatiaľ nedokáže dokonalým spôsobom simulovať, alebo na biologické signály v hlase.

Čoraz väčší dôraz sa však kladie na prevenciu a overovanie pôvodu obsahu ešte pred tým, než sa dostane k používateľovi. Namiesto dodatočného hľadania chýb vo videu sa presadzujú systémy digitálneho podpisovania a kryptografického overovania pôvodu médií.

Iniciatívy ako C2PA (Coalition for Content Provenance and Authenticity), do ktorej sa zapájajú popredné technologické a mediálne spoločnosti, vyvíjajú otvorené štandardy pre digitálnu stopu obsahu. Do metadát súboru (fotografie či nahrávky) sa priamo pri vytvorení fotoaparátom, alebo kamerou zapíšu šifrované informácie o tom, kedy, kde a akým zariadením nahrávka vznikla, a či bola následne upravovaná pomocou AI. Ak niekto video zmení, digitálny podpis sa poruší.

Generatívna umelá inteligencia sa bude aj naďalej zdokonaľovať. Stane sa bežnou súčasťou tvorby obsahu, zábavného priemyslu aj našej dennej komunikácie. Hranica medzi fyzickou a digitálnou realitou sa bude postupne stierať.

Samotná technológia deepfake však nie je dobrá ani zlá. Rozhodujúci je zámer ľudí, ktorí ju používajú. Vstúpili sme do éry, v ktorej vizuálny záznam stráca svoj status absolútnej pravdy. Najdôležitejšou obranou spoločnosti sa tak stáva digitálna gramotnosť, systematické overovanie zdrojov informácií a schopnosť udržať si zdravý odstup a kritický pohľad na svet okolo nás.