Deepfake

Ordet stammer fra en Reddit-bruger ved navn "deepfakes", der i slutningen af 2017 offentliggjorde ansigtsbytninger bygget på en autoencoder med fælles encoder og to decodere: encoderen lærer en fælles latent repræsentation af ansigter, de to decodere lærer at genskabe henholdsvis person A og person B, og ved at bytte decoder gengives A's mimik med B's identitet. GAN'er og senere StyleGAN gjorde syntetiske ansigter fotorealistiske; siden omkring 2022 har latente diffusionsmodeller og videodiffusion domineret billed- og videogenerering, og neurale codec-sprogmodeller til tale som Microsofts VALL-E (2023) viste, at få sekunders lydoptagelse kan være nok til at efterligne en stemme. Ansigts- og stemmekonvertering i realtid kører nu på almindelige grafikkort, hvilket muliggør live-efterligning i videomøder og ikke kun færdigrenderede klip.

Svindelmønstret er direktørsvindel (business email compromise) med en stærkere rekvisit. I den meget omtalte Arup-sag i Hongkong i 2024 overførte en medarbejder omkring 200 millioner HK$ efter et videomøde, hvor økonomidirektøren og de øvrige deltagere var syntetiske. Stemmekloner og syntetiske ansigter bruges også i "nødsituation i familien"-opkald og mod fjernidentifikation. Modtrækket er procedurer: tilbageringning til et nummer fra en uafhængig kilde, dobbeltgodkendelse af betalinger og ændringer af kontooplysninger og kodeord ved forespørgsler med høj risiko. Ved identitetssikring skal liveness-tjek og detektion af præsentationsangreb (ISO/IEC 30107-3) også tage højde for injektionsangreb, hvor et virtuelt kamera sender syntetisk video direkte ind i optagelsesflowet.

Detektion er et våbenkapløb. Klassifikatorer trænet på artefakter fra én generator generaliserer dårligt til nye generatorer og forringes af komprimering og genkodning, så en detektors score bør behandles som svag evidens. Proveniens er den komplementære tilgang: C2PA Content Credentials binder kryptografisk et signeret manifest over optagelses- og redigeringshistorik til filen, og vandmærkning som Google DeepMinds SynthID indlejrer et signal i genereret output; begge dele kan fjernes eller mangle, så en manglende attest beviser intet.

AI-forordningen definerer i art. 3, nr. 60, en deepfake som AI-genereret eller manipuleret billed-, lyd- eller videoindhold, der ligner eksisterende personer, genstande, steder, enheder eller begivenheder og fejlagtigt vil fremstå som ægte. Art. 50, stk. 2, kræver, at udbydere af generative systemer mærker syntetisk output i et maskinlæsbart og detekterbart format, og art. 50, stk. 4, kræver, at idriftsættere, der offentliggør deepfakes, oplyser, at indholdet er kunstigt genereret eller manipuleret, med en lempeligere pligt for åbenlyst kunstneriske, satiriske eller fiktive værker. Disse gennemsigtighedskrav gælder fra 2. august 2026; Digital Omnibus-ændringen fra 2026 (forordning (EU) 2026/1744) giver systemer, der allerede er på markedet, frist til 2. december 2026 for mærkningspligten i art. 50, stk. 2, og indfører et forbud mod AI-systemer til at generere intime billeder uden samtykke. GDPR gælder for en virkelig persons udseende og stemme som personoplysninger, og i Danmark er det foreslået at ændre ophavsretsloven, så den enkelte får en ret over realistiske digitale efterligninger af sit ansigt og sin stemme.