For det andet  opleves video- og billedindslag på sociale medier ofte på skærme fra små mobiltelefoner, hvor det kan være svært at identificere suspekte fejl. Slutteligt viser studier i anerkendte videnskabelige tidsskrifter (som PNAS, PLOS og iScience), at teknologien allerede nu kan frembringe billeder og lyd, der er umulige at skelne fra ægte.

Deepfakes vægtes i studier endda mere troværdige end virkelige medier. Du læste rigtigt: Studier peger på, at når mennesker bliver bedt om at evaluere falske og ægte billeder, fremstår de falske mere ægte end de ægte.

Vores egne forskningsresultater, der for tiden er under fagfællebedømmelse, peger ligeledes på, at deepfakes, i sammenligning med kameraoptagelser, fordrer samme læringspotentialer, opmærksomhed og troværdighed.

Teknologien er kommet for at blive

Allerede i dag benyttes teknologien bag deepfakes i stort omfang til produktive, kreative og andre godartede formål.

Når mennesker bliver bedt om at evaluere falske og ægte billeder, fremstår de falske mere ægte end de ægte.

Aske Mottelson
Datalog, ph.d. og lektor, IT-Universitetet

Filmproducenter kan hurtigt og billigt afprøve idéer, før de påbegynder optagelser, virksomhedsledere kan effektivt kommunikere på tværs af sprog til medarbejdere og omverdenen, musikere kan transformere deres lyd til den stil, de ønsker, og forskere, journalister, og kommunikatører kan illustrere deres budskaber uden nævneværdige illustrative evner.

Det er derfor uomtvisteligt, at teknologien er kommet for at blive. Man skal være naiv for at tro, at brugen af deepfakes til uhæderlige formål, såsom hævnporno, politisk motiveret misinformation og internetsvindel ikke ligeledes vil tage til.

Et spørgsmål om tid

I det forgangne år, hvor mine kollegaer og jeg har afviklet flere psykologiske studier af, hvordan mennesker påvirkes af syntetiske videoer, har der været provokerende sager om spredningen af deepfakes.

Vi har set deepfakes med Joe Biden, der indkalder alle unge mænd til militæret, Olaf Scholz, der erklærer AfD forbudt, og pornografisk materiale med Taylor Swift.

Det er derfor åbenlyst, at vi skal vænne os til en ny virkelighed, hvor vi hverken kan stole på tekst, billeder, lyd eller video.

Det var et spørgsmål om tid, før teknologien blev taget i brug i dansk politik. Det overraskende var derfor ikke, at en falsk video med Mette Frederiksen vakte furore. Det overraskende var, at afsenderen var et etableret politisk parti.