Skræmmende teknologi kan få politikere til at sige hvad som helst: Facebook siger stop

Der er frygt for, hvordan de såkaldte »deepfakes« kan skade demokratiet. Facebook vil stoppe dem, men lader problematiske videoer overleve.

Mark Zuckerberg har selv været udsat for en såkaldt »deepfake«. Nu vil Facebook bremse de kontroversielle videoer. Fold sammen
Læs mere
Foto: Erin Scott/AP/Ritzau Scanpix

Frem mod det amerikanske præsidentvalg senere i år er en ny trussel dukket op:

Såkaldte »deepfakes«. En forholdsvis ny teknologi, der anvender kunstig intelligens til at manipulere med billeder og lyd, således at der kan skabes meget realistiske falske videoer, som kan være svære at adskille fra de ægte. De kan få vores opfattelse af sandt og falsk til at skride.

Du kan se nogle eksempler her.

Nu meddeler verdens største sociale medie, Facebook, at de fremover vil fjerne »deepfakes« og videoer, der er manipuleret ved hjælp af kunstig intelligens, fra platformen for at begrænse spredningen af misinformation frem mod valget i november.

Det skriver Facebook i et blogindlæg.

Forbuddet mod »deepfakes« vil ikke ramme underholdende parodier og satire, oplyser det sociale medie.

I denne falske video med Barack Obama illustrerer mediet Buzzfeed, hvor svært det kan være at se, at en video er en såkaldt »deepfake«.

Det er stadig uvist, præcist hvilke videoer der vil blive ramt af Facebooks nye politik. Eksempelvis oplyser Facebook til det britiske nyhedsbureau Reuters, at en meget omdiskuteret video af Nancy Pelosi, Demokraternes formand for Repræsentanternes Hus, ikke vil blive fjernet under de nye regler.

Videoen er redigeret således, at Nancy Pelosi snubler over ordene og fremstår usammenhængende. Den blev brugt af politiske modstandere, som hævdede at hun var syg eller beruset.

»Den redigerede video af formand Pelosi lever ikke op til kriterierne for denne politik og vil ikke blive fjernet. Kun videoer skabt af kunstig intelligens, der viser folk sige fiktive ting, vil blive fjernet,« oplyser Facebook i en meddelelse.

Se den manipulerede video af Nancy Pelosi her.

Ved hjælp af sine algoritmer forsøger Facebook dog at bremse spredningen af Pelosi-videoen, således at den bliver set af færre brugere, oplyser mediet.

Tidligere har Facebook afvist at fjerne nogle »deepfakes« – også da en falsk, redigeret video af topchefen Mark Zuckerberg cirkulerede på Instagram og Facebook. Videoen er manipuleret således, at Mark Zuckerberg indrømmer, at han har total kontrol over millioner af menneskers liv og fremtid.

Facebook er udsat for ekstrem årvågenhed frem mod præsidentvalget i USA i november. Analytikere frygter, at misinformationskampagner vil sprede fejlagtige informationer ud til vælgerne. Demokraterne kritiserer Facebook for at videreformidle løgnagtige republikanske annoncer, mens Republikanerne beskylder mediet for diskriminere mod konservative synspunkter.

Inden nytår slettede Facebook flere end 900 konti, sider og grupper, der blev styret af falske profiler, som havde genereret realistiske – men uægte – profilbilleder ved hjælp af kunstig intelligens. Det skriver ABC News.