Billeder, der viser Taylor Swift i seksuelt antydende og eksplicitte positioner, har spredt sig på sociale medier. Såkaldte deepfakes, som er skabt for at skade kendte mennesker, er et stigende problem, mener ekspert.
Kunstig intelligens har invaderet vores teknologiske verden, og med AI-generationsværktøjer som ChatGPT, Dall-E og Midjourney er det blevet allemandseje.
Det øger også risikoen for såkaldte deepfakes, hvor man manipulerer menneskers stemmer og ansigter, og på den måde skaber en tro digital »kopi« af en person.
Det har popfænomet Taylor Swift i denne uge været offer for. Falske pornografiske billeder har floreret af hende på sociale medier, overvejende på X.
Billedet viser angiveligt sangerinden i seksuelt antydende og eksplicitte positioner, og de blev set titusinder af gange, før de blev fjernet, skriver CNN.
X har, ligesom andre større sociale medieplatforme, politikker, der forbyder manipulerede billeder, som kan vildlede folk. X kalder det »misleading media«.
Men udnyttelsen af AI-værktøjer til at skabe skadeligt indhold mod offentlige personer stiger og spreder sig hurtigere end nogensinde på tværs af sociale medier, påpeger Ben Decker, som driver det digitale efterforskningsbureau Memetica:
»Dette er et glimrende eksempel på, hvordan AI bliver sluppet løs uden nok sikkerhed på plads til at beskytte offentligheden. De sociale medievirksomheder har ikke effektive planer på plads for at overvåge deres indhold,« sagde Ben Decker til CNN.
Herhjemme har Mette Frederiksen (S) i flere omgange været udsat for deepfake-teknologien.
DR-satireprogrammet »Tæt på Sandheden« har tidligere redigeret statsministerens ansigt oven på en skuespillers eget ansigt. Det samme gjorde de med den nuværende minister for udviklingssamarbejde og global klimapolitik, Dan Jørgensen (S).
Sidste år var den gal igen, da en falsk video af Mette Frederiksen gik sin gang på TikTok, hvor hun blandt andet omtaler sig selv som »Slette Mette«, skriver TV 2.
I december landede EU en aftale om regler for kunstig intelligens, den såkaldte »AI Act«. Lovgivningen har været undervejs siden 2021.
Her lægger man op til, at deepfakes og andet AI-genereret indhold nu skal markeres som sådan.
EU kommer til at kunne overvåge og sanktionere dem, der bryder loven, gennem et nyt organ ved navn EUs Kontor for Kunstig Intelligens, der kommer til at hænge sammen med EU-Kommissionen.
