Alle søgninger efter Taylor Swift blev hen over weekenden blokeret af det Elon Musk-ejede X, efter at falske pornografiske billeder af den amerikanske sanger hurtigt spredte sig på det sociale medie.
Enhver søgning på »Taylor Swift« eller »Taylor AI« gav blot fejlmeddelelsen »Noget gik galt. Forsøg igen«.
Af en meddelelse fra X fremgår det, at »dette er en midlertidig handling og foretaget med et væld af forsigtighed, eftersom vi prioriterer sikkerheden«.
De falske billeder af Taylor Swift dukkede op på X før weekenden. Nogle af dem blev lynhurtigt delt videre og set af millioner. Det fik fans til at strømme ind og dels anmelde opslag og konti, der delte de falske billeder, dels lægge masser af rigtige billeder og filmklip af popsangeren ud sammen med ordene »beskyt Taylor Swift«.
Kraftig advarsel fra Indien
X – det tidligere Twitter, som multimilliardæren Elon Musk købte i oktober 2022 for 332 milliarder kroner og hurtigt skar voldsomt ned i bemandingen på – er dermed blevet det seneste eksempel på, hvor svært det nu er for de sociale medier at navigere i kampen mod såkaldte deepfakes, altså realistiske billeder og filmklip skabt ved brug af kunstig intelligens (ai) i overbevisende kvalitet, og hvor typisk kendte mennesker vises i kompromitterende eller misvisende situationer, uden at de har givet tilladelse til det.
Teknologien var også det helt store samtaleemne tidligere i januar på det verdensøkonomiske topmøde i Davos i Schweiz. Topchefen for den britiske bank Virgin Money, David Duffy, er blandt de dybt bekymrede og mener, at ai – med hjælp fra de nye kvantecomputere med superkræfter – »vil potentielt sætte økonomisk kriminalitet på steroider«, når svindlere blandt andet vil kunne imitere folks stemmer og måde at tale på til også andre sprog.
Ifølge den britiske organisation Cifas, der bekæmper svindel, er britiske banker allerede blevet ramt af svindel med deepfakes, hvor kriminelle typisk har anvendt falske videoklip til at slippe gennem bankernes onlinekontrol og åbne konti eller bestille kreditkort.
Samtidig advarer den indiske regering de sociale medier om, at de vil blive holdt ansvarlige for alle deepfakes, der offentliggøres på deres platforme, gennem »meget klare og tydelige regler« på grund af faren for misinformation over for verdens største befolkning.
»Vi er verdens største demokrati, og vi er naturligvis dybt bekymrede over den indflydelse, som aktører på tværs af grænserne har gennem misinformation og ved at bruge »deepfakes« til at skabe problemer i vores demokrati,« siger Rajeev Chandrasekhar, elektronik- og it-minister, til den britiske finansavis Financial Times.
Giganterne kæmper med beredskab
Han slår fast, at »når brugeren tillades fortsat at have den slags indhold publiceret, bryder platformen loven«.
I Indien, der senere i år skal til valg, har omkring 870 millioner af de 1,4 milliarder indbyggere adgang til internettet. Heraf bruger 600 millioner sociale medier, og Indien er et af de største markeder for såvel Facebook og WhatsApp fra Meta-koncernen som for Google og den Google-ejede videoplatform, YouTube.
Falske klip har allerede været brugt til at påvirke politik og valg i Storbritannien, Slovakiet, Nigeria, Sudan og Bangladesh.
De sociale medier kæmper for at have et beredskab på plads og har opsat regler for at bekæmpe falske billeder og falske videoklip. Meta-koncernen med også Instagram stiller ligesom X og TikTok krav om, at manipulerede billeder og film fjernes eller mærkes, og Meta og Google har for nylig indført krav om, at det skal oplyses, hvis politiske annoncer er blevet digitalt ændret.
Siden ai fik sit folkelige gennembrud globalt med åbningen af chatbotten ChatGPT fra selskabet OpenAI i november 2022, er der kommet en stribe værktøjer til, som alle kan bruge, og hvor man med få klik kan få teknologien til at skabe et billede eller en film, hvor der manipuleres med kendte mennesker, herunder politikere.
Samtidig er teknologien blevet langt mere avanceret, hvorfor det bliver stadig sværere at skelne falske billeder og film fra den ægte vare.
En undersøgelse fra 2023 viste, at der var sket en stigning på 550 procent i skabelsen af tilpassede billeder siden 2019, og at det netop er ai, der er motoren bag stigningen.
»En lidt skummel tendens«
Balladen om de falske billeder af Taylor Swift nåede også til Det Hvide Hus i Washington. Her blev spredningen af billeder skabt med ai kaldt for »alarmerende«. Pressesekretær Karine Jean-Pierre slog fast, at der bør være lovgivning, som tager hånd om misbrug af ai på sociale medier, og understregede, at platformene selv skal tage skridt til at forhindre, at den slags bliver offentliggjort.
»Vi mener, at de har en vigtig rolle at spille med at håndhæve deres egne regler for at forhindre spredning af misinformation og intime billeder af virkelige mennesker uden samtykke,« sagde hun.
På Davos-topmødet var der stor opmærksomhed på risikoen for, at kunstig intelligens lægger øget pres på sikkerheden, fordi også hackerne får nye kræfter til rådighed.
»Der er fordele med ai knyttet til at kunne effektivisere og automatisere virksomheder men også bagsider ved sikkerheden, når man bruger flere og flere data,« sagde topchefen for den norske telegigant Telenor, Sigve Brekke, til nyhedsmediet E24 og beskrev det som »en lidt skummel tendens«.
Alene i Norge har 130.000 virksomheder i 2023 været ramt af cyberangreb.
»Det viser, hvor hurtigt tingene går. Og så kan man bare tænke på, hvordan det kommer til at accelerere videre i tiden, som kommer,« tilføjer teletopchefen, som dog samtidig ser masser af – gode – muligheder i den nye teknologi.
