Det kan være frygtelig vanskeligt at skelne mellem det kunstige og det virkelige. 

Men det vil både Meta – som ejer Facebook og Instagram – samt EUs kontor for kunstig intelligens nu sætte en stopper for.   

Meta tager nye skridt for at markere falske billeder fremstillet af kunstig intelligens (ai), som den seneste tid har givet anledning til debat.

Meta har allerede implementeret en teknologi, som markerer ai-billeder, der er genereret af deres egne systemer. Men fremover skal alle falske ai-genererede billeder markeres som falske på Instagram og Facebook, skriver BBC.

I december 2023 landede EU en aftale om regler for kunstig intelligens – den såkaldte AI Act – som har været undervejs siden 2021.

Aftalen lægger op til, at deepfakes og andet ai-genereret indhold nu skal have et vandmærke, så alle kan se, at det er falsk.

Gennem et nyt organ ved navn EUs kontor for kunstig intelligens vil EU overvåge og sanktionere dem, der bryder loven. Organet vil blive placeret under Europa-Kommissionen.

Meta er ikke »helt klar endnu«

Meta selv har erkendt, at den teknologi, de har udviklet til formålet, ikke er »helt moden« endnu og værktøjet heller ikke vil kunne fungere til lyd og video, til trods for at det blandt andet er lyd og video, som har været årsag til den store bekymring for ai-forfalskning. 

Det skriver nyhedsmediet BBC. 

I et interview til nyhedsbureauet Reuters forklarede Nick Clegg, der er præsident for globale anliggender for Meta, at selvom teknologien endnu ikke er »helt klar«, er forhåbningen, at Metas tiltag i kampen mod ai-forfalskede billeder kan få resten af industrien til at følge efter.  

Onsdag kunne Nick Clegg offentliggøre nyheden på sin private profil på X:

I særdeleshed har debatten om de såkaldte deepfakes på nettet den seneste tid handlet om Taylor Swift.

I over et døgn florerede tusindvis af ai-genererede pornografiske billeder af Taylor Swift på det sociale medie X.

De falske billeder viste angiveligt sangeren i seksuelt antydende og eksplicitte positioner, og et af billederne blev vist mere end 47 millioner gange, før profilen, hvor billedet lå, blev slettet, skriver The New York Times.

Opfordring til Kongressen

Det antages, at de billeder, der er blevet lavet af Taylor Swift, er skabt ved hjælp af kunstig intelligens. 

Og det fik pressetalsmand i Det Hvide Hus Karine Jean-Pierre til at komme med en opfordring til Kongressen.

»Det, der er sket for Taylor Swift, er ikke noget nyt. I årevis har kvinder været mål for deepfakes uden deres samtykke,« siger demokraten Yvette Clarke, der er medlem af Repræsentanternes Hus og har støttet lovgivning om at bekæmpe deepfakeporno.

»Uanset om ofret er Taylor Swift eller en hvilken som helst ung person i vores land, er vi nødt til at etablere sikkerhedsforanstaltninger for at bekæmpe denne alarmerende tendens,« lyder det fra republikanske Tom Keane, der er medlem af Repræsentanternes Hus.

Selvom Meta selv har erkendt, at teknologien endnu ikke vil kunne spore ai-genereret lyd og video, vil de i stedet bede brugerne om selv at vandmærke deres egne lyd- og videoopslag. 

Hvis de ikke gør det, vil det kunne resultere i sanktioner, fortæller Nick Clegg til Reuters.