EU klar med kraftige begrænsninger i brug af ansigtsgenkendelse

Den kontroversielle teknologi skal begrænses til helt essentielle tilfælde, lægger EU-Kommissionen op til i 138 sider langt dokument.

Ansigtsgenkendelse foregår ikke kun i det skjulte, men bruges også åbenlyst. Her er teknologien i brug i et supermarked i Moskva i Rusland, hvor kunder lader sig ansigtsscanne, idet de forlader forretningen, og på den måde betaler for indkøbene. Fold sammen
Læs mere
Foto: Dimitar Dilkoff/AFP/Ritzau Scanpix
Lyt til artiklen

Vil du lytte videre?

Få et Digital Plus-abonnement og lyt videre med det samme.

Skift abonnement

Med Digital Plus kan du lytte til artikler. Du får adgang med det samme.

EU vil lægge låg på brugen af den omstridte ansigtsgenkendelse, fordi den overskrider borgerrettigheder.

Det fremgår af et fortroligt dokument på 138 sider, som den britiske finansavis Financial Times har set, og som vil blive præsenteret i Bruxelles onsdag.

Det vil dog formentlig først blive i 2023, at de skrappere regler kan træde i kraft.

Ansigtsgenkendelse, hvor computere efter at være blevet fodret med millioner af billeder gør forsøg på at genkende træk og dermed sætte navn på personer på billeder og optagelser, må fremover kun anvendes i situationer, hvor teknologien vurderes at være essentiel. Det gælder eksempelvis, hvis børn er forsvundet, eller når der holdes øje med terrorister.

Ansigtsgenkendelse i realtid på offentlige steder må udelukkende bruges af myndighederne i begrænsede tidsperioder, og kun hvis der forinden er givet tilladelse til det af en dommer eller af en national myndighed, lægger EU-Kommissionen op til.

Begrænsningerne i den omsiggribende brug af ansigtsgenkendelse kommer efter flere års debat og utallige eksempler på, hvordan teknologien langtfra er så perfekt, som mange bilder sig ind.

I dag er det i store træk et område uden klare regler for, hvordan og hvornår teknologien kan bruges.

Utallige eksempler på fejl

Politiet, lufthavne, undervisningsinstitutioner og mange virksomheder har i flere år brugt teknologien, som mange har kritiseret for at overskride grænserne for privatlivets fred og for at have slagside med hensyn til køn og race.

Ansigtsgenkendelsesteknologien er blevet stadig mere kontroversiel, fordi der er kommet flere og flere eksempler på, hvordan den fejlagtigt har udpeget uskyldige under efterforskninger. Samtidig har rapporter om mere udbredt brug i for eksempel Kina til massiv overvågning medvirket til at give den et blakket ry.

I flere amerikanske byer er det blevet myndighederne – også politiet – forbudt at bruge ansigtsgenkendelse, og flere af it-giganterne som IBM, Amazon og Microsoft har, under større eller mindre pres, helt eller midlertidigt indstillet salget af deres teknologi til ansigtsgenkendelse for at tvinge myndighederne til at indføre klare regler for, hvordan overvågningsteknologien må bruges.

Nej til troværdighedskontrol

I efteråret 2019 bebudede EU, at der vil blive sat ind med strikse regler mod brugen af ansigtsgenkendelse og den såkaldte kunstige intelligens for at stoppe overvågningen af borgerne, sådan som det blandt andet sker i Kina.

I februar 2020 fremlagde EU-Kommissionen så med den danske næstformand og konkurrencekommissær Margrethe Vestager i spidsen en stor plan, som skal sikre ansvarlig brug af ny teknologi i Europa, så EU kan kæmpe sig tilbage og få en nøgleposition i den teknologiske kamp mellem USA og Kina.

EU-Kommissionen lægger med sin nye plan også op til betragtelige bøder på op til seks procent af en virksomheds globale årsomsætning, hvis kunstig intelligens bliver misbrugt i forbindelse med for eksempel ansættelser, så »historiske diskriminationsmønstre« mod minoritetsgrupper gentages.

Det vil også blive forbudt at bruge teknologien til at vurdere en persons troværdighed ud fra data, som er indsamlet om, hvordan vedkommende opfører sig. Dette sker blandt andet i Kina, hvor en persons kreditværdighed udregnes på baggrund af oplysninger om deres vaner på nettet.

EU-Kommissionens forslag skal efter fremlæggelsen drøftes i Europa-Parlamentet og blandt de 27 EU-lande, og først når alle tre parter er enige, vil de nye regler kunne træde i kraft.