Kunstig intelligens kan gøre os rigere – men udfordrer vores værdier

Hvis ikke vi beskytter humanismen og vores grundlæggende rettigheder, risikerer vi, at teknologiske fremskridt, som digitaliseringen kan give os, gør os fattigere og ikke rigere.

»Et eksempel, på hvor galt det kan gå, hvis man ikke har menneskerettighederne i fokus ved anvendelsen af kunstig intelligens, er det nye kinesiske social credit system. Her overvåger staten gennem digital teknologi borgerne og pointsætter deres adfærd gennem algoritmer.« Fold sammen
Læs mere
Foto: ANTHONY WALLACE

Den digitale udvikling, som vores samfund gennemgår i disse år, rummer mange fordele, der gør os rigere og vores tilværelse mere behagelig. Det skal vi være glade for. Men for at drage fuld nytte af denne udvikling, er det væsentligt at være opmærksom på nogle af de udfordringer af etisk og juridisk karakter, som disse nye teknologier indebærer. Heri ligger der også en mulighed. Ved at dataloger og jurister arbejder sammen, kan Danmark blive foregangsland, når det gælder udvikling af digital teknologi og kunstig intelligens, som er etisk og juridisk bæredygtig. På denne måde kan Danmark blive verdensførende inden for borgervenlig og samfundsansvarlig digital teknologi.

Nogle eksempler kan illustrere dette: En rivende udvikling er i gang inden for sundhedsteknologi. Det er i dag muligt gennem vævsprøver at tegne en genetisk profil for enkeltpersoner. Det er også muligt gennem data fra wearables - fx træningsure, smartwatches og aktivitetsmålere - at tegne en adfærdsprofil for den samme person. Med disse informationer kan kunstig intelligens designe medicin og behandling, der er optimeret til det enkelte individ.

Kombinationen af »big« person-data og analysen af, hvilken kemisk sammensætning, som vil være den mest optimale medicinske behandling for en given sygdom hos en patient, vil ikke være overskuelig for nogen læge. Kunstig intelligens kan derfor overtage diagnostik og foreskrivelse af behandlingsformer. Men samtidig mister læger adgang til den viden, der anvendes i diagnostik og behandling, fordi den akkumuleres i en algoritmisk black box.

»Det kræver tæt samarbejde mellem retsvidenskabelig og datalogisk forskning at udvikle teknologier, der kan fremme administrativ effektivitet uden at undergrave borgernes retssikkerhed.«


Hvordan håndterer man udviklingen af dette potentiale i et samfund, hvor medicinaludvikling er drevet af medicinalvirksomheder, hvis formål bl.a. er at skabe afkast til kapitalejere? Hvem skal have ret til at bruge de persondata, der udtrækkes i forbindelse med diagnose og medicinering? Hvilke procedurer skal man have for at godkende brugen af denne teknologi i sundhedsvæsenet – privat og/eller offentligt?

Pointen med at rejse disse spørgsmål er ikke at problematisere denne udvikling, men derimod at påpege, at teknologierne bringer nogle helt fundamentale juridiske og etiske problemstillinger i spil. Hvis vi ikke indtænker disse i takt med udviklingen af teknologien, risikerer vi enten at stå med dyre teknologier, der ikke kan bringes i anvendelse, fordi de juridiske og etiske problemstillinger ikke kan løses efterfølgende, eller vi risikerer at underminere grundlæggende værdier i vores sundhedssystem, fordi vi bringer teknologier i spil uden at forholde os til de juridiske og etiske udfordringer, som de rummer.

Retten til persondata

Et andet område, som er i rivende udvikling, er brugen af data indsamlet via smartphones og pc’er. Der er ingen grund til at nævne de mange sager vedrørende Google og Facebook for at erindre om, at den digitale revolution har medført skabelsen af nogle globale gigantvirksomheder, der har økonomier og viden om enkelt-individer, som kan måle sig med de stærkeste stater i verden. Dette har skabt betydelige udfordringer for den fri konkurrence og for adgangen for privatpersoner til at beskytte og eje viden om sig selv – begge dele noget, der kræver betydelig juridisk indsigt at håndtere, hvis den fortsatte udvikling skal skabe værdi for hele vores samfund og ikke blot enkelte mega-virksomheder.

Henrik Palmer Olsen. Foto: Lizette Kabré. Fold sammen
Læs mere

Men udfordringen er ikke kun økonomisk. Et eksempel på, hvor galt det kan gå, hvis man ikke har menneskerettighederne i fokus ved anvendelsen af kunstig intelligens, er det nye kinesiske social credit system. Her overvåger staten gennem digital teknologi borgerne og pointsætter deres adfærd gennem algoritmer. Herefter bruges disse point til at tildele og fratage borgerne forskellige rettigheder. Denne totale overvågning giver staten en magt, der alt for nemt kan misbruges.

Der kan være mange fordele ved, at offentlige myndigheder har omfattende viden om borgernes adfærd – fx bedre ressourcestyring, mere effektive infrastrukturer mv. – men den teknologi, der skal bruges til at opnå disse fordele, bør udvikles sammen med jurister, så der kan tages højde for teknologiernes skyggesider allerede ved udviklingen af nye digitale systemer.

Også inden for retsvæsenet selv sker der en rivende udvikling. I USA anvender flere domstole et system, som vurderer sandsynligheden for at dømte personer vil begå ny kriminalitet, hvis de løslades. Dommere anvender derfor systemet, når de skal vurdere, om de vil prøveløslade en person. Systemet bruges også som et led i strafudmålingen: Hvis man er fundet skyldig i en forbrydelse, og systemet vurderer, at der er en høj risiko for, at man vil begå nye forbrydelser i fremtiden, vil man blive idømt en længere fængselsstraf end ellers.

Sagsbehandling

En anden teknologi, der er under udvikling, er automatiseret sagsbehandling til den offentlige sektor. I Danmark er dette en af målene bag den politiske aftale om at fremme digitaliseringsparat lovgivning. Med kunstig intelligens kan man opbygge beslutningsunderstøttende systemer, som er baseret på maskinlæring. Det kunne eksempelvis være afgørelser i sager om adgang til sociale ydelser, skattefastsættelse eller miljøgodkendelse. Ved at finde mønstre i tidligere menneskelige afgørelser og kodning af lovgivning, kan en algoritme »læse«, hvilke forhold der fører til hhv. imødekommelse og afslag på fx en ansøgning om en social ydelse. Ved at opnå information om alle forhold i alle tidligere afgørelser vil systemet kunne foreslå afgørelser i nye sager i overensstemmelse med mønsteret i de tidligere afsagte sager. Dette kan skabe større lighed og en hurtigere og billigere administration. Systemer af denne type er allerede taget i brug i den private sektor – fx i forbindelse med kredit- og forsikringsvurderinger.

»Selv om digitaliseringens goder er mangfoldige, skal de implementeres med omhu, så de fremmer vores velfærd. Ikke kun i økonomisk forstand, men også i menneskelig forstand, så vi bevarer humanismen og vores grundlæggende rettigheder.«


Udfordringen ved disse teknologier er, at algoritmerne måske nok er baseret på statistisk set retvisende data, men de indfanger ikke nødvendigvis det juridisk rigtige. Hvor juridiske processer er bygget op om at sikre det enkelte individ en retfærdig afgørelse, er kunstig intelligens i højere grad baseret på sandsynligheder beregnet på generaliseret adfærd. Men frekvens er ikke det samme som relevans, og ikke alle juridiske vurderinger kan omsættes til entydige datapunkter, der kan kvantificeres.

Ved brug af kunstig intelligens anvendt på store og komplekse data er der endvidere den udfordring, at man ikke har adgang til de beregninger, der har ført til resultatet. Ved at indføre algoritmebaseret afgørelser, risikerer man at undergrave borgernes ret til at modtage en begrundet afgørelse. Det kræver derfor tæt samarbejde mellem retsvidenskabelig og datalogisk forskning at udvikle teknologier, der kan fremme administrativ effektivitet uden at undergrave borgernes retssikkerhed.

Eksemplerne ovenfor viser, at selv om digitaliseringens goder er mangfoldige, skal de implementeres med omhu, så de fremmer vores velfærd. Ikke kun i økonomisk forstand, men også i menneskelig forstand, så vi bevarer humanismen og vores grundlæggende rettigheder. Hvis ikke vi beskytter disse værdier, risikerer vi, at teknologiske fremskridt, som digitaliseringen kan give os, gør os fattigere og ikke rigere. Derfor bør politikere og fonde, der investerer i forskning, prioritere den tværvidenskabelige forskning, som kobler de teknologiske videnskaber til de juridiske og humanistiske discipliner. Netop i dette krydsfelt kan Danmark udmærke sig og opbygge en international styrkeposition til fordel for dansk økonomi og danske værdier.