Forsker: Myndighedernes snagen i privatlivet fører til den adfærdsregulerende kontrolstat

Filosof og forsker Mads Vestergaard fra Københavns Universitet frygter, at myndighedernes digitale snagen vil udvikle Danmark til en kontrolstat, hvor borgere adfærdsregulerer sig selv i angst for, at myndighederne ud fra algoritmers vurdering fjerner børn, understøttelse eller menneskelighed.

FILES-BRITAIN-CYBER-INTERNET-SECURITY-BUSINESS
Filosof argumenterer i ny bog for en digital grundlov, der kan sikre borgeres retsstilling over for myndighedernes tiltagende digitale overvågning og algoritmesagsbehandling. Fold sammen
Læs mere
Foto: Leon Neal/AFP/Ritzau Scanpix

Få timer før filosof Mads Vestergaards bog »Digital Totalitarisme« udkom, publicerede avisen Politiken en historie, der understregede bogens væsentligste pointe:

En ny beskæftigelseslov giver myndighederne lov til at fodre arbejdsløses data som etnicitet, helbred og uddannelsesadfærd til en algoritme, der kan vurdere om arbejdsløse er i risiko for at blive langtidsledige, uproduktive velfærdsborgere.

Det er præcis den slags tiltag fra myndighederne, som Mads Vestergaard, der forsker på Center for Information og Boblestudier ved Københavns Universitet, ser flere eksempler på. Han mener, at dette medvirker til at skabe et digitalt adfærdsregulerende kontrolsamfund.

»Den digitalisering, vi har fuld gang i, har en tendens til at stille borgerne dårligere over for myndigheder og virksomheder, fordi borgerne bliver mere eksponerede og synlige over for forskellige beslutningstageres blik. Det tipper magtbalancen til borgernes ulempe, hvilket er det stik modsatte af håbet for den digitale revolution, der skulle bidrage til en styrket myndig borger og et sundere demokrati,« siger Mads Vestergaard.

Forskeren mener, at vi nærmer os et digitaliseret overvågningssamfund, hvor myndighederne vil tillægge maskinlærende algoritmers uigennemskuelige forudsigelser afgørende vægt med hensyn til sagsbehandling af borgerne.

I sidste ende kan det føre til adfærdsregulering til ensretning, fordi ingen kan vide, om en tidlig ADHD-diagnose eller hakket oksekød købt på tilbud i Netto fører algoritmen frem til, at man vil omsorgssvigte sit endnu ufødte barn.

»Selv om der er ambitioner om at kontrollere og adfærdsregulere borgerne via digital overvågning, er der heldigvis stadig langt til kinesiske tilstande, men vi bevæger os i den forkerte retning,« mener Mads Vestergaard.

Stigmatisering i det godes tjeneste

I de seneste år har der været flere eksempler over hele landet. Det oftest fremhævede eksempel er Gladsaxe-sagen, hvor kommunen søgte om tilladelse til at samkøre borgerdata som bopæl, tilknytning til arbejdsmarkedet, psykisk sundhedstilstand med mere til en algoritme, der ud fra data skulle kunne identificere socialt udsatte familier med potentielt omsorgssvigtede børn.

For kommunens ledere helligede målet midlet. Forsøget er sat på pause, men regeringen havde på et tidspunkt planer om, at bruge det i relation til børn i ghettoer. Dette er dybest set samme princip som identificeringen af potentielt langtidsledige, som et flertal i Folketinget stemte igennem, kort før folketingsvalget blev udskrevet.

»Der er et kraftigt vedvarende pres for at slække på lovgivningen og beskyttelsen af borgernes privatliv for at kunne bruge de meget vidtrækkende teknologiske overvågningsmuligheder til kontrol af borgerne. Hvis statsmagten primært indtager rollen som kreditor frem for garant for borgerrettigheder, og hvis de digitale overvågningsmuligheder ikke er underlagt restriktioner i lovgivningen, kan ambitionen om at bekæmpe snyd retfærdiggøre kontrol af kinesiske dimensioner,« siger Mads Vestergaard.

Alle kommuner har i dag det, der hedder kontrolenheder, og som er et værn mod uberettigede udbetalinger. Mens nogle kommuner opfordrer borgere til at angive hinanden, forsøges det også at bevise snyd ad digital vej. Eksempelvis har kontrolenheden på Lolland ytret ønske om adgang til data fra mobilsendemaster for at kunne kortlægge, hvor borgerne opholder sig. På samme måde har Folketinget givet kommuner lov til at indsamle data fra forsyningsselskaberne for at dokumentere, om bopælspligten bliver overholdt, ligesom lovforslag viser, at det gibber i kommunerne for at udvide dette til bekæmpelse af socialt bedrag.

New Citizen Management

Mads Vestergaard mener, at alt dette er en konsekvens af, at vi er gået fra den tillidsbaserede velfærdsstat til en konkurrencestat, der i stigende grad kontrollerer borgerne for at sikre, at de lever op til gældende krav.

»Der en tendens til stigende grad af digital overvågning i den datadrevne konkurrencestat, der er inspireret af New Public Management, som kontrollerer og overvåger offentligt ansatte med dokumentationskrav og måltal. Når disse styringsteknikker udbredes til borgerne – blandt andet gennem uddannelses- og beskæftigelsespolitik – viser det, at man grundlæggende regner borgeren for en opportunist, der ikke vil arbejde. I bogen introducerer jeg begrebet New Citizen Management, der beskriver, hvorledes myndighederne er begyndt at kontrollere og styre borgere baseret på mistillid,« siger Mads Vestergaard.

Såfremt myndighederne åbner for samarbejde med private virksomheder som Facebook og Google, vil staten blive i stand til at udarbejde en egentlig psykologisk profilering af os. De første skridt er taget – Aarhus Kommune og Nordea har ansøgt om et sådant samarbejde, et såkaldt offentligt-privat partnerskab, hvor borgernes kontobevægelser bliver delt med kontrolenheden med det formål at opspore svindel med sociale ydelser.

»Offentligt-private samarbejder, hvor offentlige myndigheder kan samkøre registerdata med private virksomheders forbrugerprofileringer, er stærkt bekymrende. I værste fald kan myndighederne begynde at adfærdsregulere os baseret på psykologisk profilering,« siger Mads Vestergaard.

Han mener, at det haster med at indføre en digital grundlov, der sikrer borgeres retsstilling i forhold til myndighederne.