Facebook forsøger at sælge mig briller, og jeg bruger ikke briller. Google, det skvat, tror, at jeg har lyst til at flyve til USA med SAS.

Det hedder sig ellers, at internettets giganter - Google, Facebook, Microsoft, Amazon, og hvad de nu ellers hedder - malker deres brugere for data, som algoritmer og robotter bearbejder for at sælge de samme brugere ting, de ikke vidste, de havde brug for.

Algoritmerne kender os bedre, end vi kender os selv, hører man tit. Optimisterne mener, at det er fantastisk. Vi kan opdage problemer - som sygdomme, eksempelvis - tidligere, eller vi kan opdage behov eller tjenester, der kan gøre vores liv lettere. Facebook kan fortælle mig, at jeg bør få tjekket mine øjne, før jeg sidder foran skærmen med hovedpine og undrer mig over, hvad der er galt.

Skeptikerne mener til gengæld, at vores allesammens privatliv er ophævet, og at algoritmerne ensretter os og isolerer os i holdningssiloer.

Det er ikke kun internettets dommedagsprofeter, der mener, at dataindsamling og bearbejdning er blevet et problem. 25. maj 2018 træder EU's nye persondataforordning i kraft, og så bliver der sat grænser for, hvilke data tech-firmaer må indsamle og bearbejde, og alle individer får ret til at vide, hvilke data firmaer har indsamlet om dem.

»Der vil givetvis komme flere kæmpestore bøder til Facebook og Google,« siger Gry Hasselbalch.

Hun er medstifter af den uafhængige tænketank DataEthics.eu, hun er uafhængig dataetisk ekspert for EU-Kommisionen, og så arbejder hun sammen med verdens største forening for ingeniører og tekniske profesionelle IEEE om etik i kunstig intelligens. Det er de ingeniører, som bygger algoritmerne og den kunstige intelligens, der bearbejder de enorme mængder data, som bliver indsamlet, når du og jeg bruger internettet. I disse dage deltager hun i Techfestival, som har skrevet HUMAN på adgangsarmbåndet, og det skal forstås som modsætning til en data-funktion.

»Men det er vigtigt at forstå, at EU's persondataforordning egentligt bare er et symptom på en udvikling, der allerede er i gang,« forklarer hun.

Reklamer har drevet udviklingen

»Den måde internettet har udviklet sig på, er ret tilfældig. Udviklingen er drevet af virksomheder, som skulle finde en måde at tjene penge på. Med internettet havde man fundet en måde at målrette reklamer direkte til folk. Ethan Zuckermann, som skabte en af de første tjenester på internettet, kalder internettet juleaften for reklamefolk. Man gav folk en gratis tjeneste, som gav firmaerne en indsigt i de potentielle forbrugere, og så kunne man virkeligt ramme præcist med reklamer i forhold til tidligere,« fortæller Gry Hasselbalch.

»Og så har interettet udviklet sig derfra og er vokset. Det har sneget sig stille ind på os og definerer nu politiske relationer, det definerer vores identitet som mennesker, det definerer kultur og begrænser også kultur. Hele vores økonomi er opbygget omkring algoritmer og indsamlet data. Uden vi rigtigt har opdaget det, er det her kommercielle marked blevet infrastruktur, som har stor betydning for samfundsstrukturer. Vel at mærke uden nogen form for politisk eller demokratisk styring,« forklarer hun.

Det er der ikke nødvendigvist noget ondt i, men algoritmer og kunstig inteligens, som bearbejder de enorme mængder af data, er altid lavet af nogen og med et formål, og da de påvirker millioner og nogle gange milliarder af mennesker, så det er naturligt, at politikere nu vil sikre demokratisk indfltydelse og regulere det.

»Det har jo altid været sådan, at der sker en udvikling, og så kommer den politiske regulation efterfølgende. Her går udviklingen bare utroligt hurtigt, men bort set fra det, er der ikke noget underligt i det,« konstaterer Gry Hasselbalch.

Matematisk destruktion

Så roligt er det ikke alle, der tager det. Medstifter af Pirate Bay, Peter Sunde, har her i Berlingske forbandet tech-giganternes enorme datahøst  og kaldt det for i en kapitalistisk revolution uden sidestykke.

Den amerikanske matematiker, Cathy O'Niel, har i bogen »Weapons of Math Destruction« sammenlignet udviklingen på datamarkedet med udviklingen i finansbranchen op til finanskrisen. Begge brancher forelsker sig i fejlbehæftede modeller, der ikke tager hensyn til menneskers uforudsigelighed, mener den amerikanske matematiker.

»Hensigten er at erstatte mennesker med datastier og gøre dem til mere effektive forbrugere, vælgere eller arbejdere. Mere og mere bekymrede jeg mig om adskillelsen mellem de tekniske modeller og rigtigte menneseker og om de moralske konsekvenser af den adskillelse. Faktisk så jeg samme mønster som i finansbranchen: En falsk følelse af sikkerhed fører til en udbredt brug af uperfekte modeller, personlig profit som succeskriterium og voksende feedback loops. Dem, der protesterede over udviklingen, blev kaldt nostalgiske maskinstormere,« skriver Cathy O'Neil.

Konsekvensen er i Cathy O'Neils matematiske fremskrivning et samfund, hvor få tech-giganter kontrollerer de algoritmer, der kontrollerer resten af befolkningen, som samtidigt bliver malket for de data, der gør det muligt at fastholde dette samfundsmønster.

Den israelske historiker Yuval Noah Harari går endnu længere og forudser menneskeartens udryddelse som en konsekvens af data. Homo Sapiens bliver erstattet af Homo Deus, som også er titlen på hans seneste bog.

Gry Hasselbalch forstår og roser analyserne, selvom hun ikke deler dommedagsprofetierne.

Frihed til kål-pizza

For en almindelig netbruger kan det virke langt væk. På Facebook og Google kan man downloade al den data, de to giganter har samlet om dig. Der er vanvittig meget information. Ligegyldige chats og likes, man har glemt alt om. Det, man ikke kan se, er, hvordan det hele bliver analyseret. Hvordan Facebook eksempelvis når frem til, at jeg har brug for briller. Selv ikke en kommerciel optiker, der på 20 minutter let kunne have solgt mig et par skærmbriller, kan svinge sig op til mere end minus en kvart på højre øje.

»Men det er jo også bekymrende,« siger Gry Hasselbalch.

»Hvis de samler data om dig og kommer frem til en profil, der ikke passer, hvad er dine muligheder så for at ændre den profil,« spørger hun retorisk.

»Det er et af de store problemer med den måde data bliver indsamlet og bearbejdet på. Det er uigennemsigtigt, og det er det dels for at undgå reguleing, og dels fordi private firmaer ikke bare deler deres viden med eventuelle konkurrenter,« forklarer hun, og det er det, EU vil gøre noget ved.

I USA ser verden ikke ud som i Europa, og på den anden side af Atlanten er forestillingen om, hvad de private sundhedsforsikringsselskaber bruger indsamlingen af persondata til, et tilbagevendende etisk dilemma. Prisen på en sundhedsforsikring kan ændre sig, hvis en personlig profil basseret på analyser af data når frem til, at man har problemer med øjnene.

Siden 2006 har en kampagnevideo mod Big Data cirkuleret på nettet. En mand ringer for at bestille pizza, og i den anden ende af telefonen ændrer robotten konstant prisen på pizzaen, efterhånden som flere og flere data bliver samkørt. Kundens sundhedsjournal gør en fed pizza dyr, men han kan slå lidt af prisen igen, hvis han benytter sig den rabatkode til et fitnesscenter, som hans kone har fået gennem et abonnement på et magasin. Robotten anbefaler dog den langt billigere kål-pizza, for den kan se, at familien lige har bestilt billetter til Hawaii og næppe har råd til både Hawaii, fitness og dobbeltkødpizza med sundhedstillæg.

Pointen er, at man i princippet har frihed til at gøre, hvad man vil, men i praksis vil dataanalysen kun efterlade et rigtigt valg: Kål-pizza. I praksis et tab af frihed.

Et nyt konkurrenceparameter

Gry Hasselbalch tror ikke på, at det kommer til at gå så galt. Den kapitalistiske udvikling, der skabte de datahøstende giganter, vil også skabe en modreaktion. Sammen med forfatteren Pernille Tranberg har hun skrevet bogen Dataetik - den nye konkurencefordel. Pointen står på sin vis i titlen.

»Vi bliver alle sammen mere bevidste om problemerne med masseindsamling af data, og hvis man ser på forbrugerundersøgelser, så kan man se, at forbrugere ikke bare bliver bevidste, men faktisk også begynder at ændre adfærd. Man kunne virkelig set det i forhold til Edward Snowdens afsløringer. Det var en slags Tjernobyl of Big Data. Lidt på samme måde, som vi alle sammen er blevet mere bevidste om miljøet, er vi i samfundet også blevet mere bevidste om indsamlingen af data, og vi er begyndt at reagere,« forklarer hun.

»I starten tænker virksomhederne, det er fantastisk. Data er et potentiale, så lad os indsamle så meget som muligt. Så kommer der en afsløring af en enkelt stats efterretningstjeneste, der sidder og holder øje med alt, vi laver. Der er en politisk og kulturel reaktion. Forbrugerne begynder at efterspørge produkter, der håndterer data forsvarligt. Vi kan se en opblomstring i virksomheder, der møder den efterspørgsel, og blandt de helt store ser vi f.eks., at Apple virkeligt prøver at gøre det til at konkurrenceparameter, at de ikke bygger deres forretningsmodel på indsamling af data. Så udviklingen er ved at ændre sig,« siger Gry Hasselbalch.

»Der er masser af måder at indrette teknologien på, så vi som mennesker selv får fordelene af vores egen data, uden at det skal deles med alle mulige, og det er der flere og flere, der er begyndt lave en forretning ud af.«

Det er det, hun mener, når hun siger, at EU's persondataforordning bare er et symptom på en større udvikling. De store internetjenester skal reguleres, ligesom banker skal, mener EU altså, og det giver muligheder.

»Den bevægelse, der er i gang, bliver forstærket af EU's regulering, som egentligt er et udtryk for et generelt ønske om demokratisk indflydelse på de algoritmer og de forskellige former for teknologier, herunder kunstig intelligens, der indsamler og håndterer vores data. Den generelle udvikling giver plads til nye forretningsmodeller, som ikke nødvendigvis er basseret på indsamling og analyse af enorme mængder data, men faktisk beskyttelse af data,« forklarer Gry Hasselbalch.

Der er dog langt igen, for ikke alene er dataforretningen vokset ureguleret længe, den har også nået et stadie, hvor få spillere sidder på markedet og fører heftig lobbyvirksomhed overfor politikere.

»Indtil videre har techfirmaerne siddet alene på udviklingen. Man har talt om stakeholdere, der skal tilgodeses, men virkeligheden har været et slags corpocracy eller technokrati, som gør, at den her verden er fuld af usynlige systemer, der bygget ud fra forretningsinteresser, og ikke ud fra samfundsinteresser. De usynlige systemer skal gøres synlige, så vi kan se, om der er modsætninger mellem de her ting. Noget af det er drevet af forbrugere, noget af det af lovgivere, men det er i fuld gang.«