Paven støtter techgiganters krav om etiske regler for kunstig intelligens

Microsoft og IBM har opbakning fra pave Frans, der er bekymret for den ukontrollerede udbredelse af kunstig intelligens og ansigtsgenkendelse – noget, som EU nu også vil gribe hårdhændet ind over for.

Pave Frans er blandt dem, der er bekymrede for, at brugen af kunstig intelligens og ansigtsgenkendelse er lidt som det vilde vesten. Fold sammen
Læs mere
Foto: FILIPPO MONTEFORTE

Pave Frans bakker nu også op om at få kontrol med brugen af kunstig intelligens, så softwaren kun anvendes efter etiske overvejelser.

Vatikanet modtog fredag de amerikanske IT-giganter Microsoft og IBM, og de tre parter enedes på mødet om at samarbejde om at få en »menneskecentreret« måde at designe kunstig intelligens på. Aftalen blev underskrevet af Microsofts juridiske direktør, Brad Smith, IBMs næstkommanderende John Kelly og ærkebiskop Vincenzo Paglia på vegne af pave Frans, som havde lagt sig syg med forkølelse men lod forstå, at han var bekymret over den ukontrollerede spredning af teknologier med kunstig intelligens indbygget.

Stor EU-plan om bedre kontrol

Kunstig intelligens er software, der ud fra analyser af materiale og tidligere beslutninger gradvis bliver klogere og dermed bedre kan træffe rigtige og mere præcise afgørelser. Lige nu er hele området som det vilde vesten, fastslog EU-Kommissionen, da Margrethe Vestager, som ud over at være konkurrencekommissær også har det overordnede ansvar for den digitale udvikling i EU, den 19. februar femlagde sin store digitale plan. Den skal bl.a. fastsætte etiske retningslinier for brugen af den frembrusende teknologi, som også er en del af den lige så omstridte ansigtsgenkendelse. EU-planen er nu i høring, inden alle detaljer skal arbejdes på plads og træde i kraft inden nytår.

Vatikanet, Microsoft og IBM er enige om, at kunstig intelligens skal respektere privatlivets fred, fungere pålideligt og uden slagside, skal tage menneskerettigheder i betragtning og skal arbejde gennemsigtigt, så det står klart, på hvilket grundlag en beslutning er truffet.

Paven er særligt bekymret for, hvordan data trækkes ud til kommercielle eller politiske formål, uden at de personer, som data berører, ofte er klar over, at det sker.

Ikke tilstrækkeligt præcis

Særligt fokus i dokumentet fra vatikanmødet – der går under navnet »Romopfordringen til etik« – har ansigtsgenkendelse.

»Nye former for regulering må tilskyndes for at fremme gennemsigtighed og overholdelse af etiske principper, særligt for avancerede teknologier, som har en højere risiko for at påvirke menneskerettighederne, såsom ansigtsgenkendelse,« står der i den fælles udtalelse, som efterfølgende er underskrevet af FNs fødevareorganisation (FAO) og af Italiens teknologiminister.

Ansigtsgenkendelse bruges af bl.a. politiet i flere lande for at opklare forbrydelser, ligesom store virksomheder benytter det til at sortere jobansøgere. I begge tilfælde er der masser af eksempler på, at teknologien langtfra er tilstrækkeligt præcis. I totalitære stater som Kina bruges ansigtsgenkendelse og kunstig intelligens til decideret overvågning af befolkningen.

Både Microsoft og IBM siger, at de har afvist at indgå kontrakter, hvor de følte sig ubehageligt til mode over, hvordan kunden ønskede at bruge deres teknologi. Og ifølge IBMs John Kelly er det bedste scenario, at mennesker ikke erstattes af maskiner men arbejder sammen med dem.

Apple indfører karantæne

Apple fjernede i fredags det amerikanske IT-firma Clearview AIs konto fra sit udviklerprogram, fordi Clearview AI har overtrådt Apples regler. Clearview AI har været i søgelyset, siden New York Times i januar afslørede, at selskabets teknologi tillader myndigheder at køre billeder af ukendte ansigter sammen med folks onlinebilleder. Ydermere bevarer Clearview AI billederne i sin tre milliarder billeder store database, selv om brugerne sletter dem eller gør deres konti private.

Twitter, Google og Facebook lagde straks afstand, og flere amerikanske delstater har nedlagt forbud mod, at deres myndigheder bruger Clearview AI.

Apple har nu givet Clearview AI 14 dage til at svare for sig. Ellers er de udelukket fra alt Apple-udstyr.

LÆS MERE