»Vores største eksistentielle trussel«

Den kunstige intelligens kan udrydde menneskeheden, advarer den anerkendte fysiker Stephen Hawking. Danske eksperter maner til besindighed men erkender, at vores grundlæggende værdier er udfordret.

Bilferien blev for altid forandret, da GPS’en blev allemandseje. Det var endelig slut med at knibe øjnene sammen og med pegefingeren følge den tyske Autobahn på vejkortet ned gemmen Europa. Kortet blev overflødigt, og efterhånden kunne GPS’en endda navigere bilen uden om kilometerlange køer. Nu skulle man kun koncentrere sig om at følge den lille prik på skærmen, så klarede den kunstige intelligens resten.

Lige siden har teknologien udviklet sig hastigt, overtaget flere af vores opgaver, og vi er faktisk blevet afhængig af maskiner, der tænker selv.

Det har fået den fremtrædende britiske teoretiske fysiker, Stephen Hawking, i et interview med BBC til at advare mod kunstig intelligens, som, han mener, kan komme til at udgøre en trussel mod selve menneskehedens eksistens.

»Udviklingen af sand kunstig intelligens kan betyde enden for den menneskelige race,« lyder det fra Hawking.

Advarselen kom i forbindelse med en større opgradering af det avancerede system, han som lam kørestolsbruger anvender til at kommunikere og »tale« med ved hjælp af en syntetisk stemme. Systemet rummer nemlig en begyndende form for kunstig intelligens, der forsøger at lære, hvordan han tænker og på den måde kommer med forslag til, hvilke ord og sætninger han kunne tænkes at bruge.

Derfor frygter han, at den kunstige intelligens inden længe kan udvikle sig hurtigere end menneskets intelligens og gøre alle os mennesker overflødige for den selvlærende teknologi.

Teorien, Hawking hiver fat i, kaldes »teknologisk singularitet« og dækker over det øjeblik, hvor maskinernes intelligens svarer til eller ligefrem overgår menneskets. Nu frygter han, det kan blive den sidste store opdagelse for menneskeheden, hvis den kunstige intelligens overtager verdensmagten.

»Vi ville miste kontrollen med den (kunstige intelligens red.), og den ville redesigne sig selv med en konstant accelererende hastighed. Mennesker, der er hæmmet af langsom biologisk evolution, kan ikke konkurrere med kunstig intelligens og ville blive overgået,« siger Stephen Hawking.

Og han er ikke den eneste, der frygter den kunstige intelligens. Mangemilliardæren Elon Musk, manden bag e-handelstjenesten PayPal, elbilen Tesla og rumfartsvirksomheden SpaceX, har udtalt, at kunstig intelligens er »vores største eksistentielle trussel«.

»Indtil videre har vi været gode til at leve sammen med maskinerne. Men det er et muligt scenarie, at vi kommer til at opleve maskiner med kunstig intelligens, som er større end vores egen intelligens, og som kan agere på måder, vi ikke synes er hensigtsmæssige,« siger professor Henrik Schärfe, der er robotforsker ved Aalborg Universitet.

Selv om han betegner Hawkings frygt som en religiøs dommedagsprofeti, vil udviklingen af den kunstige intelligens ifølge ham antænde en tiltrængt, fundamental diskussion.

Videnskaben forventer nemlig, de intelligent maskiner snart vil gå fra at være et arbejdsredskab til selv at tage initiativ til sine arbejdsopgaver ved for eksempel operationsbordet eller foran skoleeleverne

»Derfor står vi over for nogle nye etiske overvejelser og diskussioner, som er fundamentalt anderledes end den, vi kender i dag. Når maskinerne selv tager initiativ i forskellige arbejdsopgaver, kan man næsten ikke kommen uden om, at en del af ansvaret også må tilskrives dem,« siger han.

Udviklingen betyder, man i forskningsmiljøer lige nu udarbejder modeller for ansvar, hvis en selvkørende bil eksempelvis involveres i et færdselsuheld. For er det personen i den selvkørende bil eller den kunstige intelligens, der er skyld i ulykken?

Thomas Ploug, der er medlem af Det Etiske Råd og professor i teknologietik ved Aalborg Universitet, frygter dog ikke, at den kunstige intelligens ligefrem truer menneskeheden, som Hawking forudser.

»Man har i mange år forsøgt at imitere menneskelig intelligens med den kunstige, og på nogle punkter er man kommet længere end den menneskelige intelligens, hvor computere med kunstig intelligens overstige menneskets, som når maskinen slår mennesker i skak,« siger han. Og udviklingen vil kun forsætte.

»Men,« fastslår han, »jeg er ikke bekymret og hører til de skeptiske i forhold til, hvor langt man kan nå med kunstig intelligens. Der er enormt mange aspekter af menneskelig intelligens, som gør vores intelligens unik og svær at imitere.«

Alligevel opfordrer Thomas Ploug verdenssamfundet til at diskutere brugen af intelligente robotter.

 

»Vi mennesker er truet, når vi giver robotter med kunstig intelligens mulighed for selv at træffe etiske valg.

Derfor bør der ifølge Thomas Ploug være klare begrænsninger for den kunstige intelligens: »Skal en drone slå folk ihjel, hvis de for eksempel bærer en Kalashnikov og befinder sig i Pakistan? Der er masser af tvivl og forudsætninger for at træffe det valg, og den afvejning skal mennesker altid involveres i.«