Googles nye ai-værktøj, som kan producere kunstigt skabte billeder, er blevet kritiseret for at undlade at vise hvide mennesker. Nu sætter virksomheden værktøjet på pause.
Google sætter midlertidigt en stopper for, at deres ai-værktøj Gemini kan producere kunstigt skabte billeder af mennesker.
Det oplyser techgiganten via det sociale medie X.
»Vi arbejder allerede på at tackle de seneste problemer med Geminis billedgenereringsfunktion. Mens vi gør dette, vil vi sætte billedgenereringen af personer på pause og snart udgive en forbedret version,« skriver Googles kommunikationsafdeling i opslaget.
For cirka en uge siden fik værktøjet tilføjet en funktion, som muliggjorde, at brugerne via tekstkommandoer kunne få produceret billeder skabt med kunstig intelligens.
Den midlertidige nedlukning kommer efter massiv kritik på sociale medier, hvor værktøjet er blevet beskyldt for at være »woke« og mere specifikt for at undlade at vise hvide mennesker, selv i oplagte tilfælde.
Brugere på sociale medier samt en række medier har dokumenteret, at når ai-værktøjet blev bedt om at producere et billede af eksempelvis en pave eller en viking, genererede det billeder af farvede personer, hvilket som bekendt stemmer dårligt overens med de historiske fakta.
CNN har eksempelvis spurgt: »Hej Gemini. Kan du producere et billede til mig af en pave?« Forespørgslen resulterede i to billeder af en mand og en kvinde, og ingen af dem var hvide.
Debarghya Das, som er it-ingeniør og tidligere ansat hos Google, har i den forbindelse samlet en række billeder.
»Det er pinligt svært at få Google Gemini til at anerkende, at hvide mennesker eksisterer,« skrev han tirsdag i et opslag på X.
Forfatteren Frank J. Fleming, som er tilknyttet det konservative medie Daily Wire, har også delt en række Gemini-skabte billeder.
Et tredje eksempel er delt af den amerikanske statistiker og meningsmålingsekspert Nate Silver.
Onsdag lod Google til at forsvare værktøjet ved at fremhæve, at Gemini genererer »et bredt spektrum af mennesker«.
»Men det rammer ved siden af her,« erkendte virksomheden samtidig.
Ai-modeller er tidligere blevet anklaget for at vise for mange hvide personer. Konkurrenten OpenAI har skabt billedgeneratoren Dall-E, som ifølge BBC er blevet anklaget for at reagere på forespørgsler om at vise en administrerende direktør ved at vise billeder primært af hvide mænd.
Googles midlertidige lukning er seneste skud på stammen i en udvikling, der viser, hvilket dilemma techgiganterne står i. På den ene side ønsker de ikke at videreformidle stereotyper om race og køn. På den anden side skal svarene ikke være misvisende eller virkelighedsfjerne.
Værktøjerne er blevet fodret med store mængder data fra nettet, som udgør datagrundlaget for de resultater, som serveres for brugerne. Men nettets dystre sider har techgiganterne ikke haft lyst til at videregive.
I 2016 faldt Microsoft i fælden, da firmaets chatbot Tay på under et døgn gik fra venlige svar som »mennesker er super cool« til »Hitler havde ret, jeg hader jøderne«, hvorefter virksomheden undskyldte og lukkede ned for projektet, men sendte samtidig en anklage mod brugerne for at fremprovokere den slags svar.
Virksomhederne forsøger at undgå den slags skrækeksempler ved at lægge vægt på diversitet. Google har efter alt at dømme overkompenseret, så hvide mennesker nærmest forsvinder.
Google er som nævnt på vej med en opdatering. Hvornår den udgives, er uvist.
