Microsoft beklager racistisk chatbot

Det vakte store øjne, da Twitter-boten Tay i sidste lod sig påvirke af internetstøj og pludselig mente, at Holocaust aldrig havde fundet sted. Nu beklager Microsoft for deres lidt for let-påvirkelige chatbot

Lørdag udsendte Microsoft en officiel undskyldning efter sidste uges meget omtalte svipser, hvor sexistiske og racistiske tweets i stride strømme flød fra Twitter-profilen Tay. Fold sammen
Læs mere
Foto: SHANNON STAPLETON

Lørdag udsendte Microsoft en officiel undskyldning efter sidste uges meget omtalte svipser, hvor sexistiske og racistiske tweets i stride strømme flød fra Twitter-profilen Tay. Det skriver The Guardian.

Det kunstige intelligent-program Tay var specieludviklet til at kommunikere i en frisk og ungdommelig tone tiltænkt det yngre publikum - et eksperiment i ”kunstig interaktion” med webbrugere i afslappede samtaler. Det skriver Version2.

Sådan gik det bare ikke. I stedet fik chatbot'en i løbet af dens 16 timers korte levetid blandt andet hyldet nazismen, sammenlignet feminisme med kræft og påpeget at Holocaust aldrig fandt sted.

Efter længere tids sporadiske fornærmelser fandt Microsoft det torsdag nødvendigt helt at lukke profilen.

»Vi er dybt beklaget over de fornærmende og sårende tweets fra Tay, som hverken repræsenterer hvem vi er eller hvad vi står for, og heller ikke hvordan vi designede Tay«, skrev Microsofts forskningschef Peter Lee i en meddelelse på Microsofts hjemmeside fredag.

Tay var udviklet til konstant at oplære nye sproglige færdigheder og sætningskonstruktioner baseret på hvad brugerne skrev. Peter Lee fremhæver, at flere brugere bevist forsøgte at påvirke bot'en i en negastiv retning i koordinerede angreb. Skriver Version2.

Ifølge Microsoft har man omvendt haft god succes med andre lignende chateksperimenter. Siden 2014 har chat-boten XiaoIce været benyttet af 40 millioner kinesere, og været kendt for dens gode samtaleevner, som løbende forbedres.

Tays profil er stadig åben, men blot tre af de oprindelige tweets står tilbage efter sidste uges fadæse.