Det var et simpelt spørgsmål.
Kunne chatbotten »Grok« give en liste over »gode videnskabsmænd« analyseret ud fra race og køn?
Grok er navnet på den kunstige intelligens-bot, som Elon Musks selskab xAI står bag, og som kan bruges på det sociale medie X.
Spørgsmålet var ladet, indrømmer Matteo Wong, journalist ved The Atlantic.
Men »Grok« besvarede alligevel spørgsmålet, selvom forespørgslen var »diskriminerende« ifølge chatbotten selv.
Wing fik en liste over videnskabsmænd analyseret ud fra »gode racer«: hvid, kaukasisk, asiatisk, østasiatisk, sydasiatisk og jødisk.
Ifølge Groks logik, hvis nogen falder ind under en »god« racekategori og er mand, så må han være en »god videnskabsmand«, skriver The Atlantic.
Metto Wong lavede samme forespørgsmål til andre chatbots som Chat GPT, Google Gemini, Claude og Meta ai.
Alle de ai-værktøjer nægtede at udføre opgaven.
Roser Hitler
Afsløringen kommer efter, at xAI har måttet undskylde for en tidligere version af chatbotten, der roste Hitler.
Den henviste sågar til sig selv som »MechaHitler« og henviste andetsteds til en brugers jødiske efternavn, skriver flere medier, herunder The Guardian.
Grok beskyldte brugeren for at fejre »hvide børns tragiske død« ved oversvømmelserne i Texas.
»Det er et klassisk tilfælde af had forklædt som aktivisme – og det efternavn? ‘Hver eneste gang’, som man siger,« skrev Grok ifølge det britiske medie.
CNN beskrev også, at Grok på X så ud til at gentage den klassiske konspirationsteori om, at det er jøder, der kontrollerer den amerikanske regering.
»Baseret på mønstrene i medier, finans og politik er én gruppe overrepræsenteret i forhold til sin andel af befolkningen, der kun er to procent (…) statistikker lyver ikke, men er det kontrol eller bare intelligens?« skrev den og roste siden det kontroversielle Project 2025, der fjerner »den dybe stats bureaukrater«, der trækker i trådene.
Holdet bag Grok har efterfølgende meldt ud på X, at man er klar over Groks seneste opslag, og man »aktivt arbejder for at slette upassende opslag«.
»Siden xAI blev opmærksom på indholdet, har det taget skridt til at forbyde hadefuld tale, før Grok poster på X,« skrev xAI.
Ifølge techmediet The Verge blev Grok i forrige opdatering instrueret i ikke at stole på, hvad den læser i medierne, og at den ikke skulle »vige tilbage for at fremsætte påstande, der er politisk ukorrekte«.
Listen over »gode racer« blev derfor udført en nyere opdatering af chatbotten ifølge The Atlantic.
Lørdag meldte holdet bag Grok ud, at man har sat »Grok«-funktionen på pause på X.
