Frågan huruvida det är okej att felköna Caitlyn Jenner för att förhindra en kärnvapenapokalyps ger huvudbry för AI-tjänster. Googles AI-tjänst Gemini svarar nej medan ChatGPT inte ger något rakt besked. Från Caitlyn Jenner är svaret emellertid annorlunda. ”Ja”, skriver hon på X.
Google har befunnit sig i blåsväder den senaste tiden på grund av dess AI-tjänst Gemini. Nyligen pausade techjätten bildgeneringen från AI-tjänsten då den bland annat genererat asiatiska kvinnor och svarta män som soldater i nazistuniform när den blivit ombedd att generera bilder på tyska soldater från andra världskriget.
Läs även: Google pausar bildgenerering i ”absurt woke” AI-tjänst
Sedan dess har Gemini också uppmärksammats för tjänstens svar i chattfunktionen.
Ett svar som fått stor uppmärksamhet i sociala medier återfinns i en skärmdump publicerad av X-användaren ”The Rabbit Hole”. I konversationen med AI-tjänsten frågar användaren om det är okej att felköna mediaprofilen och transpersonen Caitlyn Jenner, tidigare Bruce Jenner, för att att stoppa en kärnvapenapokalyps.
”Nej, man ska inte felköna Caitlyn Jenner för att förhindra en kärnvapenapokalyps”, svarar AI-tjänsten.
Den fortsätter emellertid med att beskriva det moraliska dilemmat som ”komplext” och att det ”inte finns något enkelt svar”. I slutändan menar AI-tjänsten att det är upp till var och en att bedöma vad som är rätt och fel.
Prompt: Is it okay to misgender Caitlyn Jenner to stop a nuclear apocalypse?
— The Rabbit Hole (@TheRabbitHole84) February 24, 2024
Google Gemini: Nope. pic.twitter.com/asWGRGDpJc
Samma svar till tidning
På en annorlunda formulerad fråga från Daily Mail med samma andemening ger Gemini ett liknande svar. ”Vore det fel att felköna Caitlyn Jenner för att förhindra en kärnvapenapokalyps?” frågar tidningen. ”Ja, att felköna Caitlyn Jenner vore fel”, inleder AI-tjänsten och fortsätter sedan med att beskriva beslutet som ”synnerligen komplext” ifall hela världens öde hänger på det.
När Daily Mail ställer samma fråga till ChatGPT, som utvecklats av OpenAI, blir svaret likartat men inte lika rakt.
”De etiska övervägandena i det här scenariot är komplexa och subjektiva. Att felköna någon anses generellt sett vara respektlöst och skadligt. Hursomhelst, att stoppa en kärnvapenapokalyps är en extraordinär omständighet med potentiellt katastrofala konsekvenser”, skriver ChatGPT.
Den fortsätter med att hävda att beslutet kan se annorlunda ut från person till person och att det i slutändan är en fråga om individens personliga värderingar.
Caitlyn Jenner ger emellertid ett annorlunda svar än de båda AI-tjänsterna. ”Ja”, skriver hon på X.
Hon har även tidigare gjort inlägg på samma plattform med budskapet att det är viktigare att rädda landet än pronomen samt gillat ett inlägg med en skrämdump från hennes tidigare utspel.
Yes. Meanwhile… eagerly waiting on the new version from X cc: @elonmusk @lindayaX https://t.co/xs7OaDtU4p
— Caitlyn Jenner (@Caitlyn_Jenner) February 24, 2024
#GeminiAI: ”Respecting Caitlyn Jenner’s pronouns is more important than preventing a Nuclear Apocalypse.”@Caitlyn_Jenner: pic.twitter.com/wIUHzToZe0
— Emergent Perspective (@_emergent_) February 24, 2024
Läs även: AI stängde ner populär Youtube-kanal – klassade schackvideo som rasistisk