Minister kräver att Musk stoppar AI-verktyget Grok
Elon Musk uppmanas av en brittisk minister att omedelbart stoppa AI-verktyget Grok från att generera sexualiserade deepfake-bilder av barn och kvinnor, rapporterar Daily Mail.
Brittiska teknikministern Liz Kendall kräver att Musk vidtar brådskande åtgärder efter att flera fall uppdagats där systemet har använts för att skapa sexualiserade bilder av verkliga personer.
– Det vi har sett på nätet de senaste dagarna är fullständigt avskyvärt och oacceptabelt i ett anständigt samhälle, sa Liz Kendall under dagen, enligt Daily Mail.
Tillsynsmyndigheten Ofcom har redan begärt att X och xAI redogör för vilka åtgärder som vidtas för att uppfylla lagkraven om skydd av brittiska användare på den sociala medieplattformen.
Krav på omedelbar handling
Ministern varnar för att spridningen av dessa nedvärderande bilder, som oproportionerligt riktar sig mot kvinnor och flickor, inte kan tolereras.
– Ingen ska behöva uppleva att se intima deepfakes av sig själv på nätet. X måste hantera detta omedelbart, sa Kendall.
Hon bekräftar att Ofcom har hennes fulla stöd att vidta nödvändiga åtgärder.
- förhindra och ta bort material som visar sexuella övergrepp mot barn
- blockera AI-genererade pornografiska bilder av personer utan samtycke
Grok erkänner problemet
Användare av X har påvisat flera fall där oskyldiga bilder av kvinnor och unga skådespelerskor manipulerats av Grok efter att användare bett systemet att digitalt ta bort eller ändra kläder.
Ett inlägg från Groks officiella konto på X medger att isolerade fall förekommit där användare har begärt och fått AI-bilder som visar minderåriga i minimal beklädnad.
Kontot uppger att xAI har skyddsåtgärder på plats, men att förbättringar pågår för att helt blockera sådana förfrågningar.
Myndigheter utreder
Ofcom har kontaktat X och xAI med krav på svar om vilka åtgärder som vidtas, men har ännu inte inlett någon formell utredning.
– Vi är medvetna om allvarliga farhågor kring en funktion i Grok på X som producerar avklädda bilder av människor och sexualiserade bilder av barn, uppgav en talesperson för tillsynsmyndigheten.
Kerry Smith, chef för brittiska Internet Watch Foundation (IWF), bekräftar att organisationen har mottagit rapporter från allmänheten om misstänkt material som rör sexuella övergrepp mot barn på X, skapat av AI-chattboten Grok.
Hon uppmanar regeringen att kräva att AI-företag bygger in robusta säkerhetsåtgärder i sina produkter för att förhindra skadligt innehåll.
När xAI kontaktades för en kommentar om de sexualiserade bilderna av barn svarade företaget med ett automatiskt genererat mejl där det, enligt uppgift, påstods att etablerade medier ljuger.
Inrikesdepartementet meddelar att ny lagstiftning är på väg för att förbjuda verktyg som skapar nakenbilder i alla former, inklusive AI-modeller för detta ändamål. Företag eller individer som utvecklar eller tillhandahåller sådana verktyg riskerar fängelsestraff och betydande böter.