Musks AI-verktyg får kraftig kritik
Bilder där kvinnor och barn framställs avklädda fortsätter att spridas via AI-verktyget Grok på plattformen X. Myndigheter i Storbritannien och EU har inlett granskningar, samtidigt som politiker kritiserar att lagstiftning ännu inte har trätt i kraft. ”Alla som använder Grok för att skapa olagligt innehåll kommer att drabbas av samma konsekvenser som om de laddar upp olagligt innehåll”, skriver Musk på plattformen X.
Manipulerade bilder som skapats med AI-verktyget Grok fortsätter att delas på X. Bilderna visar kvinnor och barn i underkläder trots att personerna inte har lämnat sitt samtycke. Funktionen har använts efter att användare laddat upp fotografier och begärt att kläder ska tas bort digitalt.
Storbritanniens kommunikationsmyndighet uppger att den har tagit kontakt med X och xAI. Myndigheten har även meddelat att den ska bedöma om en formell utredning behöver inledas, rapporterar The Guardian.
Forskning visar omfattningen
En analys genomförd av den Parisbaserade organisationen AI Forensics visar hur omfattande användningen varit. Organisationen granskade 50 000 omnämnanden av Grok på plattformen X och 20 000 bilder som genererats under perioden 25 december till 1 januari.
Mer än hälften av bilderna föreställde personer i minimal klädsel som underkläder eller bikini. Majoriteten var kvinnor som bedömdes vara under 30 år. Två procent av bilderna föreställde personer som verkade vara 18 år eller yngre, inklusive barn under fem år.
Även Europeiska kommissionen uppger att den granskar klagomål om att Grok används för att skapa och sprida sexuellt explicit material med minderåriga.
En talesperson för X skriver:
”Vi vidtar åtgärder mot olagligt innehåll på X, inklusive material med sexuella övergrepp mot barn, genom att ta bort det, permanent stänga av konton och samarbeta med lokala myndigheter och brottsbekämpande myndigheter vid behov.”
Lagstiftning på gång i Storbrittanien
I Storbritannien är skapande av nakenbilder på barn olagligt. När det gäller deepfakes av vuxna är rättsläget mer komplicerat. En lag som gör det olagligt att skapa eller begära intima bilder utan samtycke antogs i juni, men bestämmelserna har ännu inte trätt i kraft.
– Regeringen har upprepade gånger dragit efter och vägrat att ge en tidslinje för när dessa viktiga bestämmelser kommer att träda i kraft. Vi har inte råd med fler förseningar. De som överlevt detta övergrepp förtjänar bättre. Ingen ska behöva leva i rädsla för att deras samtycke ska kränkas på detta fruktansvärda sätt, säger den konservativa ledamoten Charlotte Owen.
På andra sidan av politiken låter det annorlunda.
– Det är upp till Elon Musk att inse att detta är en form av sexuella övergrepp och vidta lämpliga åtgärder. Det är att ta en bild av kvinnor utan deras samtycke och klä av dem för att förnedra henne, det finns ingen annan anledning att göra det än att förödmjuka, säger Labour-ledamoten Jess Asato.
Indien sätter tidspress
Indiens regering har beordrat X att genomföra omedelbara förändringar i AI-chatboten Grok efter senaste tidens uppgifter om generering av sexualiserat innehåll. Ordern innehåller både tekniska krav och ett tidsatt rapporteringskrav, med varning om rättsliga konsekvenser vid bristande efterlevnad, rapporterar Techcrunch.
”Det upprepas att bristande efterlevnad av ovanstående krav ska tas på allvar och kan leda till strikta rättsliga konsekvenser mot er plattform, dess ansvariga tjänstemän och de användare på plattformen som bryter mot lagen, utan ytterligare meddelande”, skrivs det i ordern.
Regeringen har gett plattformen 72 timmar på sig att redovisa vilka åtgärder som har genomförts för att förhindra att sådant material lagras eller sprids. I ordern framgår att underlåtenhet att följa kraven kan äventyra X:s så kallade safe harbor-skydd, som annars ger juridisk immunitet för användargenererat innehåll.
Samtidigt pågår rättsprocesser där X ifrågasätter delar av Indiens innehållsregler och menar att statens befogenheter att ta bort innehåll riskerar att bli för långtgående. Plattformen har dock följt en majoritet av blockeringsdirektiven.
