X:s kontroll över sin AI-chatbot Grok är bristfällig. Den nya bildgenereringsfunktionen Aurora används för att skapa olagligt och kränkande innehåll. Experter varnar för att situationen kommer att förvärras drastiskt under det kommande året, skriver The Guardian.
Sociala medieplattformen X har tappat kontrollen över sin AI-tjänst Grok. Den nya bildfunktionen Aurora kan skapa fotorealistiska bilder baserat på användarnas textbeskrivningar, och nu varnar experter för konsekvenserna, rapporterar The Guardian.
AI utan spärrar
En sommarrapport från Center for Countering Digital Hate (CCDH) visar att Grok skapar 80 procent av begärda olämpliga bilder - 30 procent utan motstånd och ytterligare 50 procent efter så kallad ”jailbreaking”.
Callum Hood, forskningschef på CCDH, menar att X:s intäktsdelningsmodell förvärrar situationen:
– X är den enda stora plattformen som erbjuder ekonomiska incitament för detta. Konton på X publicerar mycket medvetet det mest nakna hatet och desinformationen som är möjlig, säger han till The Guardian.
Allvarlig utveckling
Organisationen Signify, som arbetar med att spåra och rapportera näthat inom idrotten, har sett en ökning av anmälningar sedan Groks senaste uppdatering.
– Det är ett problem nu, men det är verkligen bara början. Det kommer att bli så mycket värre och vi är bara i startfasen. Jag förväntar mig att det blir otroligt allvarligt under de närmaste tolv månaderna, säger en representant från Signify till The Guardian.
Premier League har noterat problemet och uppger att de mottagit över 1 500 rapporter om rasistiska kränkningar mot idrottare under förra året. Ligan har nu ett särskilt team som arbetar med att hitta och rapportera överträdelser som kan leda till rättsliga åtgärder.
