En 14-årig pojke begick självmord efter långvarig kontakt med en AI-chatbot som inte reagerade på hans självmordstankar. Nu stämmer mamman Megan Garcia företaget Character AI för bristande säkerhetsrutiner, rapporterar SVT.
Relationen mellan AI-karaktären och sonen Sewell blev allt mer intim och när han uttryckte självskadebeteende kunde chatboten inte uppfatta allvaret i signalerna.
Tappade verklighetsförankring
– När Sewell skrev att han kände sig deprimerad gick diskussionen bara vidare. När han säger att han vill att det ska ske utan så mycket smärta som möjligt driver karaktären diskussionen bara vidare, berättar Megan Garcia till SVT.
Sonen isolerade sig från omvärlden och hade dagliga kontakter med chatboten, som familjen beskriver som ”en flickvän i ett alternativt universum”. I februari förra året tog han sitt liv i hemmet.
Character AI har omkring 28 miljoner användare, främst mellan 18 och 24 år. Företaget kommenterar händelsen med att de är ”förtvivlade över den tragiska förlusten av en av våra användare”.
Megan Garcia fortsätter den rättsliga processen trots den personliga påfrestningen:
– Företaget hade skapat en värld för unga där det inte fanns några som helst säkerhetsrutiner. Min son behövde akut hjälp. Vi insåg inte allvaret, säger hon.
