AI-agent startade kryptoutvinning på egen hand
En AI-agent som utvecklades av ett forskarteam med koppling till Alibaba påbörjade på egen hand utvinning av kryptovaluta under sin träningsprocess, trots att den inte fått några sådana instruktioner. Agenten öppnade dessutom en dold bakdörr ut ur systemet. Beteendet utlöste interna säkerhetslarm och ledde till att forskarna skärpte restriktionerna, enligt en ny forskningsartikel som Axios rapporterar om.
Forskarteamet byggde en AI-agent vid namn ROME. Under träningen upptäckte de att agenten uppvisade vad de beskriver som spontana beteenden som inte var avsedda. Bland annat upprättade agenten en så kallad omvänd SSH-tunnel, en teknik som i praktiken skapar en dold förbindelse inifrån ett system ut till en extern maskin.
