I veckan testade den amerikanska militären en drönare med AI. AI:n instruerades att slå ut motståndarens luftförsvarsystem, men gick till attack och ”dödade” sin operatör.
Ett amerikanskt militärt drönartest med artificiell intelligens har nyligen utförts.
AI:n fick i uppdrag att förstöra motståndarens luftförsvarssystem. Det var en obemannad drönare som testades i simulering, men testet gick inte som det var tänkt, skriver The Guardian.
När operatören gav nya instruktioner som gick emot vad som då var det ursprunliga uppdraget, vände sig den simulerade drönaren mot instruktören och attackerade den istället.
–Den dödade operatören eftersom den personen var ett hinder för att uppnå målet, säger Tucker Hamilton, chef för AI-tester inom USA:s flygvapen.
Det gick inte att stoppa AI:n genom att instruera den att inte döda operatören, istället gick den till attack mot kommunikationstornet.
