Forskare vid Uppsala universitet har utvecklat ett nytt verktyg baserat på artificiell intelligens, AI, som bedömer risken för individer att begå våldsdåd som skolskjutningar och terrordåd. Polismyndigheter i olika länder, Google och LinkedIn har redan visat sitt intresse.
Verktyget Dechefrs mål är att upptäcka personer på nätet som har en förhöjd risk att slå till och begå våldshandlingar baserat på vad skrivit. Dechefr utgår från text som publicerats på nätet. Algoritmer analyserar texter som publicerats på sociala medier, diskussionsforum, SMS och chattar.
– Alla möjliga texter kan matas in och så får man fram en riskbedömning från 0 till 100, med koden grön, gul eller röd. De allra flesta är gröna. Ett problem med riskbedömningar är de fall som är svåra att bedöma, det gäller hela tiden att reducera de falskt positiva, säger psykologiprofessorn Nazar Akrami vid Uppsala universitet på dess hemsida.
Verktyget har tagits fram av psykologiprofessorn Nazar Akrami vid Uppsala universitet i samarbete med it-forskare och resulterat i företaget Mind Intelligence Lab. För att öka Dechefrs precision har algoritmerna fått ”träna” genom att analysera kända fall och en normalpopulation i ett samarbete med den federala polismyndigheten in USA, FBI.
Företaget Mind Intelligence Lab använder sig enbart av offentligt material.
– Vi går aldrig bakom lösenord. Vi använder öppna källor, öppna texter, understryker Akrami i en intervju med SVT Uppsala.
Identifiering av självmordsrisk och grooming
Under arbetets gång har Akrami märkt att algoritmerna och infrastrukturen som utvecklats går att använda till andra viktiga uppgifter. Verktyget Suicidescan som analyserar risken för självmord är nu under utveckling. Det är också ett program som förutspår oönskade beteenden som grooming av barn.
Varningssignalerna som snappas upp av AI-programmen har en träffsäkerhet på runt 95 procent. Därför är det alltid specialiserade analytiker som analyserar resultaten och fattar beslut.
– Att göra riskbedömningar är komplicerat och att oskyldiga flaggas eller att man missar potentiellt farliga individer alltid ett problem […] Vi låter inte vem som helst få använda verktygen. Det regleras noga, till exempel i avtal med analytiker, företag och sociala medier, säger Akrami till Uppsala universitet.
Läs även: Masskjutning på universitet i Ryssland – minst åtta döda
