I en ny rapport från FOI undersöks hat­budskap och våldsbejakande extremism i digitala miljöer. Rapporten är den första delredovis­ningen av ett regerings­uppdrag som FOI nu överlämnar till regeringen.

Den digitala miljön blir en allt viktigare arena för mänsklig kommunikation.

– Genom att analysera digitala miljöer kan vi skapa oss en större förståelse för hur tankegods sprids inom olika grupper. Mängden material gör att datorstödda metoder i princip krävs för analyser, och i denna första delrapport visar vi exempel på vilka resultat man kan nå genom lingvistiska analyser, artificiell intelligens och maskin­inlärning säger Lisa Kaati, forskare vid FOI och projektledare för regeringsuppdraget.

Rapporten ger en inblick i hur företrädare för olika vålds­bejakande ideologier presenterar sina budskap på internet. Den visar exempel från tre välkända internationella national­radikala diskussionsforum och även en studie av förekomsten av ett narrativ i svenska invandrings­kritiska alternativmedier. Utöver exemplen från de olika miljöerna innehåller rapporten beskriv­ningar av de metoder som kommer att användas i arbetet framöver.

En del av forskningen handlar om hur man med hjälp av datorer kan upptäcka olika former av dolda varnings­beteenden som finns i skriftlig kommunikation hos ensamagerande våldsverkare.

– Det här är ett arbete som känns oerhört viktigt nu med tanke på allt som händer runt om oss i världen, konstaterar Lisa Kaati.

Alla analyser som utförs är av etiska och juridiska skäl begränsade till sådant material som är öppet och tillgängligt för alla.

– Nu fortsätter arbetet för fullt med olika analyser. Bland annat tittar vi på hur man automatiskt kan klassificera vad propaganda handlar om och hur olika digitala miljöer reagerar på händelser i riktiga världen, avslutar Lisa Kaati.

Regeringsuppdraget ska slutredovisas i mars 2019.