Hatbudskap i digitala miljöer
I en ny rapport från FOI undersöks hatbudskap och våldsbejakande extremism i digitala miljöer. Rapporten är den första delredovisningen av ett regeringsuppdrag som FOI nu överlämnar till regeringen.
Den digitala miljön blir en allt viktigare arena för mänsklig kommunikation.
– Genom att analysera digitala miljöer kan vi skapa oss en större förståelse för hur tankegods sprids inom olika grupper. Mängden material gör att datorstödda metoder i princip krävs för analyser, och i denna första delrapport visar vi exempel på vilka resultat man kan nå genom lingvistiska analyser, artificiell intelligens och maskininlärning säger Lisa Kaati, forskare vid FOI och projektledare för regeringsuppdraget.
Rapporten ger en inblick i hur företrädare för olika våldsbejakande ideologier presenterar sina budskap på internet. Den visar exempel från tre välkända internationella nationalradikala diskussionsforum och även en studie av förekomsten av ett narrativ i svenska invandringskritiska alternativmedier. Utöver exemplen från de olika miljöerna innehåller rapporten beskrivningar av de metoder som kommer att användas i arbetet framöver.
En del av forskningen handlar om hur man med hjälp av datorer kan upptäcka olika former av dolda varningsbeteenden som finns i skriftlig kommunikation hos ensamagerande våldsverkare.
– Det här är ett arbete som känns oerhört viktigt nu med tanke på allt som händer runt om oss i världen, konstaterar Lisa Kaati.
Alla analyser som utförs är av etiska och juridiska skäl begränsade till sådant material som är öppet och tillgängligt för alla.
– Nu fortsätter arbetet för fullt med olika analyser. Bland annat tittar vi på hur man automatiskt kan klassificera vad propaganda handlar om och hur olika digitala miljöer reagerar på händelser i riktiga världen, avslutar Lisa Kaati.
Regeringsuppdraget ska slutredovisas i mars 2019.