Ta hatet till en digital robot

På hatomaten.se kan vem som helst skriva in exempel på svenskspråkigt näthat. Materialet ska på sikt hjälpa rättsvårdande myndigheter att utreda hot, kränkningar och trakasserier av grupper eller enskilda individer i digitala miljöer.

Hatomaten är en del av ett forskningsprojekt vars huvudsyfte är att undersöka möjligheterna att med teknik känna igen hatfulla texter på svenska. Målet är att dessa tekniker ska kunna användas av exempelvis sociala medieplattformar och nyhetsredaktioner. Bakom den digitala roboten Hatomaten står FOI, Polismyndigheten och Uppsala universitet. Projektet är finansierat av Vinnova.

Näthat är hot, kränkningar och trakasserier av grupper eller enskilda individer i digitala miljöer. Hatfulla kommentarer går att sprida snabbt i digitala miljöer, och intensiteten i hatet trappas även upp snabbare när kommunikationen sker på distans, och i många fall anonymt.

– Ett internet präglat av hat försvårar meningsfull kommunikation och hotar även det fria ordet genom att skrämma individer till tystnad, säger Nazar Akrami, forskare på Uppsala universitet.

Hatomaten kan ge värdefull träningsdata

Det finns idag tekniker som kan känna igen hatbudskap på engelska. Det saknas på svenska och det finns inget ekonomiskt incitament för exempelvis stora sociala medieplattformar att utveckla sådan teknik. Detta eftersom svenska är ett litet språk och de tekniker som ska utvecklas kräver att stora mängder data annoteras av experter.

– Genom att be om hjälp av dem som utsätts för hatfulla kommentarer hoppas vi kunna samla in mer träningsdata och på så sätt utveckla bättre algoritmer, säger Johan Fernquist, forskare på FOI.

Vill du vara med och skydda det demokratiska samtalet? Besök hatomaten.se och lämna ditt bidrag.