Stockholms universitet logo, länk till startsida

Forskningsbaserade verktyg kan stoppa terrordåd

I sociala medier svallar känslorna starka. Vi strösslar gärna med hjärtan och smileys, men hot och hat är också vardagsmat i nätforum. Lisa Kaati forskar om toxiskt språk, extremism och riskbedömningar.

Porträttfoto på Lisa Kaati, DSV vid Stockholms universitet. Foto: Åse Karlén.
Lisa Kaatis forskning handlar om att göra hot- och riskbedömningar av människors kommunikation i digitala medier. Hon är verksam på Institutionen för data- och systemvetenskap (DSV). Foto: Åse Karlén.

– Jag vill att min forskning ska komma till användning. Jag är gärna med och räddar världen, säger Lisa Kaati, universitetslektor på Institutionen för data- och systemvetenskap sedan drygt ett år tillbaka.

Studerar hur vi kommunicerar kring valet

I ett högaktuellt projekt studerar hon hur det svenska valets genomförande diskuteras i sociala medier. Förekommer det till exempel anklagelser om valfusk?

– Vi kommer att studera data från augusti till november. Rent praktiskt går det till så att vi laddar ner kommunikation från olika svenska sociala medier, exempelvis Twitter, Reddit och kommentarsfält på de stora nyhetskanalernas Facebooksidor.

– Vi är särskilt intresserade av inlägg som handlar om valfusk och om säkerheten kring valets genomförande. En stor del av vår forskning går ut på att läsa och tolka inlägg från sociala medier manuellt, berättar Lisa Kaati.

Uppdraget kommer från Valmyndigheten. Det kommer att mynna ut i en rapport som visar hur vi pratar om valet på nätet, även efter valdagen.

Lisa Kaati är datavetare i grunden, utbildad på teknisk-naturvetenskaplig fakultet. Hon har länge jobbat nära brottsbekämpande myndigheter, bland annat med underrättelseanalys.

– Först var jag bara intresserad av att utveckla tekniker för att analysera data. Men jag ville inte att de bara skulle stanna i forskningsartiklar, utan också implementeras. Därför började jag använda mina egna verktyg för att göra analyser. I den processen behövde jag knyta till mig experter från andra vetenskapsområden.

Svårt att mäta intentioner

I Lisa Kaatis forskarkrets ingår många psykologer och hon uppskattar det tvärvetenskapliga arbetet. I dag samarbetar hon med forskare på Uppsala universitet, Totalförsvarets forskningsinstitut (FOI) och flera lärosäten runtom i världen.

– Vi mäter saker som är svåra att mäta, konstaterar hon.

Intention är en sådan sak som inte låter sig mätas så lätt. Hur vet man vad som är tomma hot, och vad som faktiskt kan vara en plan som sätts i verket? Det finns ett stort samhällsintresse i att kunna göra bra riskbedömningar.

Lisa Kaati forskar om riskbedömningar på nätet inom flera olika områden: Allt från risk för suicid till risk för våldsamt beteende. Utan riskbedömningar är det svårt att veta vilka individer som har en ökad risk för att begå självmord, eller utsätta andra för våldsbrott. Tekniken för att analysera data måste utgå från psykologiska perspektiv.

– Att en individ är fixerad vid en sak eller person är ett slags varningsbeteende. En annan varningssignal är om en individ identifierar sig som krigare eller soldat.

Forskar med FBI

Lisa Kaati har fått mycket uppmärksamhet för sin forskning, inte minst från FBI i USA.

– Jag har ett spännande projekt där jag har fått data från FBI. I materialet ingår både individer som har begått brott, och individer som inte har begått brott. Alla har bedömts utgöra ett potentiellt hot, och vi har tittat på hur de kommunicerar.

– Den gemensamma nämnaren är att de är arga. De pratar om oförrätter, vapen, våld och död.

Något som kanske förvånar är att individerna som inte har begått brott är de som uttrycker sig mest aggressivt. Men det är inte så konstigt, menar Lisa Kaati. De som faktiskt begår brott har ofta bestämt sig för att sätta en plan i verket, och det kan vara så att de känner ett slags lugn i det.

– Vi har kommit långt i vår forskning. Nu kan vi göra bedömningar på strukturerade sätt. Det kan kanske bidra till att stoppa nästa skolskjutare, säger hon.

Artificiell intelligens (AI) är nyckeln till mycket av Lisa Kaatis forskning. Men för att träna upp en AI behövs mänsklig intelligens – och bra data.

– Det finns ibland en övertro på tekniken, att AI ska lösa allt. Men för att lära datorn att lösa svåra problem, till exempel att känna igen toxiskt språk eller avgöra någons personlighet, krävs att man utgår från riktiga data. En mängd människor måste gå igenom materialet och ge datorn bra träningsexempel. Och det är inte helt enkelt att få tag på bra träningsdata.

Ny lärarroll

Nu under hösten kommer Lisa Kaati att på allvar ikläda sig rollen som lärare. Hon undervisar inom cybersäkerhet på DSVs masterprogram.

– Jag har aldrig haft en egen kurs förut, det ska bli jättespännande. Min kurs handlar om många av de saker som jag har arbetat med under min tid på FOI. Jag har plockat in både underrättelseanalytiker och forskare från andra lärosäten som gästföreläsare.

– Studenterna kommer att arbeta med säkerhetsrelaterade data science-uppgifter och analysera innehåll i terrorpropaganda. Jag ser fram emot att undervisa, säger Lisa Kaati.

 

Mer om Lisa Kaati

Disputerade i datavetenskap på Uppsala universitet 2008.

Avhandlingen har titeln ”Reduction Techniques for Finite (Tree) Automata”

Jobbade på Totalförsvarets forskningsinstitut (FOI) 2008–2022.

Expert i statliga utredningar som ”Rasistiska symboler. Praxisgenomgång och analys” (SOU 2019:27) 

och ”Kriminalisering av förnekande av Förintelsen och av vissa andra brott” (Dir. 2021:87).

Universitetslektor på Institutionen för data- och systemvetenskap (DSV) vid Stockholms universitet sedan 2021.

Lisa Kaati sitter som en av tre europeiska forskare med i forskarrådet för Europols centrum för terrorbekämpning – European Counter Terrorism Centre (ECTC). Hon är också en av de rådgivande forskarna till europeiska Radicalisation Awareness Network (RAN).

Kontaktuppgifter och mer info finns på Lisa Kaatis profilsida