Tänk dig att du har blivit dömd för ett brott, och en algoritm ska hjälpa domaren genom att föreslå straffet. När datorn programmerades så blev diskriminering inbyggd i algoritmen, så eftersom du ser ut på ett visst sätt får du ett hårdare straff. Exemplet är inte fiktion, det kommer från USA där AI används i rättssystemet för att föreslå straff i brottmål, och den föreslår hårdare straff för svarta. Vi vet inte varför, det kan vara slumpen, en fördomsfull systemutvecklare eller kanske snedvriden data som systemet fått träna sig på.
– Vi som människor måste vara medvetna om att vi dagligen är föremål för beslut som tagits av en algoritm. Det finns risker när vi ger maskiner makt att ta beslut om oss fast vi inte helt förstår hur den bakomliggande tekniken fungerar, säger Stanley Greenstein lektor i rättsinformatik.
Avgörande beslut i vardagen
Stanley Greenstein liknar algoritmerna vid svarta lådor. Vi vet vad vi matar in i lådan och vad som kommer ut, men exakt hur algoritmerna fungerar vet inte alltid ens den som har utvecklat dem. De är självlärande, kan ändras i realtid och är mycket komplexa. Redan nu tar de beslut åt oss i vår vardag. De förutspår musiken du vill lyssna på och filmer du vill se, men avgör även hur stort bostadslån banken ger dig eller om du ska få ett jobb.
Stanley Greenstein forskar om hur juridik ska förhålla sig till artificiell intelligens. Hur kan algoritmerna som fattar besluten bli mer transparenta, och hur kan vi säkerställa rättssäkerheten? Än så länge kan han inte ge något enkelt svar, men han tror att en bra början är att vi pratar om det och inte blundar för riskerna. Det är komplexa frågor. Juridik skyddar systemen genom till exempel immaterialrätt, och algoritmerna börjar bli för avancerade för att vår kognitiva förmåga ska hänga med.
– Vi människor kommer inte att ha förmågan att övervaka tekniken, jag tror lösningen ligger i teknik. En grundbult i ämnet rättsinformatik är att proaktivt bygga in juridik i tekniken från början. Kanske behöver vi också ett certifieringssystem eller en myndighet som granskar algoritmer, säger han.
Utrymme att testa nya idéer
Under 2016 inledde Stockholms universitet en satsning på digital humanvetenskap. Begreppet innefattar forskning som handlar om digitaliseringen och dess konsekvenser, och som överskrider fakultetsgränserna mellan humaniora, samhällsvetenskap och juridik. Satsningen innebar att kartlägga fältet, samla och utveckla den digitala humanvetenskapen vid universitetet, anordna seminarier och workshops samt att ta fram en definition av begreppet. Tolv forskningsprojekt har fått medel inom satsningen, däribland Stanley Greenstein. Det har utmynnat i ett kapitel i en antologi som ges ut på Stockholm University Press nästa år. Hans forskning varken börjar eller slutar där. Rättsinformatik är per definition tvärvetenskaplig, men han uppskattar möjligheten till möten som satsningen ger, samt utrymme att testa nya idéer.
– Ibland kan man befinna sig inom en bubbla med andra som tänker likadant. Att träffa andra akademiska discipliner ger distans och nya perspektiv. Framtidens komplexa problem i det digitala samhället kommer att behöva tvärvetenskapliga lösningar.