Stockholms universitet
Institutet för social forskning

Nytt Working Paper: Så kan algoritmer förbättra socialtjänstens beslut

Det råder delade meningar bland både allmänheten och i expertkåren om användningen av algoritmer inom kritiska områden som rättsväsende, finans och socialtjänst. Farhågorna handlar ofta om potentiella felkällor kopplade till algoritmer samt om risken att människor felaktigt bortser från algoritmbaserade rekommendationer.

young child wearing a red jacket, blue jeans, and colorful sneakers jumps into a puddle.
En avgörande insikt från studien är att samarbetet mellan människa och algoritm gav bättre resultat än om besluten helt överläts till en algoritm.. Foto: Jordan Whitt/Unsplash

I det nya working papret Better Together? A Field Experiment on Human-Algorithm Interaction in Child Protection undersöker Marie-Pascale Grimon (SOFI) och Christopher Mills (University of Notre Dame) hur kombinationen av mänsklig expertis och algoritmbaserade verktyg kan påverka beslutsfattandet inom den amerikanska socialtjänsten för barn och familjer (Child Protective Services, CPS). CPS-arbetare står ofta inför den utmanande uppgiften att avgöra vilka familjer som ska utredas för barnmisshandel, samtidigt som de själva balanserar begränsade resurser med behovet av att förebygga skada. Här visar vi att algoritmer, när de integreras på ett genomtänkt sätt, kan förbättra dessa beslut.

I denna studie fick CPS-tjänstemän för vissa familjer tillgång till ett algoritmbaserat verktyg som förutspådde risken för att barn skulle placeras i fosterhem. Forskarna använde en metod av högsta vetenskapliga standard för att utvärdera detta. Alla tjänstemännen behöll helt eget beslutsfattande.

Portrait photo of Marie-Pascale Grimon
Marie-Pascale Grimon. Foto: Magnus Dahl

Resultaten visade att algoritmbaserade verktyg gav betydande förbättringar för barns välbefinnande: framför allt en 29 % minskning av sjukhusrapporterade skador och en minskning av skillnader mellan olika etniska och socioekonomiska grupper. Till exempel gynnades afroamerikanska familjer – som ofta är oproportionerligt utredda av socialtjänsten – av en mer rättvis behandling. Studien visade också att algoritmen hjälpte tjänstemännen att fokusera på nya, relevanta detaljer i varje ärende. Detta ledde till mer målinriktade undersökningar och säkerställde att myndighetens resurser tilldelades de mest utsatta barnen. Fördelarna med att använda algoritmen var särskilt stora vid bedömning av komplexa ärenden.

Det är viktigt att notera att samarbetet mellan människor och algoritmer gav bättre resultat än scenarier där besluten helt överläts till algoritmen. Tjänstemännen använde verktyget för att komplettera sitt omdöme, motverka fördomar och ta hänsyn till kontextuell information som algoritmen inte hade tillgång till. Resultaten understryker hur viktigt det är att utforma algoritmer med fokus på användarnas behov och visar att synergier mellan människor och algoritmer, tvärtemot allmänt spridda farhågor, kan leda till både effektivitet och rättvisa. Denna forskning ger nya insikter om hur algoritmer kan stödja samhällsinterventioner och belyser att framgång beror på en genomtänkt kombination av mänsklig expertis och algoritmbaserade prediktioner för att förbättra resultaten för utsatta grupper.

Läs hela studien här.

Vid frågor, kontakta Marie-Pascale Grimon, biträdande professor i nationalekonomi, marie-pascale.grimon@sofi.su.se.

Tema
Digitalisering och AI - Temasida Samhälle, demokrati och välfärd - Temasida
Forskningsämne
Arbets- och organisationssociologi
Forskargrupp
Arbetsmarknadsekonomi (AME)

Arbetsmarknadsekonomi är ett mycket brett ämnesområde. Utöver forskning rörande arbetsmarknadsutfall som löner och sysselsättning studeras inom AME såväl grund- som högre utbildning, hälsa, skatter och inkomstöverföringar, politik, brott och straff, och jämställdhet.

Läs mer om

Senast uppdaterad: 4 februari 2025

Sidansvarig: Magnus Dahl

eventNewsArticle

standard-article

false

{
  "dimensions": [
    {
      "id": "department.categorydimension.subject",
      "name": "Global categories",
      "enumerable": true,
      "entities": [],
      "localizations": {}
    },
    {
      "id": "department.categorydimension.tag.Keywords",
      "name": "Keywords",
      "enumerable": false,
      "entities": [],
      "localizations": {}
    },
    {
      "id": "department.categorydimension.tag.Person",
      "name": "Person",
      "enumerable": false,
      "entities": [],
      "localizations": {}
    },
    {
      "id": "department.categorydimension.tag.Tag",
      "name": "Tag",
      "enumerable": false,
      "entities": [],
      "localizations": {}
    },
    {
      "id": "webb2021.categorydimension.Category",
      "name": "Globala kategorier Nyheter (Webb 2021)",
      "enumerable": true,
      "entities": [
        {
          "id": "webb2021.categorydimension.Category.forskning_nyheter",
          "name": "Forskning",
          "entities": [],
          "attributes": [],
          "childrenOmitted": false,
          "localizations": {}
        }
      ],
      "localizations": {}
    },
    {
      "id": "webb2021.categorydimension.Label",
      "name": "Tema (Webb 2021)",
      "enumerable": true,
      "entities": [
        {
          "id": "webb2021.categorydimension.Label.Data",
          "name": "Digitalisering och AI",
          "entities": [],
          "attributes": [],
          "childrenOmitted": false,
          "localizations": {}
        },
        {
          "id": "webb2021.categorydimension.Label.samhalle",
          "name": "Samhälle, demokrati och välfärd",
          "entities": [],
          "attributes": [],
          "childrenOmitted": false,
          "localizations": {}
        }
      ],
      "localizations": {}
    },
    {
      "id": "webb2021.categorydimension.Label.en",
      "name": "Themes (Webb 2021)",
      "enumerable": true,
      "entities": [],
      "localizations": {}
    },
    {
      "id": "webb2021.categorydimension.Keyword",
      "name": "Keywords (Webb 2021)",
      "enumerable": false,
      "entities": [],
      "localizations": {}
    },
    {
      "id": "SOFI.lokala.kat",
      "name": "Lokala kategorier SOFI",
      "enumerable": true,
      "entities": [
        {
          "id": "SOFI.lokala.kat.nyh",
          "name": "Lokala nyheter",
          "entities": [],
          "attributes": [],
          "childrenOmitted": false,
          "localizations": {}
        },
        {
          "id": "SOFI.lokala.kat.nyh",
          "name": "Lokala nyheter",
          "entities": [
            {
              "id": "SOFI.lokala.kat.nyh.fo",
              "name": "Forskning",
              "entities": [],
              "attributes": [],
              "childrenOmitted": false,
              "localizations": {}
            }
          ],
          "attributes": [],
          "childrenOmitted": false,
          "localizations": {}
        }
      ],
      "localizations": {}
    }
  ]
}