Forskningsprojekt AI för samhället: Mot socialt rättvist, algoritmiskt beslutsfattande
Projektet syftar till att göra AI rättvist, transparent och rättssäkert, så att det gynnar hela samhället. Genom att adressera fördomar inom hälso- och sjukvård samt utbildning arbetar vi för att utveckla AI-system som gagnar samhället på ett jämlikt och ansvarsfullt sätt.
Detta projekt syftar till att göra AI-system rättvisa, transparenta och ansvarsfulla i beslut som påverkar samhället. Artificiell intelligens har stor potential, särskilt inom hälso- och sjukvård, utbildning och rättsväsende, men kan även förstärka samhälleliga fördomar om tekniken inte hanteras noggrant. Till exempel kan AI-baserad betygssättning missgynna vissa elevgrupper, och algoritmer inom sjukvården kan förbise behov hos marginaliserade grupper. Vårt team hanterar den här typen av frågor genom att utveckla metoder som säkerställer att AI-system fungerar rättvist i olika sociala sammanhang och populationer.
Vår forskning omfattar tre huvudområden:
1. Designa AI utan partiskhet genom att integrera rättvisa från början.
2. Göra AI-beslut transparenta och förklarbara.
3. Testa dessa principer i verkliga utbildnings- och hälso- och sjukvårdsscenarier.
Genom att förstå grunden för partiskhet inom AI kan vi bidra till att AI-system ger jämlika möjligheter för alla. Projektet kombinerar expertis inom teknik, juridik, etik och samhällsvetenskap för att skapa AI som verkligen gagnar samhällets intressen.
Projektbeskrivning
Artificiell intelligens (AI) förändrar områden som hälso- och sjukvård, utbildning och rättsväsende i grunden. AI-algoritmer riskerar dock att förstärka sociala fördomar, särskilt när data speglar historiska orättvisor. Detta projekt tar itu med de vetenskapliga och samhälleliga utmaningarna att skapa AI som är rättvis, transparent och ansvarsfull. Genom att fokusera på rättvisa, förklarbarhet och praktisk tillämpning strävar vi efter att överbrygga klyftan mellan teknisk utveckling och samhälleliga värderingar.
Utmaningen: Partiskhet i AI-system
AI-system, som ofta tränas på historiska data, kan ärva och förstärka partiskhet. Inom hälso- och sjukvård kan till exempel prediktiva modeller förbise kritiska behov hos underrepresenterade grupper, medan algoritmer för betygsättning i utbildning kan gynna elever från privilegierade bakgrunder. Partiskheten kan bli rotad och skapa negativa återkopplingsslingor där orättvisa resultat förstärker framtida beslut. Detta projekt syftar till att identifiera och åtgärda dessa partiskheter för att göra AI-verktyg rättvisa redan från början.
Mål
1. Rättvis AI genom design
Vårt första mål är att designa AI-system som integrerar rättvisa från början genom att granska de sociala sammanhangen för de data som används. Vi analyserar dynamiken kring partiskhet, undersöker hur AI upprätthåller historisk diskriminering och utforskar hur rättvisa, solidaritet och jämlikhet kan införlivas i AI-design.
2. Transparens och ansvar i AI
Transparens är avgörande för allmänhetens förtroende och ansvarsskyldighet. Vi utvecklar tekniker för att göra AI-beslut tolkningsbara, särskilt inom områden med stor påverkan som hälso- och sjukvård. Genom att använda kontrafaktiskt resonemang vill vi säkerställa att AI-system kan ge tydliga motiveringar för sina resultat, som kan granskas och valideras.
3. Validering inom utbildning och hälso- och sjukvård
Våra metoder testas i verkliga fallstudier, med fokus på automatiserad betygsättning i utbildning och diagnostiskt stöd inom hälso- och sjukvård. Dessa tillämpningar hjälper till att utvärdera om AI är rättvis i olika miljöer, från klassrum till kliniker.
Vetenskaplig effekt och samhällelig relevans
Genom att fokusera på tvärvetenskapliga metoder knyter projektet samman datavetenskap, etik, juridik och samhällsvetenskap för att skapa handlingsbara ramverk för rättvis AI. Detta säkerställer att AI-system följer lagkrav och är i linje med samhälleliga mål, vilket stöder en framtid där tekniken är ett verktyg för positiv samhällsförändring.
Projektmedlemmar
Projektansvariga
Panagiotis Papapetrou
Professor, ställföreträdande prefekt
Sindri Magnússon
Universitetslektor, docent
Medlemmar
Teresa Cerratto-Pargman
Professor
Stanley Joel Greenstein
Universitetslektor, docent
