Forskningsprojekt REFLECT-ML: Rätten att bli bortglömd genom kontroll av icke-redundant information i maskininlärning
REFLECT-ML är ett flaggskeppsprojekt inom Digital Futures som undersöker hur rätten att bli glömd ska tillämpas när personuppgifter har använts för att träna AI-system.
Foto: Unsplash
REFLECT-ML är ett tvärvetenskapligt forskningsprojekt om rätten att bli glömd i maskininlärning. Projektet analyserar vilken personlig information som kan finnas kvar i AI-modeller, vilka rester av sådan information som kan vara rättsligt acceptabla samt hur effektiva metoder för radering och så kallad machine unlearning kan utvecklas. Målet är att minska glappet mellan juridiska krav och tekniska möjligheter.
Syfte
- Noggrant bedöma vilken ny information om en individ, som härrör från personuppgifter, som har memorerats i en maskininlärningsmodell.
- Ta fram riktlinjer för vilka kvarvarande spår av personlig information i en ML-modell som bör vara rättsligt acceptabla.
- Undersöka hur rätten att bli glömd kan genomföras effektivt i kontexten av ML-system.
Bakgrund
Inom maskininlärning (ML) finns ett akut behov av att klargöra vad ”radering” enligt rätten att bli glömd faktiskt innebär. Eftersom ML-modeller generaliserar och internaliserar mönster från data är det tekniskt mycket svårt att helt avlägsna en enskild datapunkt. Samtidigt menar vi att en sådan fullständig radering ofta går längre än vad lagen faktiskt kräver.
REFLECT-ML syftar till att undersöka hur rätten att bli glömd kan tillämpas effektivt i ML-system. Projektet adresserar glappet mellan regulatorers abstrakta juridiska språk och tekniskt förankrade metoder för att kvantifiera den nya information som kan kopplas till individdata, liksom de praktiska svårigheterna i att uppskatta denna. Vidare utvecklas tekniska metoder för att kontrollera hur information memoreras i modeller samt för att utforska så kallad machine unlearning.
Tvärvetenskapligt samarbete
Forskargruppen består av projektledare Mikael Oechtering (informationsteori, relevant för informationskvantifiering), Giovanni Colonna (juridik, med särskild kompetens inom GDPR och AI Act) samt Mikael Johansson (optimering, relevant för utveckling av effektiva inlärningsalgoritmer).
Projektet är i grunden tvärvetenskapligt: informationsmått måste vara rättsligt förenliga, juridiska krav måste vara algoritmiskt genomförbara och algoritmer måste optimeras mot rätt mål.