Språkmodeller som minns – hur kan vi skydda patienters integritet?

”Stora språkmodeller är ett hett tema just nu”, konstaterade Thomas Vakili under sitt licentiatseminarium – som kretsade kring just språkmodeller och stora datamängder.

Thomas Vakili, doktorand på DSV, Stockholms universitet, under sitt licentiatseminarium 15 maj 2023.
Thomas Vakili presenterade sin licentiatuppsats 15 maj 2023. Foto: Åse Karlén.

Chat GPT har onekligen satt språkmodellerna på kartan det senaste halvåret, men det är inte den modellen som Vakili arbetar med. Han intresserar sig för klinisk språkteknologi, ett område som har stor potential att förbättra sjukvården.

När språkmodeller bearbetar enorma mängder patientdata hittas viktig information som kan ligga till grund för läkares beslut. Det kan exempelvis handla om att undvika bieffekter av en medicin.

Men när stora datamängder behandlas finns också en risk för så kallad oavsiktlig memorering, att språkmodellen ”minns” känsliga patientuppgifter. Det innebär ett problem om systemet utsätts för en attack – då kan uppgifter om enskilda personer röjas.

För att komma runt problemet undersöker Thomas Vakili om integritetsriskerna kan minskas med automatisk avidentifiering av datamaterialet. I sin uppsats visar han att resultaten av pseudonymisering ser lovande ut, men att mer forskning behövs. Det är ännu oklart hur stora integritetsvinsterna kan bli.

 

Mer om licen

Omslag till Thomas Vakilis licentiatuppsats

Licentiatuppsatsen ”Attacking and defending the privacy of clinical language models” är en viktig milstolpe på Thomas Vakilis väg mot doktorsexamen. Den innehåller fyra artiklar som har presenterats på vetenskapliga konferenser 2021–2023.

Licentiatseminariet genomfördes på Institutionen för data- och systemvetenskap, DSV, vid Stockholms universitet 12 maj 2023. Opponenten Aurélie Névéol, Université Paris-Saclay, var med på Zoomlänk från Frankrike.

Ordförande under seminariet var Tony Lindgren, DSV, och examinator var Panagiotis Papapetrou, DSV. Huvudhandledare för Thomas Vakilis avhandlingsarbete är Hercules Dalianis, DSV, och handledare är Aron Henriksson, DSV.

Licentiatuppsatsen går att ladda ner från Diva

Vakili har fått ett stipendium för tre månaders arbete vid University of Chile.
Vi har intervjuat honom

Kontakta Thomas Vakili

Mer om Institutionen för data- och systemvetenskap (DSV)

Text: Åse Karlén