Är läkare redo för AI-assistenter?
AI inom sjukvården är ett lovande fält, men det för också med sig utmaningar. Genom att låta AI analysera stora mängder patientdata kan vi få bättre beslutsunderlag för behandlingar. Men först krävs att läkare kan lita på AI-modellernas rekommendationer.
6 februari 2024 stod Institutionen för data- och systemvetenskap som värd för ett Tech Tuesday-seminarium. Deltagarna kom från olika delar av det innovativa ekosystemet I Kista: stora techbolag, nya startups, akademiska institutioner och offentlig sektor.
Professor Panagiotis Papapetrou berättade om aktuell forskning på temat “Explainable AI for healthcare – challenges and future outlook”.
– Det finns flera utmaningar med att tillämpa AI inom sjukvården. Vi vill att våra algoritmer ska prestera så bra som möjligt, men ibland missar vi en viktig faktor: Tillit, sa Panagiotis Papapetrou.
Det engelska begreppet “explainability” är ett nyckelord. Det handlar om att AI-modellen inte bara kan spotta ur sig ett svar – den måste förklara hur den har kommit fram till svaret; vilka variabler som tagits i beaktande. Först då kan en läkare lita på AI-assistentens rekommendation.
Ett annat nyckelbegrepp är ”actionability”. Med det menas att den rekommendation som ges ska vara möjlig att agera på. Det är en förutsättning för att sjukvården ska kunna bli bättre.
Papapetrou konstaterade att det finns stora mängder hälsodata att mata in i modellerna, och datamaterialet kommer från en rad olika källor. En betydande utmaning ligger i att materialet är så komplext: Det kan handla om röntgenbilder, läkares journalnoteringar, våra smarta klockors uppgifter om hur mycket vi rör på oss, resultat från kliniska tester, medicinlistor och mycket mer.
– En AI kan söka igenom miljarder av liknande fall och sedan föreslå vilka prover en patient bör lämna, eller vilken kombination av mediciner som bör sättas in. Operationer kräver precision, och ett par stadiga robothänder kan verkligen vara till hjälp. Det viktiga är att det alltid måste vara en läkare eller medicinsk expert som fattar besluten i slutändan. Hen har det yttersta ansvaret, sa Panagiotis Papapetrou.
En längre version av denna artikel finns på engelska
Mer om seminariet
Tech Tuesday är ett månatligt evenemang där techbranschen och andra intressenter i Kista träffas för att nätverka och dela kunskap. Seminarierna arrangeras av Kista Science City.
6 februari 2024 stod Institutionen för data- och systemvetenskap (DSV) vid Stockholms universitet som värd.
Professor Panagiotis Papapetrou, DSV, talade på temat “Explainable AI for healthcare – challenges and future outlook”.
Seminariet blev fullbokat tidigt. Närmare 50 representanter från privata företag, akademi och offentlig sektor deltog.
Text: Åse Karlén
Senast uppdaterad: 8 februari 2024
Sidansvarig: Institutionen för data- och systemvetenskap, DSV