Stora språkmodeller (på engelska ”large language models”, förkortat LLM:er) som Llama och GPT-5 har blivit en central teknik bakom chattbotar, innehållsskapande och mjukvarustöd. Trots sina imponerande förmågor fungerar dessa system ofta som ”svarta lådor”: De levererar självsäkra svar utan att användaren har insyn i deras interna ”resonerande” processer.

Moderna LLM:er genererar text, ett tecken i taget, genom att förutsäga vad som mest sannolikt ska komma härnäst – snarare än att väga in fakta. Det gör att språkmodellerna kan producera svar som låter trovärdiga även när de saknar relevant information.

De är enormt stora och tränas till stor del på okurerade data från internet, vilket förstärker problem som partiskhet, hallucinationer och miljöpåverkan. Detta är särskilt problematiskt inom säkerhetskritiska områden som hälso- och sjukvård eller lagstiftning, där misstag kan få allvarliga konsekvenser.

Det här forskningsprojektet undersöker varför dagens LLM:er har svårt att vara tillförlitliga och hur vi bättre kan förstå deras beteende. Genom att kombinera teknisk insikt med förklaringar som är begripliga för människor vill vi att språkmodellerna ska gå från att vara imponerande men otydliga verktyg, till att bli system som kan användas på ett ansvarsfullt och meningsfullt sätt.

Det här är Korbinian Randls avhandlingsprojekt. Tony Lindgren är huvudhandledare, och Aron Henriksson och John Pavlopoulos är biträdande handledare.

Projektet finansierades under perioden februari 2023 – mars 2026 av Europeiska unionens Horizon Europe – forsknings- och innovationsprogrammet EFRA.

Läs mer om projektet EFRA – Extreme Food Risk Analytics