Utvecklingstakten inom artificiell intelligens är snabb, och på senare tid har framförallt så kallade AI-chattbotar, som exempelvis ChatGPT, varit ett ämne för diskussion inom högskolevärlden. Chattbotar är baserade på prediktiva språkmodeller och kan generera välformulerad text baserat på ett stort faktaunderlag. ChatGPT är tränad på stora språk- och informationsdatabaser och kan hantera flera språk, även svenska. Med AI-chattbotar jämställs i denna text även andra typer av system för att generera AI-baserad text. Notera även att begreppet texter används nedan i vid bemärkelse, och kan syfta på vanliga texter, men även programkod och liknande.

Den kraftigt ökade tillgänglighet till AI-genererad text som lanseringen av ChatGPT för med sig gör att många frågor ställs om hur högskolevärlden ska förhålla sig till detta och andra liknande verktyg. Det kan innebära stora möjligheter inom såväl forskning som utbildning, men måste hanteras med omdöme, och felaktig användning kan räknas som fusk och vara vilseledande. Särskilt inom utbildning finns en oro att chattbotar används av studenter för att generera svar i samband med examination.

Utvecklingen av chattbotar och deras integrering i andra system går just nu fort och universitetet måste framöver föra en kontinuerlig dialog om deras användning i våra verksamheter. För att svara på en del av de frågor som finns redan nu inom universitetet följer här en vägledning om hur lärare, forskare och olika organ inom universitetet kan förhålla sig till chattbotar. Den verksamhetsnära ansvaret för frågor relaterade till användning av AI-chattbotar hanteras på institutionsnivå, medan det övergripande ansvaret för hanteringen av konsekvenserna för utbildning och forskning ligger hos universitetets beredande och beslutande organ.

AI-chattbotar och examination

AI-chattbotar kan potentiellt användas av studenter i samband med många olika typer av examination. Det handlar inte bara om att låta AI-chattbotar skriva texter, utan det kan också handla om att ta hjälp av AI-chattbotar för att få tips om förbättringar, hitta fel, ta fram en översikt över ämnesområden, med mera. Lärare/examinator behöver ta ställning till vilken typ av användning som är legitim, och vilken som betraktas som otillåten, vilket kan skilja från kurs till kurs. Stockholms universitet rekommenderar därför att lärare/examinator:

•    tydliggör om och hur AI-chattbotar får användas i samband med examination och vilken användning som i så fall är tillåten. Exempel på användningsområden som bör tas upp i ett sådant tydliggörande är:
   - att låta en AI-chattbot skriva en text som mer eller mindre obearbetad lämnas in som studentens egen i försök att vilseleda examinatorn. Detta kan likställas med spökskrivning eller plagiat och är normalt att betrakta som fusk.
   - att låta en AI-chattbot förbättra en text, föreslå förbättringar, hitta fel i texter, eller göra en översikt över ett område. I det fall någon eller några av dessa användningsområden är tillåtna, bör man kräva att studenterna redogör för hur AI-chattboten har använts i framtagandet av texten.
   - att studenten använder AI-chattbotar vid kamraträttning/opposition och liknande. Om detta tillåts bör det tydliggöras att studenten måste göra en egen bedömning, och inte använda resultat av AI-chattboten obearbetat. Även i detta fall bör studenterna redogöra för hur AI-chattboten har använts.

•    ser över examinationsformerna för att undvika att AI-chattbotar används otillbörligt. Exempel på åtgärder som kan vidtas är:
   - att undvika oövervakad hemexamination. Om den ändå används kan den kompletteras med annan examination, t.ex. muntlig examination eller salsskrivningar.
   - att examinera genom bevakad ”open book”-examination.
   - att ha fler avstämningar vid längre textproduktion/projektarbeten där studenterna redovisar i olika steg hur svaret/lösningar tas fram.
   - att ha kontextbaserade uppgifter som knyter an till kursspecifika eller lokala förhållanden som gör det svårare att använda AI-chattbotar.
   - att ha tydliga krav på att kurslitteratur och annan litteratur alltid ska refereras till med sidhänvisningar.

Observera dock att AI-chattbotar utvecklas snabbt. Att ha kontextbaserade uppgifter eller att införa krav på referenser kan därför vara åtgärder som inte är lika verkningsfulla i ett längre tidsperspektiv.  

Tänk på att en ändring av examinationsformerna kan kräva att kursplanen behöver revideras, vilket tar tid.

Misstanke om fusk

Vid misstanke om att en student har använt en AI-chattbot på ett otillåtet sätt i samband med examination ska förseelsen utredas, och vid grundad misstanke om fusk anmälas, på samma sätt som vid övriga fuskärenden. Se Regler och handläggningsordning för disciplinärenden.

Det finns idag verktyg som kan bedöma sannolikheten för att en text är AI-genererad. Man kan dock anta att motmedel mot detta kommer att tas fram, och sådana finns i viss mån redan. Dessa system kommer därför sannolikt inte att vara ett verkningsfullt motmedel mot otillåten användning av AI-chattbotar. Verktyg för detektering av AI-skriven text kan eventuellt användas som del i en utredning, men kommer att behöva kompletteras med annat material för att kunna utgöra underlag i till exempel disciplinnämndsärenden. Det kan också påpekas att de system som idag används för plagiatkontroll, i SU:s fall Ouriginal, inte kan användas för att upptäcka AI-genererad text.

Användning av AI-chattbotar av lärare och studenter under kurserna

AI-chattbotar är här för att stanna och är något både lärare och studenter behöver förhålla sig till. Det är därför önskvärt att som lärare fundera igenom hur användande av AI-chattbotar på sikt kan inkluderas i undervisningen. Exempel skulle kunna vara att tillsammans med kollegor och studenter:

•    analysera och reflektera över fördelar och problem med AI-chattbotar och den text de genererar
•    kritiskt granska svar från AI-chattbotar och medvetandegöra studenterna om risken för felaktigheter och bias
•    reflektera över bias/jäv och hur olika perspektiv kommer till uttryck i de automatiska svaren
•    jämför AI-chattbotens svar med sådana som är skrivna av experter
•    reflektera över hur olika former av kunskap kommer till uttryck och hur dessa värderas när maskiner nu kan skriva text   

AI-chattbotar kan även vara till hjälp för lärare i till exempel planering av undervisning och framtagande av undervisningsmaterial. Här är det viktigt att tänka på att bolagen bakom chattbotarna inte redovisar exakt vilka databaser och vilket material som chattbotarna tränas på. Vanligen är basen en mycket stor, men tidsbegränsad textkorpus, vilket kan betyda att chattbotarna inte är alltid är uppdaterade med aktuell information. Utöver detta kan problem finnas med bias och felaktigheter i själva modellen. Det är därför viktigt att betona att AI-genererat material noggrant måste granskas så att det verkligen fångar kursens innehåll och kunskapsmål, särskilt vid examination. En viktig aspekt att beakta är att inskickade texter kan användas till annat än man tänkt sig. Känslig information ska aldrig skickas till en chattbot. Tills vidare avråds också från användning av AI-chattbotar vid bedömning av examination.

Användning av AI-chattbotar av forskare inom forskning och för forskningsansökningar

Förlag och forskningsfinansiärer har idag något varierande regler för i vilken grad användning av AI-chattbotar är tillåten. Otillåten användning av dem skulle i vissa sammanhang sannolikt kunna klassas som oredlighet i forskning. Universitetet uppmanar därför tills vidare till försiktighet vid användandet av AI-chattbotar vid skrivande av forskningsartiklar och forskningsansökningar. Om de ändå används är det viktigt att vara transparent med vad som använts och hur. Kontrollera med förlagen eller forskningsfinansiärerna vad som gäller för användning av AI-chattbotar i dagsläget. Precis som i undervisningssammanhang är det också viktigt att aldrig dela med sig av känslig forskningsinformation till ett AI-verktyg.

Hur arbetar SU vidare med frågan

Universitetet följer frågan om AI-chattbotar och andra textgenererande verktyg noga, och samverkar med andra intressenter, exempelvis inom SUHF och gentemot UKÄ. Universitetet kommer också att se över till exempel regelverk för utbildning och examination samt behovet av kompetensutveckling inom området.

Hjälp och stöd i frågor om AI-chattbotar

Centrum för universitetslärarutbildning (CeUL) kan ge stöd och hjälp i pedagogiska frågor om AI-chattbotar. CeUL-torget i Athena är också en arena där frågan kan diskuteras med andra lärare.

Vid frågor av mer områdesnära karaktär, till exempel om regelverk med mera, kan utbildningsberedningarna på respektive område kontaktas via områdeskanslierna.

Användbara länkar