Redan i april 2021 kom EU-kommissionen med ett första utkast till den tilltänkta AI-förordningen och frågan ligger nu hos Europaparlamentet. Förhoppningen är att komma till omröstning i slutet av mars. Foto: Andrey Popov/Mostphotos

– Det är en spännande tid! Just nu händer det mycket dels kring utvecklingen av AI, dels på lagstiftningsområdet när det gäller reglering av AI på EU-nivå. Det finns många frågor som är intressanta att undersöka, både ur praktiska och rättsvetenskapliga perspektiv, säger Sonia Bastigkeit Ericstam, doktorand i civilrätt vid Stockholms universitet.

För Sonia kommer den kommande AI-förordningen få stor betydelse för frågorna i hennes pågående avhandlingsprojekt, Algoritmer på arbetsplatsen, eftersom den klassificerar användningen av AI i anställningsförhållandet som så kallad ”högrisk”-användning. Det innebär att arbetsgivare som vill införa AI kommer att behöva vidta flera säkerhetsåtgärder, till exempel göra riskbedömningar. Just förordningens krav på AI-system som definieras som högrisk har också Claes Granmar, docent i europarätt, valt att titta närmare på; 

Claes Granmar

– Jag skriver just nu en artikel om kravet på mänsklig tillsyn av högrisksystem som återfinns i den föreslagna förordningens artikel 14. Förutom ett krav på tekniska lösningar för att hantera  ”black boxes” - alltså att det ej går att ens i efterhand förstå vad som föranledde en maskin att ta ett visst beslut - så uppställer bestämmelsen ett organisatoriskt krav på att det finns personer som enkelt kan korrigera en åtgärd och stänga av AI-systemet för att sedan kunna ta reda på vad som har hänt. 

Claes förklarar att även om det ännu så länge kanske ter sig lite futuristiskt att ett AI-system skulle löpa amok och åsamka skada och förödelse, så kan det vara ett ganska stort samhällsproblem om några år. Med allra största sannolikhet kommer allt ifrån städning i hemmet till sophämtning, transporter, tung industri och allmänna val att skötas av AI-system i framtiden. Det gäller också enklare typer av juridik.   

– Att EU vill skapa ett gemensamt system för godkännande, övervakning och sanktionering av AI-användning i samhället är bra. Motsatsen - att låta AI-användning ske helt utan reglering - vore oförenligt med rättsstatsprincipen och unionens värdegrund, säger Claes.

Första lag i världen att definiera AI

Också Stanley Greenstein, docent i rättsinformatik, har flera pågående forskningsprojekt som berörs av den kommande förordningen Ett av dessa är "Regulating Artificially Intelligent Diagnostic Algorithms in Orthopaedic Medicine". Projektet handlar om tillämpningen av AI i hälso- och sjukvård, till exempel för att hjälpa läkare diagnostisera samt ge förslag på den optimala behandlingen för en individ. Han berättar att även om vi inte ännu vet hur det slutliga lagförslaget kommer att se ut, så ger det en bra ledtråd till vart vi är på väg vad gäller regleringen av AI.

– EU:s AI-förordning är den första lag i världen som försöker att definiera begreppet "AI-system". Jag skulle säga att det är mycket svårt, om inte omöjligt, att definiera vad AI är för någonting. Det kan vara mycket subjektivt. En risk är att man definierar AI så brett att man fångar in en hel del tekniker som inte riktigt är att betraktas som AI. I sin tur kan detta leda till att en hel del fler aktörer blir tvungna att tillämpa AI-förordningen även om de inte riktigt utvecklar eller tillämpar det slags AI som egentligen är föremål för förordningen. Det kan bli mycket betungande och ta mycket resurser vilket skulle kunna slå hårt mot mindre aktörer, organisationer och företag.

Claes Granmar är inne på samma spår i frågan om de eventuella negativa konsekvenserna som man kan tänka sig av den föreslagna förordningen. Han säger att förslaget kan behöva justeras för att träffbilden verkligen ska motsvara det tänkta tillämpningsområdet och att risken i nuläget är att oklarheter skapar problem och kostnader för såväl marknadens aktörer, som för tillsynsmyndigheterna;

– Naturligtvis är det en enorm regulatorisk börda som placeras på leverantörer och användare av AI system i yrkesverksamhet i och med den nya AI-förordningen. Få företag har någon djupare förståelse för innebörden av EU:s rättighetsstadga och vad kraven på socialt ansvar, miljöansvar med mera innebär.

Syftar till att främja AI:s framväxt.

Enligt EU-kommissionen är syftet med den föreslagna förordningen att den ska leda till en ökad tillit för AI och genom detta gynna innovation och AI:s framväxt i Europa. Genom det skulle Europa bli ”ett globalt centrum för tillförlitlig artificiell intelligens”, men om detta råder det dock delade meningar i ministerrådet. En pågående diskussion handlar om att de säkerhetsåtgärder som till exempel omgärdar AI som klassas som högrisk kan komma att hämma potentialen med utvecklingen av AI på ett oproportionerligt sätt.

Sonia Bastigkeit Ericstam

– Det är förstås viktigt att det går att förutse hur reglerna kommer att tillämpas. Samtidigt, sett till att det är ett område under utveckling, är det viktigt att det finns möjlighet att klassificera t.ex. nya användningsområden som högrisk eller helt förbjuden användning. Men den balansen uppfattar jag att EU-lagstiftaren har lagt mycket energi på, inte minst inför det att förordningstexten nu omarbetas, säger Sonia Bastigkeit Ericstam.

Claes Granmar berättar att det i förordningen också görs särskilda undantag från produkt och användningskraven i syfte att främja forskning kring, och utveckling av, AI-system. Här föreslås så kallade ”regulatoriska sandlådor” som syftar till att säkerställa att unionens integrerade regelverk inte ska hämma AI:s framväxt. Genom sådana skapas en kontrollerad miljö för att testa innovativ teknik under en begränsad tid på grundval av en testplan som överenskommits med de behöriga myndigheterna.

Avvägningar mellan rättigheter och innovation

Huruvida regleringen de facto kommer att ställa så tunga krav på de som utnyttjar AI att det i längden kan bromsa framväxten av AI i EU jämfört med andra länder som inte behöver förhålla sig till likadan reglering, är dock svårt att förutspå säger de tre forskarna. Dessutom är det ytterst en fråga om avvägning och vad som i slutändan värderas högst - mänskliga rättigheter eller teknisk innovation.

Stanley Greenstein

– AI är en teknologi som egentligen består av kraftfulla algoritmer som kan analysera oerhört stora mängder data på kort tid genom komplexa matematiska regler och beräkningar. Vi människor kommer aldrig helt kunna förstå hur AI funkar till etthundra procent. Men vi kommer att fortsätta lita på den eftersom det kommer att leda till en ökad effektivisering av många verksamheter, säger Stanley Greenstein, och fortsätter;

– AI kommer att bli bättre än människor på att ta vissa beslut i vissa kontexter i och med att den är självlärande och har kapaciteten att bearbeta stora mängder data, men vi kommer aldrig riktigt kunna förstå hur den har kommit till dessa beslut. Detta kanske leder till en situation så småningom, där vi i avsaknad av kognitiv förmåga att förklara hur AI funkar, lämnar över kontrollen till maskiner. Detta skulle leda till problem i form av hur vi ska tillämpa redan etablerade juridiska begrepp, som till exempel ansvar. Sen, i slutändan, så bottnar man i filosofiska funderingar kring vad det är för slags samhälle vi faktiskt önskar att leva i samt hur mycket vi värdesätter att behandlas som människor och inte som en digital representation av oss i form av en samling datapunkter.

Claes Granmar fyller i; 

– Jag skulle säga att vi inte står inför ett teknikskifte, utan inför ett mänsklighetsskifte. Människans tillvaro kommer att ändras genom de olika tekniklösningar som nu finns runt hörnet och som alltid är människans hunger efter ”kunskap” riskfylld. Det är till denna föränderliga verklighet som juridiken måste förhålla sig, samtidigt som den också är ett verktyg för att forma en ny verklighet.

Text: Natalie Oliwsson