AI Act – vad är det som händer egentligen?

Är AI Act beslutad och klar? Nej!

Lagstiftningsprocessen inom EU är komplicerad, även för erfarna jurister. Den största anledningen är förmodligen att det ofta i skymundan hålls förhandlingar och mejslas fram kompromisser på alla möjliga och omöjliga håll. Den formella gången är i alla fall att EU-kommissionen lämnar ett förslag på lag, som EU-parlamentet sedan bearbetar och beslutar. Därefter tar ministerrådet över stafettpinnen och bearbetar och beslutar. Den nya lagen beslutas sen av Europaparlamentet och ministerrådet gemensamt. Men EU-kommissionen kan under processens gång välja att dra tillbaka ett lagförslag om den inte är nöjd med de bearbetningar som gjorts. Dessutom hanteras lagförslagen samtidigt även på hemmaplan i EU-länderna, särskilt vad gäller frågan om lagen i fråga ska beslutas på EU-nivå eller vara någonting som varje land ska besluta för sig.

Så vad är det som har beslutats nu? Det som har hänt är att Europaparlamentet och ministerrådet, efter vad som beskrivs som en tre dagar lång maratonförhandling, har slutit en ”provisorisk överenskommelse” vad gäller AI Act. Men exakt vad det är som har beslutats om AI Act har ännu inte offentliggjorts.  

Vad vet vi om överenskommelsen kring AI Act? Inte mycket!

Eftersom lagtexten är under granskning, bearbetning och översättning så är det oklart när lagstiftningen och överenskommelsen kommer att publiceras. Det enda som verkar vara säkert är att texten kommer att skilja sig åt från EU-kommissionens ursprungliga förslag. I övrigt får man alltså ge sig till tåls och förlita sig på EU-parlamentets och ministerrådets beskrivningar av den.  

Enligt den information som offentliggjorts av ministerrådet och Europaparlamentet ska det övergripande syftet med AI Act fortfarande vara att säkerställa att alla AI-system och AI-verktyg som används inom EU är säkra och att de respekterar fundamentala rättigheter och de värderingar som finns inom EU. Andra centrala syften är att främja innovation och investeringar i AI inom EU. Dessa syften kanske inte får någon att höja på ögonbrynen av förvåning, men observera gärna att AI Act – precis som nästan all annan EU-lagstiftning – har till syfte att värna intressen inom EU och inte att göra gott i största allmänhet. Observera också att vad som menas med att överenskommelsen är ”provisorisk” återstår att se. De viktigaste skillnaderna gentemot det ursprungliga förslaget följer här:

En förtydligad förordning

• Definitionen av AI-system ska förändras och ska nu bygga på den som tagits fram i OECD:s AI-riktlinjer.  
• Den riskindelning av AI-system som ursprungliga AI Act bygger på ska förändras och förtydligas, liksom ansvarsfördelningen vad gäller vissa AI-system med komplexare värdekedjor.

Undantag för allmänna intressen

• Tillämpningsområdet för AI Act ska snävas in; AI Act ska inte längre omfatta användande av AI-system när syftet är nationell säkerhet, renodlade forsknings- eller militära ändamål eller vid icke-professionellt bruk.
• Möjligheten för brottsbekämpande myndigheter att använda AI ska utvidgas, men samtidigt få högre krav på kontroll. Exempelvis får brottsbekämpande myndigheter möjlighet att använda högrisk-AI i nödsituationer. Undantaget är kombinerat med en ny säkerhetsmekanism för att minimera missbruk av AI-system och säkerställa skyddet för grundläggande rättigheter.  

Möjlighet att introducera högrisk-AI

• Större möjligheter att introducera högrisk-AI på den europeiska marknaden ska införas. Detta ska dock samtidigt balanseras genom krav på transparens och konsekvensanalyser innan en sådan produkt får släppas på EU:s inre marknad.  

Främjande av innovation inom EU

• Förenklingar ska införas för mindre företag och start-ups som vill utveckla AI, genom bland annat regulatoriska sandlådor och nationell testning i verkliga miljöer. Dessutom införs beloppsgränser vad gäller sanktioner för sådana företag.  

Ökad omfattning av högrisk-AI

• Generell artificiell intelligens (General Purpose AI) och stora språkmodeller (Foundation Models) ska inkluderas i definitionen av högrisk-AI, för de fall om någon av dessa inkluderas i ett högrisksystem.
• Dessa typer av system ska också få nya och hårdare krav på transparens och förhållningsregler.

Nya övervakande organ  

En ny övervakande arkitektur ska införas för att bemöta behovet av införlivande av de nya reglerna om GPAI. Följande organ kommer tillkomma i och med överenskommelsen:  

• Ett AI-kontor (AI Office) som ska övervaka avancerade AI-system och regelefterlevnaden.  
• En vetenskaplig panel (Scientific Panel) som ska ha en rådgivande funktion kring GPAI-modeller och även övervaka risker.  
• En AI-styrelse (AI Board) ska koordinera översynsarbetet och fungera som ett rådgivande forum för intressenter.  
• ”Klagomål” ska vara möjliga att lämna till en marknadsövervakande instans.  
• Företag som använder högrisk-AI måste registreras i EU:s databas.

AI Act låter spännande, men vad är då AI Pact?

I vad som odiskutabelt måste betraktas som äldre nyheter i AI-sammanhang så lanserade EU-kommissionen den 15 november 2023 initiativet AI Pact; en frivillig sammanslutning av företag som betraktar sig som förlöpare kring ansvarsfull utveckling av AI och en förtida implementering av AI Act. AI Pact är alltså en frivillig möjlighet att anmäla intresse till EU-kommissionen för att kunna dela med sig av erfarenheter och know-how inför införandet av AI Act. Just nu samlar EU-kommissionen in intresseanmälningar från sådana företag, och tanken är att en första samling ska äga rum under första kvartalet 2024.  

AIlt glasklart…eller?

Har du frågor eller funderingar gällande AI, AI Act, AI Pact eller behov av stöd, styrdokument eller rutiner kring det? Då kan du vända dig till Forefront! Vi på Forefronts Legal Services hjälper gärna till med det, och mer därtill. Här kan du läsa mer om det, och allt det andra som vi också kan hjälpa till med.