En överenskommelse kring AI-förordningen har uppnåtts

Artificiell intelligens (AI) är och har varit ett hett ämne under de senaste åren. Med överenskommelsen av den 8 december 2023 mellan Europeiska rådet och Europaparlamentet har Europa tagit ett stort och viktigt steg inför antagandet av unionsövergripande regler som specifikt avser AI.

Bakgrund

I april 2021 presenterade EU-kommissionen ett förslag till en rättsakt (en förordning) om AI. Syftet var att skapa en enhetlig och övergripande rättslig ram kring AI. Förslaget baserade sig på ett riskbaserat angreppssätt som bäst kan beskrivas som att ju högre risk, desto strängare regler.

Förslaget har därefter behandlats av rådet och parlamentet, som slutligen nådde en överenskommelse den 8 december 2023. Nu ska arbetet med förslaget slutföras och Belgien ska som rådets ordförandeland lägga fram ett slutligt förslag för godkännande av medlemsstaternas företrädare. Det slutliga förslaget förväntas presenteras i februari/mars.

Överenskommelsens innehåll

Vid en jämförelse med kommissionens ursprungliga förslag till AI-förordning kan de viktigaste förändringarna i överenskommelsen sammanfattas på följande sätt:

• specifika regler kring AI-modeller som kan användas för olika ändamål (general-purpose AI models) som samtidigt kan ha stor påverkan samt AI-system vars användning är förknippade med hög risk,
• utvidgning av förbjudna tillämpningar och förbjuden användning av AI,
• införande av en skyldighet att genomföra en konsekvensbedömning avseende grundläggande fri- och rättigheter innan ett AI-system, med inneboende hög risk, tas i bruk,
• inrättande av ett AI-kontor och andra mekanismer för översyn och styrning (governance)

Viktigare nyheter

Vi skulle särskilt vilja lyfta fram följande relevanta aspekter i överenskommelsen:

Grundmodeller

Grundmodeller samt större AI-system som kan användas för att utföra ett brett spektrum av olika uppgifter, såsom att generera video, text eller datorkod, föreslås underkastas ytterligare reglering i förhållande till tidigare förslag. Utöver detta föreslås att grundmodeller måste uppfylla särskilda krav kring öppenhet innan de lanseras kommersiellt.

Konsekvensbedömning avseende grundläggande rättigheter

I överenskommelsen föreskrivs det att leverantörer av AI-system med hög risk ska genomföra en konsekvensbedömning avseende grundläggande fri- och rättigheter innan sådana system lanseras kommersiellt.

Ett AI-kontor (AI Office) och andra ”governance”-aktörer

Ett AI-kontor (AI Office) ska inrättas inom kommissionen. Kontoret kommer att övervaka de mest avancerade AI-modellerna (general-purpose AI models) samt säkerställa att reglerna efterlevs av samtliga medlemsländer. AI-kontoret kommer att kunna söka stöd och råd från en panel av oberoende vetenskapliga experter.

En AI-styrelse (AI Board), bestående av företrädare för medlemsländerna, kommer att verka som en samordningsplattform och ett rådgivande organ till kommissionen. Utöver detta kommer ett rådgivande forum att inrättas för intressenter i syfte att kunna bistå AI-kontoret med teknisk expertis.

Sanktioner

Den föreslagna modellen avseende sanktioner för överträdelser av AI-förordningen uppvisar likheter med den som gäller enligt GDPR. Finansiella sanktioner föreslås och dessa ska, som huvudregel, kunna uppgå till en procentandel av en felande aktörs globala årsomsättning under föregående räkenskapsår eller ett förutbestämt belopp. Sanktionerna kan komma att uppgå till 35 miljoner euro eller 7 % av den globala årsomsättningen för överträdelser avseende förbjudna AI-tillämpningar, 15 miljoner euro eller 3 % av den globala årsomsättningen för överträdelser av skyldigheter enligt förordningen samt 7,5 miljoner euro eller 1,5 % av den globala årsomsättningen för tillhandahållande av felaktig information.

Cirios kommentarer kring AI-förordningen och framtiden för AI

Cirio välkomnar AI-förordningen då den medför tydlighet och förutsägbarhet kring utveckling och användning av AI. Det är dock viktigt att ha i åtanke att även om AI-förordningen kommer att ta ett mer sammanhållet grepp kring AI, finns det redan regler som gäller för användning av AI. Sådana regler kommer att gälla även efter antagandet av AI-förordningen.

Utöver rättsliga bedömningar kommer även andra åtgärder att behöva vidtas för att kunna frigöra den fulla potentialen av tillämpning av AI. Således kommer AI-förordningen att enbart utgöra en av flera pusselbitar för företag och andra aktörer att ta hänsyn till vid implementering av AI. Vissa av de aspekter som kan behöva beaktas är följande:

Korrekta och ändamålsenliga data

Eftersom utveckling, användning och finjustering av AI-system är ofrånkomligt kopplat till och förutsätter korrekta och ändamålsenliga data är det viktigt att identifiera och förbereda den data som önskas användas innan AI-funktionalitet läggs till. Om så inte sker, kan resultatet bli felaktigt och oanvändbart.

Begränsningar i användningen av data samt immaterialrätt

En fundamental aspekt avseende data och AI är möjligheten att kunna använda data. Det kan finnas lagstadgade eller avtalsenliga begränsningar som förhindrar vidareanvändning av data. I andra fall kan användning av data leda till sanktioner eller avtalsbrott. Ett annat centralt område att beakta är identifiering av eventuella immaterialrättsliga rättigheter.

Det är sammanfattningsvis viktigt att sträva efter en god kvalitet på data och att säkerställa att användningen av sådana inte begränsas av lagar, avtal, immateriella rättigheter eller andra skäl.

Personuppgifter

AI-funktionalitet kan basera sig på och innefatta användning av personuppgifter. Det är högst sannolikt att många AI-system kommer att baseras och tränas på personuppgifter samt att personuppgifter kommer att behandlas i form av antingen in- eller utdata. Som en följd av detta är det viktigt att notera att GDPR kommer att vara tillämplig i sådana situationer. Det är därför nödvändigt att efterleva relevanta bestämmelser i GDPR vid behandling av personuppgifter i samband med användning av AI.

Ansvar

Andra viktiga områden att beakta är ansvar och skyldigheter. Eftersom den kommande AI-förordningen kommer att ställa krav på aktörer inom AI:s livscykel samt då dessa krav skiljer sig åt beroende på aktörens roll, är det viktigt att identifiera vilken roll man kommer att inta (användare, utvecklare, leverantör etc.).

Risker, due diligence, försäkringar och intern styrning

För att kunna hantera och minimera risker är det viktigt att ha en god kunskap och kännedom om de verktyg som används och dess leverantörer. Det är vidare viktigt att reglera relationerna och användningen av verktygen genom lämpliga avtal och överenskommelser. Det är även viktigt att utreda och bedöma om framtida användning av AI kräver förändringar av befintliga försäkringar.

För att fortlöpande kunna hantera risker och efterleva regelverk är det vidare viktigt att ha erfarna medarbetare och ett fastställt ramverk för intern styrning. Detta är särskilt viktigt i och med att användning av AI för närvarande medför höga risker som behöver övervakas, bedömas och hanteras på ett strukturerat sätt.

Sammanfattning

Sammanfattningsvis kan sägas att även om stora steg har tagits för att reglera AI på ett mer sammanhållet sätt kommer det rättsliga landskapet att fortsätta vara fragmenterat och utmanande. Vidare kommer utveckling och användning av AI inte bara att förutsätta efterlevnad av rättsliga krav, utan även att åtgärder vidtas i förhållande till såväl interna som externa aktörer. Som exempel kan due diligence av leverantörer, intern styrning samt åtgärder kring cyber-, IT- och informationssäkerhet särskilt nämnas. Det är därför vår rekommendation att aktörer som önskar genomföra aktiviteter inom AI-området fastställer och dokumenterar en tydlig och sammanhållen AI-strategi.

Även om den kommande AI-förordningen kommer att tillämpas fullt ut först två år efter att den har trätt i kraft är det viktigt att agera proaktivt och analysera, förbereda och anpassa sig och sin verksamhet till den för att ligga i framkant när reglerna träder i kraft. Det kan också noteras att flera krav som rör AI kommer att läggas fram och införas löpande, det vill säga innan det att AI-förordningen träder i kraft fullt ut. Detta kommer att ske genom rättsliga och frivilliga åtgärder som initieras av kommissionen.

Cirio kommer att noggrant följa utvecklingen av AI-förordningen och vill gärna vara med på din AI-resa, så tveka inte att höra av dig till oss om du vill veta mer.