Förra året trädde den nya EU-förordningen om Artificiell Intelligens i kraft. Den kommer att få stor inverkan på arbetslivet då rekrytering, anställning och arbetsledning tillhör utpekade högriskområden för AI-användning. Kompletterande lagstiftning är under utredning och enligt advokat Anders Etgen Reitz och biträdande juristen Alexandra Jensen är det hög tid för företag och myndigheter på allvar börja förbereda sig för det nya regelverket.
Alexandra Jensen och Anders Etgen Reitz på IUNO
AI-förordningen ska säkerställa att AI-system används på ett säkert sätt och att medborgarnas rättigheter respekteras. Detta kommer att ha stor inverkan på företag och deras anställda eftersom AI-system redan har blivit en integrerad del av många arbetsplatser. AI förordningen ställer flera krav på system som används inom HR-området, och det innebär även nya krav på de som använder sig av systemet.
AI har skapat ett hav av möjligheter över hela världen, men har också medfört nya utmaningar och risker för dem som använder det. Syftet med AI förordningen är att förbättra den inre marknadens funktion. Detta ska ske genom att fastställa en enhetlig rättslig ram för bland annat utvecklingen, utsläppandet, och användning av system för artificiell intelligens i EU. Även marknaden för AI-systemen ska ges en rättslig ram. En annan aspekt som ska förbättra den inre marknadens funktion är främjandet av användningen av människocentrerad och tillförlitlig intelligens.
Förordningar är direkt tillämpliga i medlemsstater, men kan förutsätta kompletterande nationella bestämmelser. Därför har regeringen i Dir. 2024:83 gett i uppdrag till en utredare att lämna förslag på regleringar i olika frågor, kartlägga behov av nationell anpassning till följd av förordningen, samt göra konsekvensbeskrivningar. Uppdraget ska redovisas senast den 30 september i år. Efter detta kommer det skrivas en proposition som baseras på vad utredaren har kommer fram till. I huvudsak ska utredaren:
1. Föreslå ett system för att säkerställa efterlevnaden av AI förordningen
2. Identifiera ytterligare anpassningar som behövs på grund av AI förordningen
3. Föreslå nödvändiga lagändringar.
AI-systemen delas in i riskklasser
AI-förordningens regler kommer att börja gälla löpande fram till augusti 2027 och kommer att påverka alla företag som använder sig av någon form av AI. AI-förordningens regelsystem har utarbetats genom en riskbaserad metod och det har skapats en strukturerad uppdelning mellan olika typer av AI-system och deras användningsområden. Principen är att ju större risk AI-systemet utgör, desto fler krav kommer att ställas på det företag som använder systemet.
- AI-system med hög risk: Hit hör system som används för att rekrytera eller välja ut sökande eller fatta anställningsbeslut, t.ex. befordra eller säga upp en anställd. Företag som använder dessa system måste se till att de används i enlighet med instruktioner, att personer med rätt utbildning och kompetens övervakar dem och att de anställda informeras om att systemen används på dem.
- AI-system med begränsad risk: Detta är de allra flesta AI-system som används idag, till exempel personliga assistenter, chatbots och annonser med AI. Företag som använder dessa system behöver inte följa några nya krav och regler. Däremot måste de säkerställa att de använder systemen enlighet med befintlig lagstiftning, t.ex. GDPR.
- AI-system med minimal risk: Det handlar t.ex om stora generativa AI-modeller som kan användas för allmänna ändamål som att lösa olika uppgifter och skapa nytt innehåll. Företag som använder dessa system behöver inte uppfylla nya krav eller regler.
Utöver risknivån ställer AI förordningen också krav beroende på vilken roll och vilket ansvar en aktör har i AI-systemets värdekedja. Vissa AI-system, som system som kan klassificera en anställds personlighetsdrag över tid, har redan blivit helt förbjudna. Förbudet började gälla i februari 2025.
Särskilt om det högsta riskområdet
I bilaga tre till AI förordningen har det listats vilka områden som AI-system används i som ska anses ha en hög risk enligt förordningen. Det handlar om följande åtta områden:
- Biometri
- Kritisk infrastruktur
- Utbildning och yrkesutbildning
- Anställning, arbetsledning och tillgång till egenföretagande
- Tillgång till och åtnjutande av väsentliga privata tjänster och väsentliga offentliga tjänster och förmåner
- Brottsbekämpning
- Migration, asyl och gränskontrollförvaltning
- Rättsskipning och demokratiska processer
I punkt fyra anges det att AI-system som används i samband med anställning, arbetsledning och tillgång till egenföretagande ska anses som hög risk AI-system. Det går alltså att separera system i de som antingen används i anställningsförfarandet, eller de som används för att leda det dagliga arbetet.
För de system som används i anställningsförfarandet menas AI-system som är avsedda för att användas för att rekrytera eller göra ett urval av fysiska personer. Här anges även särskilt AI-system som är avsedda för att publicera riktade platsannonser, analyser och filtrera platsansökningar och utvärdera kandidater.
Med de system som används för att leda det dagliga arbetet menas AI-system som är avsedda att användas för att fatta beslut som påverkar villkoren för arbetsrelaterade förhållanden, befordringar och uppsägningar av arbetsrelaterade avtalsförhållanden.
AI förordningen omfattar även system som används för uppgiftsfördelning baserat på individuellt beteende eller personlighetsdrag, samt system som används för att övervaka och utvärdera prestationer och beteende i samband med sådana tillstånd.
Beroende på vilket system det gäller behöver företag följa de nya reglerna från och med den 2:a augusti 2026 eller 2027.
Faran med AI i arbetslivet motiverar ”hög risk”
Användningen av AI har inneburit helt nya förutsättningar och möjligheter för hur företag arbetar. Det finns dock en inbyggd risk med att använda AI-system när det kommer till personalhantering.
AI-system tränas på en data som kan återspegla historiska och befintliga ojämlikheter i arbetslivet. Därför riskerar det leda till att AI-systemen tolkar datan som ett etablerat mönster som kan återspeglas i skillnader avseende kompetens och lämplighet. Därför riskerar de förslag eller beslut som AI-systemet producerar att reproducera skillnader mellan grupper. Samtidigt kan användningen av systemen märkbart påverka anställdas karriärutsikter, försörjning och rättigheter, varför de är klassificerade som högrisk AI-system.
I rapporten ”What does It mean to ’solve’ the problem of discrimination in hiring? Social, technical and legal perspectives from the UK on automated hiring systems” av Sánchez-Monedero m.fl presenteras bevis som tyder på att AI får en allt viktigare roll i anställningsbeslut inom arbetsmarknadssektorn när besluten underlättas av anställningsplattformar, eftersom anställningsplattformarna baserar sina rekryteringsbeslut på algoritmiska verktyg.
Kommissionens arbetsdokument och konsekvensbedömning av förordningen betonar att användning av diskriminerande AI-system i arbetslivet kan strida mot andra grundläggande rättigheter. Tillsammans med andra sektorer finns det en risk för att användningen av AI-system kan kränka rätten till utbildning, social trygghet, socialt bistånd och god förvaltning En sådan kränkning kan leda till samhälleliga konsekvenser och förstärka befintliga eller skapa nya former av strukturell diskriminering och utanförskap.
År 2023 sammanställde Diskrimineringsombudsmannen (DO) rapporten ”AI och risker för diskriminering i arbetslivet”. Rapporten samlade aktuell forskning om ämnet och innehåller en forskningsbaserad undersökning med 100 stora arbetsgivare och 10 rekryteringsföretag. Bland annat visade rapporten att många arbetsgivare inte vet om att de använder sig av AI eller automatiserat beslutsfattande. DO menar att det finns en risk att AI-lösningar redan är integrerade i företagets arbete och ibland kan vara okritiskt och omedvetet betrott av personerna som använder systemen. Om de som använder sig av systemen inte är medvetna om denna inbyggda risk eller inte medvetna om att ett AI-system ens finns på plats, finns det en risk att existerande ojämlikheter att omedvetet upprepas.
Vad kan företag göra idag?
För att kunna följa de nya reglerna, betyder det att HR-avdelningar först måste avgöra om de använder sig av AI-system eller inte. Som vi ser är de nya reglerna rätt så omfattande och täcker många olika användningsområden som har med HR att göra.
När ett AI-system av hög risk har konstaterats användas av ett företag, är det dags att sammanställa dess nuvarande användning och jämföra det med de nya reglerna. Används systemen i enlighet med bruksanvisningen? Har de personer som övervakar systemen rätt utbildning och kompetens? Har de anställda informerats om att systemen används på dem? Det är nödvändigt att göra jämförelsen i tid för att företaget ska ha god tid att upptäcka om det finns en lucka i vart de står idag och vart de behöver stå om ett år, och sedan hitta en passande åtgärda. Det är även viktigt att komma ihåg att lämna tid för implementeringen av åtgärderna.
Företag kan även börja bekanta sig med de nya reglerna, som bland annat innebär höga böter på upp till 7 % av företagets totala globala årsomsättning.
Förutom de nya reglerna måste AI-systemen fortfarande följa de allmänna reglerna, som t.ex. reglerna om diskriminering och dataskydd. Det är därför viktigt att komma ihåg att ett och samma AI-system kan vara i strid med flertalet regler.
Medvetenhet om AI och aktiva åtgärder är avgörande för att motverka diskriminering vid tillämpning av AI-system i arbetslivet. Samma regler gäller när AI-system används för manuell personalhantering.
Utöver att bekanta sig med reglerna i AI förordningen, är det självklart även nödvändigt att förhålla sig till de nationella bestämmelser som så småningom kommer att träda i kraft. I dessa kommer företag få viktig information gällande exempelvis vilken myndighet som kommer vara tillsynsmyndighet, om det kommer utses några ytterligare myndigheter för att säkerställa marknadsövervakning, marknadskontroll, styrning och kontroll av efterlevnaden reglerna, samt om det kommer några ytterligare nationella anpassningar.
Medan de svenska reglerna fortfarande arbetas fram är det intressant att se till Danmark. Den danska regeringen har redan lagt fram ett lagförslag som beskriver vilka myndigheter som ska säkra efterlevnaden av AI-förordningen och utfärda böter för överträdelser. Om lagförslaget godkänns kommer de nya reglerna att träda i kraft den 2:a augusti 2025.
Slutsats
AI-system som används inom personalhantering klassificeras som högrisk-system eftersom de har en inbyggd risk för diskriminering. Felaktig användning av dessa system kan ha en negativ inverkan på anställdas karriärmöjligheter, försörjning och rättigheter. Företag kan börja med att internt undersöka om och hur de använder AI-system i sin dagliga verksamhet. AI-systemet måste följa flera regler samtidigt, men företag riskerar böter på 7 % av företagets totala globala årsomsättning för att bryta mot AI förordningen. Beroende på vilket system som används måste företag följa de nya reglerna från och med den 2:a augusti 2026 eller 2027.
Publicerad: 2025-04-09