canonical: https://powerquant.dk/blog/eu-ai-act-diskrimination-rekruttering-ai-bias
Rekrutterings-AI lover effektivitet: tusindvis af CV'er screenet på sekunder, video-interviews analyseret automatisk, kandidater rangordnet efter "objektive" algoritmer. Men bag løftet om neutralitet gemmer sig en juridisk og etisk tidsindstillet bombe. EU AI Act, GDPR og dansk diskriminationslovgivning skaber tilsammen et komplekst krav til enhver virksomhed, der anvender AI i rekrutteringsprocessen — og fristen nærmer sig hurtigt.
Denne artikel gennemgår de centrale juridiske krav, konkrete risici og en praktisk compliance-guide til HR-afdelinger, der ønsker at bruge rekrutterings-AI uden at ende i retten.
Annex III: Rekrutterings-AI er høj-risiko per definition
EU AI Act trådte i kraft den 1. august 2024. Den vigtigste dato for HR-afdelinger er imidlertid 2. august 2026 — den dato, hvor Annex III-forpligtelserne for høj-risiko AI-systemer bliver fuldt gældende og håndhævet.
Annex III punkt 4 klassificerer AI-systemer til følgende formål som høj-risiko:
Det betyder i praksis: Næsten enhver virksomhed, der anvender et moderne ATS (Applicant Tracking System) med AI-funktioner, et video-interview-analyseværktøj eller en automatiseret kandidat-ranking, er allerede i høj-risiko-territoriet — uanset om man tænker på det som "rigtig AI" eller blot "software med filtre."
Høj-risiko-klassifikationen udløser en lang række obligatoriske krav, som vi gennemgår nedenfor. Manglende overholdelse af Annex III høj-risiko-forpligtelserne kan koste op til 15 millioner euro eller 3% af den globale årlige omsætning (Art. 99 stk. 4) — det højeste af de to. Overtrædelse af Art. 5-forbudsparagrafferne udløser den højeste tier på op til 35 millioner euro eller 7% (Art. 99 stk. 3).
Hvad er AI-diskrimination? Direkte og indirekte bias forklaret
For at forstå risiciene er det nødvendigt at skelne mellem to former for diskrimination, som begge er forbudte under dansk og europæisk ret:
Direkte diskrimination
Direkte diskrimination opstår, når et AI-system eksplicit bruger en beskyttet egenskab — køn, alder, etnisk oprindelse, religion, handicap, seksuel orientering — som beslutningskriterium. Et eksempel: En algoritme, der sorterer kvinder fra til lederstillinger, fordi modellen er trænet på historiske data, hvor mænd dominerede lederniveauet. Det er åbenlys diskrimination og klart forbudt.
Indirekte diskrimination
Indirekte diskrimination er langt vanskeligere at opdage og mindst lige så alvorlig juridisk. Her bruges tilsyneladende neutrale kriterier, der i praksis stiller en bestemt gruppe ringere. Eksempler:
Begge former er forbudte. Indirekte diskrimination kræver blot, at effekten — ikke intentionen — er diskriminerende.
Konkrete eksempler fra praksis
CV-screening-algoritmer
Amazon måtte i 2018 afvikle et internt CV-screening-system, fordi det systematisk nedprioriterede kvinders ansøgninger. Systemet var trænet på 10 års historiske ansættelsesdata — data, der afspejlede en mandsdomineret teknologibranche. Resultatet: algoritmen lærte at penalisere ord som "kvindernes" (fx "kvindernes skakklub") og uddannelser fra kvindeuniversiteter. Dette er lærebogs-eksemplet på historisk bias i træningsdata, der reproducerer og forstærker eksisterende ulighed.
Video-interview-AI
Systemer som HireVue og tilsvarende platforme analyserer ansøgeres ansigtsudtryk, stemmekvalitet og ordvalg under videooptagede interviews. Forskning har dokumenteret, at disse systemer kan favorisere bestemte udtryksformer, der er kulturelt betingede — og dermed systematisk diskriminere mod neurodivergente personer, folk med talevanskeligheder eller ansøgere med anden kulturel baggrund.
Psykometriske vurderingsmodeller
Mange virksomheder bruger AI-drevne personlighedstests som del af rekrutteringsprocessen. Problemet opstår, når disse modeller korrelerer "ønskede" personlighedstræk med demografiske faktorer, som fx alder. En model, der favoriserer "høj tilpasningsevne" og "åbenhed for forandring", kan systematisk diskriminere mod ældre ansøgere — ikke fordi de er dårligere, men fordi træningsdataene associerer disse træk med yngre kandidater.
Art. 10 EU AI Act: Datakvalitet og historisk bias
Artikel 10 i EU AI Act stiller eksplicitte krav til datakvaliteten i høj-risiko AI-systemer. Kravene er særligt relevante i rekrutteringssammenhæng:
Art. 10(2): Trænings-, validerings- og testdata skal undergå relevante dataforvaltningspraksisser, herunder undersøgelse af mulige bias, der kan påvirke sundheden, sikkerheden eller de grundlæggende rettigheder.
Art. 10(3): Datamaterialerne skal være relevante, repræsentative, fri for fejl og komplette — i det omfang det er teknisk muligt set i lyset af det tilsigtede formål.
Art. 10(5): I det omfang det er strengt nødvendigt for at opdage og korrigere bias, kan der behandles følsomme personoplysninger — men kun under skærpede betingelser, herunder tekniske og organisatoriske sikkerhedsforanstaltninger.
I praksis betyder dette: HR-afdelinger, der deployer rekrutterings-AI, skal kunne dokumentere, at de enten selv har undersøgt om træningsdataene er behæftet med bias, eller at leverandøren har gjort det og stillet dokumentationen til rådighed.
Art. 13 EU AI Act: Gennemsigtighed — jobsøgere har ret til at vide, det sker
Artikel 13 kræver, at høj-risiko AI-systemer er transparente over for brugerne — her forstået som virksomheden selv som deployer. Men gennemsigtighed over for de berørte jobsøgere er et selvstændigt krav, der dels udspringer af Art. 13, dels af GDPR.
Art. 13(1) kræver, at systemer designes og udvikles på en måde, der sikrer tilstrækkelig transparens, så deployere kan fortolke systemets output og anvende det korrekt.
Art. 13(3) opstiller en detaljeret liste over oplysninger, der skal fremgå af