Når en borger ansøger om kontanthjælp, sygedagpenge eller børnetilskud, træffes afgørelsen i stigende grad med støtte fra digitale systemer. Kommunernes sagsbehandlingssoftware — leveret af leverandører som KMD og Schultz — indeholder i dag algoritmer, der screener ansøgninger, vurderer berettigelse og i nogle tilfælde automatisk beregner ydelsesbeløb. Fra 2. august 2026 ændrer EU AI Act fundamentalt på, hvad der er lovligt og hvad der kræver dokumentation.
Denne artikel gennemgår de centrale krav, som EU AI Act stiller til kommuner og deres IT-leverandører i det sociale arbejde — og hvad socialforvaltningerne skal gøre allerede nu.
Annex III, Kategori 5(c): Social-AI er høj-risiko per definition
EU AI Act klassificerer AI-systemer i risikokategorier. For det sociale arbejde er det afgørende, at Annex III, kategori 5(c) udtrykkeligt nævner AI-systemer der anvendes "til at vurdere berettigelse til sociale sikringsydelser og -tjenester, herunder vurdering af berettigelse og tildeling af ydelser, tjenesteydelser, og undtagelser hertil, eller til at reducere, tilbageholde eller inddrage sådanne ydelser" som høj-risiko-AI-systemer.
Det betyder, at enhver AI-understøttet proces der:
- vurderer borgeres ret til kontanthjælp, aktivering eller ressourceforløb
- beregner eller anbefaler ydelsesniveauer for sygedagpenge
- screener ansøgninger om børnetilskud, boligstøtte eller andre offentlige ydelser
- prioriterer eller rangerer borgere i ventelister til sociale tilbud
...er underlagt de fulde forpligtelser i EU AI Act for høj-risiko-systemer. Klassificeringen gælder uanset om det er kommunen selv eller en ekstern leverandør der drifter systemet.
Hvad er konsekvensen? Systemerne skal risikovurderes, dokumenteres, overvåges løbende og — afgørende — underlægges reel menneskelig kontrol, inden en afgørelse meddeles borgeren.
GDPR Artikel 22: Forbuddet mod rene automatiserede afgørelser
Parallelt med EU AI Act gælder GDPR Artikel 22, der forbyder, at fysiske personer udelukkende underkastes automatiserede afgørelser — herunder profilering — der har retsvirkning eller på tilsvarende måde betydeligt påvirker dem.
For sociale ydelser er dette forbud særligt relevant: Kontanthjælp, sygedagpenge og børnetilskud er netop afgørelser med direkte retsvirkning for borgerne. Et system der automatisk afsender et afslag på sygedagpenge, uden at et menneske har vurderet sagen, er i strid med GDPR Art. 22, medmindre én af undtagelserne i Art. 22, stk. 2 finder anvendelse — herunder at borgeren har givet udtrykkeligt samtykke, eller at behandlingen er hjemlet i national ret med tilstrækkelige retssikkerhedsforanstaltninger.
Kommunerne kan ikke overlade den endelige afgørelse til en algoritme. Det er ikke blot et politisk valg — det er et juridisk krav.
Praktisk konsekvens: Systemet må alene understøtte sagsbehandleren. Den menneskelige sagsbehandler skal reelt læse sagen, vurdere systemets anbefaling kritisk og tage den endelige beslutning. Stemplet "godkendt af sagsbehandler" på en afgørelse, der er produceret automatisk uden reel menneskelig vurdering, opfylder ikke kravet.
Forvaltningsloven §§ 19–22: Partshøring og begrundelse i AI-understøttede sager
Forvaltningsloven stiller krav om partshøring (§§ 19–20), begrundelse (§§ 22–24) og klagevejledning (§ 25) ved afgørelser. Disse krav skærpes markant, når sagsbehandlingen understøttes af AI.
Partshøring (§§ 19–20): Borgeren skal høres, inden der træffes en afgørelse der er bebyrdende for vedkommende. Når afgørelsen er baseret på en AI-beregning, skal borgeren have mulighed for at kommentere på de faktorer som algoritmen har lagt vægt på — ikke blot på de faktuelle oplysninger. Det er i praksis svært, hvis systemet er en "black box".
Begrundelse (§ 22): Afgørelsen skal begrundes. Når en AI har analyseret sagen, er det utilstrækkeligt at skrive "jf. aktivlovens § X". Sagsbehandleren skal kunne forklare, hvad der konkret lagde til grund for afgørelsen — herunder om og hvordan AI-systemets anbefaling indgik i vurderingen.
EU AI Act Art. 13 om gennemsigtighed og Art. 86 om rettigheder i forbindelse med automatiserede afgørelser supplerer disse nationale krav. Borgeren har ret til meningsfuld information om den logik, der er anvendt i AI-systemet, og om de mulige konsekvenser af den automatiserede behandling.
EU AI Act Artikel 13: Borgerne skal oplyses om AI-brug
EU AI Act Art. 13 kræver, at høj-risiko-AI-systemer er udformet og udviklet på en måde, der sikrer tilstrækkelig gennemsigtighed over for de "deployers" — i dette tilfælde kommunerne — der anvender dem. Kommunerne er som deployers ansvarlige for, at borgerne informeres om, at AI bruges i sagsbehandlingen.
I praksis indebærer dette:
- Klar kommunikation til borgeren om at sagsbehandlingen understøttes af et automatiseret system
- Oplysning om systemets formål og funktionsmåde på et niveau, borgeren kan forstå
- Dokumentation af de væsentligste input-parametre som systemet anvender i vurderingen
Kommunerne skal opdatere borgerbrev-skabeloner, digitale ansøgningsformularer og afgørelsesbreve, så det fremgår tydeligt, at AI indgår i sagsbehandlingen. Dette er ikke valgfrit efter 2. august 2026 — det er et lovkrav.
EU AI Act Artikel 14: Hvad er "reel" menneskelig kontrol i kommunalt regi?
Art. 14 i EU AI Act stiller krav om, at høj-risiko-AI-systemer skal designes og implementeres, så menneskelige operatører løbende kan overvåge, forstå, gribe ind og om nødvendigt tilsidesætte systemets output.
Men hvad er "reel" menneskelig kontrol, når en kommunal sagsbehandler behandler 30–40 sager dagligt? Her er risikoen for automation bias — den menneskelige tendens til at stole ukritisk på computersystemers anbefalinger — særligt stor.
EU AI Act kræver konkret:
- Sagsbehandleren skal forstå systemets kapacitet og begrænsninger (Art. 14, stk. 4). Det forudsætter løbende undervisning og AI-literacy-krav (jf. Art. 4).
- Sagsbehandleren skal aktivt vurdere systemets anbefaling — ikke blot ekspedere den videre. Systemet bør udformes, så sagsbehandleren tvinges til at tage eksplicit stilling.
- Mulighed for tilsidesættelse: Sagsbehandleren skal teknisk og proceduremæssigt have adgang til at afvige fra systemets anbefaling uden barrierer.
- "Human-in-the-loop" er ikke tilstrækkeligt, hvis mennesket reelt blot ekspederer systemets afgørelse videre uden at forstå eller vurdere den. Art. 14 kræver, at sagsbehandleren har den faglige kapacitet og de tidsmæssige ressourcer til at udøve ægte faglig skøn.
Kommunerne vil i praksis have behov for at gendesigne arbejdsgange, uddanne medarbejdere i AI-literacy (jf. Art. 4, der har været i kraft siden 2. februar 2025) og etablere dokumenterede procedurer, der sikrer, at menneskelig kontrol faktisk finder sted. Dette er ikke blot et teknisk krav — det er et organisatorisk og kulturelt forandringsprojekt.
Konklusion: Kommunerne har pligt til at handle nu
EU AI Acts krav til AI i socialt arbejde er ikke vage hensigtserklæringer — de er juridisk bindende forpligtelser, der træder i kraft den 2. august 2026. Kommuner og private leverandører af sociale tjenester, der i dag bruger AI-understøttede sagsbehandlingssystemer, skal inden da have kortlagt systemernes risikoklassificering, etableret dokumentationsprocesser, opdateret borgerinformation og sikret reel menneskelig kontrol med afgørelserne. Passivitet er ikke en mulighed — det er en potentiel overtrædelse af både EU AI Act og den eksisterende forvaltningsretlige regulering.