word_count_target: 2300
Når en borger ansøger om kontanthjælp, sygedagpenge eller børnetilskud, træffes afgørelsen i stigende grad med støtte fra digitale systemer. Kommunernes sagsbehandlingssoftware — leveret af leverandører som KMD og Schultz — indeholder i dag algoritmer, der screener ansøgninger, vurderer berettigelse og i nogle tilfælde automatisk beregner ydelsesbeløb. Fra 2. august 2026 ændrer EU AI Act fundamentalt på, hvad der er lovligt og hvad der kræver dokumentation.
Denne artikel gennemgår de centrale krav, som EU AI Act stiller til kommuner og deres IT-leverandører i det sociale arbejde — og hvad socialforvaltningerne skal gøre allerede nu.
Annex III, Kategori 5(c): Social-AI er høj-risiko per definition
EU AI Act klassificerer AI-systemer i risikokategorier. For det sociale arbejde er det afgørende, at Annex III, kategori 5(c) udtrykkeligt nævner AI-systemer der anvendes "til at vurdere berettigelse til sociale sikringsydelser og -tjenester, herunder vurdering af berettigelse og tildeling af ydelser, tjenesteydelser, og undtagelser hertil, eller til at reducere, tilbageholde eller inddrage sådanne ydelser" som høj-risiko-AI-systemer.
Det betyder, at enhver AI-understøttet proces der:
...er underlagt de fulde forpligtelser i EU AI Act for høj-risiko-systemer. Klassificeringen gælder uanset om det er kommunen selv eller en ekstern leverandør der drifter systemet.
Hvad er konsekvensen? Systemerne skal risikovurderes, dokumenteres, overvåges løbende og — afgørende — underlægges reel menneskelig kontrol, inden en afgørelse meddeles borgeren.
GDPR Artikel 22: Forbuddet mod rene automatiserede afgørelser
Parallelt med EU AI Act gælder GDPR Artikel 22, der forbyder, at fysiske personer udelukkende underkastes automatiserede afgørelser — herunder profilering — der har retsvirkning eller på tilsvarende måde betydeligt påvirker dem.
For sociale ydelser er dette forbud særligt relevant: Kontanthjælp, sygedagpenge og børnetilskud er netop afgørelser med direkte retsvirkning for borgerne. Et system der automatisk afsender et afslag på sygedagpenge, uden at et menneske har vurderet sagen, er i strid med GDPR Art. 22, medmindre én af undtagelserne i Art. 22, stk. 2 finder anvendelse — herunder at borgeren har givet udtrykkeligt samtykke, eller at behandlingen er hjemlet i national ret med passende er.
Kommunerne kan ikke overlade den endelige afgørelse til en algoritme. Det er ikke blot et politisk valg — det er et juridisk krav.
Praktisk konsekvens: Systemet må alene *understøtte* sagsbehandleren. Den menneskelige sagsbehandler skal reelt læse sagen, vurdere systemets anbefaling kritisk og tage den endelige beslutning. Stemplet "godkendt af sagsbehandler" på en afgørelse, der er produceret automatisk uden reel menneskelig vurdering, opfylder ikke kravet.
Forvaltningsloven §§ 19–22: Partshøring og begrundelse i AI-understøttede sager
Forvaltningsloven stiller krav om partshøring (§§ 19–20), begrundelse (§§ 22–24) og klagevejledning (§ 25) ved afgørelser. Disse krav skærpes markant, når sagsbehandlingen understøttes af AI.
Partshøring (§§ 19–20): Borgeren skal høres, inden der træffes en afgørelse der er bebyrdende for vedkommende. Når afgørelsen er baseret på en AI-beregning, skal borgeren have mulighed for at kommentere på de faktorer som algoritmen har lagt vægt på — ikke blot på de faktuelle oplysninger. Det er i praksis svært, hvis systemet er en "black box".
Begrundelse (§ 22): Afgørelsen skal begrundes. Når en AI har analyseret sagen, er det utilstrækkeligt at skrive "jf. aktivlovens § X". Sagsbehandleren skal kunne forklare, hvad der konkret lagde til grund for afgørelsen — herunder om og hvordan AI-systemets anbefaling indgik i vurderingen.
EU AI Act Art. 13 om gennemsigtighed og Art. 86 om rettigheder i forbindelse med automatiserede afgørelser supplerer disse nationale krav. Borgeren har ret til meningsfuld information om den logik, der er anvendt i AI-systemet, og om de mulige konsekvenser af den automatiserede behandling.
EU AI Act Artikel 13: Borgerne skal oplyses om AI-brug
EU AI Act Art. 13 kræver, at høj-risiko-AI-systemer er udformet og udviklet på en måde, der sikrer tilstrækkelig gennemsigtighed over for de "deployers" — i dette tilfælde kommunerne — der anvender dem. Kommunerne er som deployers ansvarlige for, at borgerne informeres om, at AI bruges i sagsbehandlingen.
I praksis indebærer dette:
Kommunerne skal opdatere borgerbrev-skabeloner, digitale ansøgningsformularer og afgørelsesbreve, så det fremgår tydeligt, at AI indgår i sagsbehandlingen. Dette er ikke valgfrit efter 2. august 2026 — det er et lovkrav.
EU AI Act Artikel 14: Hvad er "reel" menneskelig kontrol i kommunalt regi?
Art. 14 i EU AI Act stiller krav om, at høj-risiko-AI-systemer skal designes og implementeres, så menneskelige operatører løbende kan overvåge, forstå, gribe ind og om nødvendigt tilsidesætte systemets output.
Men hvad er "reel" menneskelig kontrol, når en kommunal sagsbehandler behandler 30–40 sager dagligt? Her er risikoen for automation bias — den menneskelige tendens til at stole ukritisk på computersystemers anbefalinger — særligt stor.
EU AI Act kræver konkret: