Art. 9 EU AI Act: Risikostyringssystem — Implementeringsguide 2026

Art. 9 er EU AI Acts krav om risikostyringssystem for høj-risiko AI-systemer — og det er fundamentet som mange af de øvrige compliance-krav hviler på. Uden et velfungerende risikostyringssystem kan en virksomhed ikke opfylde kravene om teknisk dokumentation (Art. 11), datakvalitet (Art. 10), transparens (Art. 13), menneskelig kontrol (Art. 14) eller nøjagtighed og robusthed (Art. 15).

Denne guide giver en struktureret tilgang til implementering af EU AI Act Art. 9 frem mod Annex III-deadlinen 2. december 2027 (forordning (EU) 2026/1744, i kraft 27. juli 2026).

Art. 9 stk. 1-2: Grundkravet — løbende og systematisk

Art. 9 stk. 1 fastslår at risikostyringssystemet for høj-risiko AI-systemer skal:

Etableres, implementeres, dokumenteres og vedligeholdes

Udgøre en løbende iterativ proces der løber i hele systemets livscyklus

Revideres ved ændringer i systemet eller ved nye kendte risici

"Løbende iterativ proces" er nøgleordet. EU AI Act Art. 9 er ikke et engangsdokument — det er en levende proces. Risikostyringssystemet skal aktivt opdateres baseret på driftserfaring (post-market surveillance), feedback fra brugere og deployers, og nye kendte risici i AI-litteraturen.

Livscyklusperspektiv: Risikostyringen starter fra systemets design-fase og fortsætter gennem udvikling, test, deployment og den løbende drift. Ændringer i systemet (modelopdateringer, nye use cases, ændrede input-data) udløser opdateret risikovurdering.

Art. 9 stk. 2: Risikoidentifikation

Art. 9 stk. 2 litra a kræver identifikation og analyse af de kendte og rimeligvis forudsigelige risici AI-systemet kan udgøre for sundhed, sikkerhed eller grundlæggende rettigheder. Dette inkluderer:

Type 1: Fejlrisici (systematiske og tilfældige):

Hvad sker der hvis systemet giver forkert output?

Hvad er sandsynlighed og alvor af fejl under typiske driftsbetingelser?

Hvad er worst-case-scenarier?

Type 2: Misbrugrisici:

Hvad sker der hvis systemet bruges uden for dets tilsigtede formål?

Hvad er risikoen ved rimeligvis forudsigeligt misbrug?

Type 3: Grundlæggende rettighedsrisici:

Kan systemet diskriminere direkte eller indirekte?

Påvirker systemet retten til privatlivets fred?

Kan systemet begrænse adgang til tjenester, rettigheder eller muligheder for bestemte grupper?

Type 4: Robusthed- og cybersikkerhedsrisici:

Hvad er systemets sårbarheder over for fejlinput, adversarial attacks og driftsforstyrrelser?

Hvad sker der ved distribuerede angreb (data poisoning, model inversion)?

Dokumentationsform: Risikoregistret er typisk implementeret som en struktureret matrix:

Risikoregistret indeholder typisk: Risiko-ID, risikobeskrivelse, sandsynlighed (L), konsekvens (C), risiko-score (L×C), mitigering og residualrisiko.

Art. 9 stk. 2: Risikoevaluering og acceptkriterier

Art. 9 stk. 2 litra b kræver evaluering af kendte og forudsigelige risici der kan opstå ved systemets brug i overensstemmelse med tilsigtet formål og ved rimeligvis forudsigeligt misbrug.

Risikoaccept-ramme: Organisationen bør definere eksplicitte acceptkriterier:

Acceptable risici: Lav sandsynlighed OG lav konsekvens — accepteres uden yderligere mitigering

ALARP-risici (As Low As Reasonably Practicable): Medium risiko — mitigeres til lavest praktisk mulige niveau

Uacceptable risici: Høj sandsynlighed ELLER høj konsekvens — kræver implementering af risikokontroller eller systemredesign

For høj-risiko AI-systemer er "uacceptable risici" systemer der udgør risici for borgeres grundlæggende rettigheder på et uforholdsmæssigt niveau. Sådanne risici kan ikke blot accepteres — de kræver redesign eller afvisning af systemet.

Art. 9 stk. 4: Tekniske risikokontroller

Art. 9 stk. 4 kræver at passende risikostyringsforanstaltninger vedtages og implementeres. Disse falder i kategorier:

Tekniske foranstaltninger:

Input-validering: Verificér at input data er inden for forventede parametre

Output-begrænsning: Klip eller flag output der er uden for forventede ranges

Confidence thresholds: Hold back-anbefalinger ved lav modelkonfidenstærskel

Adversarial robusthed: Test og harden mod kendte angrebsvektorer

Organisatoriske foranstaltninger:

Human oversight-procedurer (Art. 14)

Uddannelse af brugere (Art. 4 og Art. 26 stk. 5)

Eskalationsprocedurer ved usikre output

Proceduremæssige foranstaltninger:

Regelmæssig modelperformance-review

Protokol for håndtering af edge cases

Incident-rapporteringsproces

Art. 9 stk. 6-7: Test og validering af risikostyringssystemet

Art. 9 stk. 6 kræver at high-risk AI-systemer testes med henblik på at identificere de mest hensigtsmæssige risikostyringsforanstaltninger. Testning skal:

Udføres på tværs af relevant testpopulation (representativitet)

Inkludere robusthedstests under adverse conditions

Inkludere fairness-evaluering (er der differentiel performance på tværs af demografiske grupper?)

Art. 9 stk. 7 stiller krav om testning på "real world data" der er repræsentative for den population systemet vil møde i produktion. For HR-AI: Test på kandidat-populationer der ligner dem systemet vil evaluere. For kreditscoring: Test på låntagerpopulationer der matcher dem systemet vil score.

Dokumentation af testresultater er obligatorisk — Annex IV punkt 6 kræver at teknisk dokumentation inkluderer testmetoder, testdata, testresultater og en vurdering af, hvad resultaterne betyder for systemets risikovurdering.

Art. 9 stk. 8-9: Human oversight og seniorledelsens ansvar

Art. 9 stk. 8 kræver, at risikostyringssystemet er integreret med Art. 14's krav om menneskelig oversigt. Risikokontroller identificeret i risikovurderingen skal operationaliseres som konkrete oversight-procedurer: hvornår skal et menneske involveres, hvem har autoritet til at tilsidesætte AI-output, og hvad er eskalationsproceduren ved usikre situationer? Risikostyringssystemet og human oversight-procedurerne er to sider af samme compliance-mønt og bør dokumenteres samlet.

Art. 9 stk. 9 fastslår, at risikostyringssystemet skal godkendes af en person på seniorledelsesniveau i providerorganisationen. For deployers gælder en tilsvarende forpligtelse under Art. 26 til at sikre, at de deployer-specifikke risikokontroller er forankret ledelsesmæssigt. Inden 2. december 2027 (forordning (EU) 2026/1744, i kraft 27. juli 2026) bør enhver virksomhed med høj-risiko AI-systemer have et dokumenteret, godkendt og operationelt risikostyringssystem på plads — ikke blot et papirdokument, men en levende proces med klar ejerskab, revision og kobling til faktisk systemdrift.