Kunstig intelligens er ikke længere en fremtidsteknologi i klasseværelset – den er allerede her. Universiteter bruger algoritmer til at sortere ansøgere. Gymnasier pilottester AI-assisteret karaktergivning. EdTech-platforme tilbyder automatisk eksamensovervågning via webcam. Og ChatGPT er blevet en del af hverdagen for millioner af studerende i hele EU.
Med EU AI Act træder de første forpligtende regler for højrisikobaserede AI-systemer i kraft 2. august 2026. For uddannelsesinstitutioner – fra folkeskoler til erhvervsakademier og universiteter – betyder det, at tid til at forstå og handle er begrænset. Denne artikel giver dig et komplet overblik over, hvad loven kræver, hvilke systemer der er berørt, og hvad du konkret skal gøre nu.
Hvad er EU AI Act, og hvorfor gælder den for uddannelse?
EU AI Act (forordning (EU) 2024/1689) er verdens første bindende lovramme for kunstig intelligens. Den inddeler AI-systemer efter risikoniveau: forbudt, høj-risiko, begrænset risiko og minimal risiko. For uddannelsesinstitutioner er den vigtigste kategori Annex III, kategori 3: Uddannelse og erhvervsuddannelse.
Annex III punkt 3 definerer følgende som høj-risiko AI-systemer, når de bruges i uddannelsessammenhæng:
Kernelogikken er enkel: Når AI-systemer kan påvirke en persons adgang til uddannelse eller fremtid på arbejdsmarkedet, anses konsekvenserne for tilstrækkeligt alvorlige til at kræve særlige beskyttelsesforanstaltninger.
Hvilke konkrete AI-systemer er høj-risiko i uddannelse?
1. Eksamensovervågningssystemer (Remote Proctoring)
Online eksamensovervågning – hvor software via webcam, mikrofon og skærmoptagelse overvåger den studerende under en eksamen – er et af de mest diskuterede eksempler. Systemer som Proctorio, Respondus Monitor og ExamSoft analyserer øjenbevægelser, ansigtsudtryk, tastaturhastighed og aktivitet for at detektere snyd.
EU AI Act klassificerer disse systemer som høj-risiko under Annex III kategori 3, fordi de:
Derudover rejser mange remote proctoring-systemer bekymringer under Artikel 5 i EU AI Act, der forbyder visse kategorier af AI. Hvis et system i realtid klassificerer studerende baseret på biometriske data til identifikation – som falder inden for de biometriske forbudsbestemmelser i artikel 5, stk. 1, litra d – kan det nærme sig forbudt territorium. Uddannelsesinstitutioner bør sikre juridisk klarhed, inden de implementerer eller fortsætter med at anvende sådanne systemer.
2. Optagelses- og ansøgningssystemer
Algoritmer der scorer, rangordner eller filtrerer studieansøgere baseret på karakterer, baggrund, psykometriske tests eller andre parametre, er høj-risiko AI. Det gælder uanset om systemet er udviklet internt eller leveret af en ekstern EdTech-leverandør.
Eksempler:
3. Karaktergivning og studievurdering
AI der genererer eller anbefaler karakterer – for eksempel systemer der automatisk vurderer essayopgaver, mundtlige præsentationer analyseret via stemmeanalyse, eller algoritmer der forudsiger standpunktskarakterer – er ligeledes høj-risiko.
Samme gælder studievalg-AI: Systemer der anbefaler specifikke uddannelsesveje, omskoling eller specialisering til individuelle studerende baseret på præstationsdata og profiler.
Artikel 13 EU AI Act: Studerende skal vide, at AI vurderer dem
Artikel 13 i EU AI Act stiller klare krav om gennemsigtighed over for de personer, der er underlagt AI-systemets vurdering. For uddannelsesinstitutioner betyder dette konkret:
Dette er ikke blot en administrativ formalitet. Studerende, der ikke ved at en algoritme rangordner deres ansøgning, kan ikke påklage en beslutning de ikke kender grundlaget for. Artikel 13 sikrer, at AI-understøttede vurderinger er sporbare og forklarbare.
Praktisk implikation: Uddannelsesinstitutioner bør gennemgå alle informationsmaterialer, ansøgningsportaler og eksamensregler og tilføje tydelig AI-disclosure der identificerer hvilke systemer der bruges, og hvad de vurderer.
Artikel 14 EU AI Act: Menneskelig tilsyn er ikke valgfrit
Artikel 14 er en af de mest vidtgående bestemmelser for uddannelsesinstitutioner: Høj-risiko AI-systemer skal designes og implementeres, så mennesker kan overvåge, forstå, gribe ind og om nødvendigt tilsidesætte systemets output.
I uddannelsessammenhæng betyder det:
Artikel 14 kræver desuden, at de mennesker der har tilsynsansvaret, faktisk har de nødvendige kompetencer og ressourcer til at udøve det. "Human in the loop" på papiret er ikke tilstrækkeligt – tilsynet skal være reelt og meningsfuldt.
GDPR og børns data: Særlige beskyttelseskrav i uddannelse
EU AI Act overlapper på afgørende punkter med GDPR, og i uddannelsessektoren kompliceres billedet yderligere af, at mange brugere er mindreårige.
GDPR Artikel 8: Børns samtykke og databeskyttelse
GDPR Artikel 8 fastsætter, at børn under 16 år