Uddannelsessektoren er en af de mest AI-intensive sektorer i det moderne samfund. Fra AI-baserede adgangsudvalgssystemer på universiteter til automatisk opgavebedømmelse, plagiatdetektion, adaptiv læringsteknik og AI-assistenter i klasserum — kunstig intelligens former i stigende grad, hvem der kommer ind, hvad de lærer, og hvordan de vurderes.
EU AI Act (forordning EU 2024/1689) klassificerer visse uddannelses-AI-systemer som høj-risiko, og sætter rammer for alle uddannelses-AI-applikationer via Art. 50's transparenskrav.
Annex III punkt 3: Uddannelsessektorens høj-risiko AI
EU AI Act Annex III punkt 3 klassificerer som høj-risiko:
> *AI-systemer der er beregnet til at: (a) bestemme adgangen til uddannelsesinstitutioner eller faglige kurser; (b) vurdere deltagerne i disse institutioner med henblik på at sortere dem eller til at afgøre, hvem der skal betjenes af disse institutioner, herunder med henblik på at afgøre, hvem der er berettiget til prøver, og hvem der skal screenes for bedrageri under prøver*
I praksis er følgende typer uddannelses-AI potentielt høj-risiko:
Adgangsvurdering:
Elevvurdering med konsekvenser:
Identitetsverifikation ved eksamen:
AI-proctoring: En særlig compliance-udfordring
AI-baserede proctoring-systemer (f.eks. ExamSoft, Proctorio, Respondus) der overvåger studerendes adfærd under online-eksamen er et af de mest kontroversielle uddannelses-AI-anvendelsesområder.
Annex III punkt 3 litra b: Disse systemer falder klart under "screening for bedrageri under prøver" — og er dermed høj-risiko AI.
GDPR-udfordringer ved AI-proctoring:
Datatilsynets vejledning: Datatilsynet har allerede udsendt vejledning om brug af online proctoring. En DPIA er obligatorisk, og mange proctoring-løsninger er vurderet at have utilstrækkelige databeskyttelseser.
Bias-problemer: Internationale studier viser at AI-proctoring-systemer har significante false positive-rater for mørkhudede studerendes og studerendes med bevægelsesmæssige funktionsnedsættelser. Et false positive ramt-eksamensystem kan ødelægge en studerendes uddannelsesvej.
Praktisk anbefaling: Overvej alternativer til AI-proctoring (mundtlig eksamen, hjemmeopgaver med kildeangivelse) inden implementering. Hvis proctoring anvendes: Indhent eksplicit samtykke, gennemfør DPIA, dokumentér Annex IV og implementér klageadgang.
AI-plagiatkontrol: Turnitin og lignende systemer
Plagiatdetektionssoftware som Turnitin, iThenticate og Ouriginal er ikke automatisk høj-risiko AI under EU AI Act — men de rejser vigtige compliance-spørgsmål:
Er plagiatdetektion Annex III punkt 3? Afhænger af brugen:
AI-genereret indhold og plagiatdetektion: Med udbredelsen af ChatGPT er en ny udfordring opstået: AI-detektionssoftware (GPTZero, Turnitin's AI detection) der identificerer AI-genereret tekst. Disse systemer er notorisk upålidelige og har dokumenterede bias mod ikke-modersmålstalende studerende.
Anbefalingen fra uddannelsesforskningsmiljøet: AI-detektionssoftware bør aldrig alene danne grundlag for disciplinærsager. Menneskelig vurdering er obligatorisk — hvilket er i overensstemmelse med EU AI Acts human oversight-krav (Art. 14).
Adaptiv læringsteknologi: En positiv use case
Adaptiv læringssoftware (f.eks. Khan Academy's AI-tutor, Duolingo, Knewton) der personaliserer undervisningsindhold baseret på elevens læringsprogression er typisk ikke Annex III høj-risiko:
Positiv AI-brugscase: Adaptiv læring er et eksempel på AI der øger uddannelseskvaliteten uden de etiske problemer forbundet med automatiseret vurdering.
GDPR-overvejelse: Elevdata — særligt for mindreårige — er sensitive. Forældre/værger skal informeres om datanvendelsen, og GDPR Art. 8 (børns samtykke, minimum 13-15 år afhængigt af national implementering) er relevant.
AI-assistenter i undervisning: ChatGPT og faglig integritet
Udbredelsen af GPAI-assistenter (ChatGPT, Copilot, Gemini) i uddannelsessektoren rejser akademisk integritetsspørgsmål der er bredere end EU AI Act:
Art. 50 stk. 1 (fra 2. august 2026): AI-chatbots der bruges som undervisningsassistenter skal informere brugerne om at de