E-handel og marketplace-platforme er i dag dybt afhængige af AI-systemer — fra anbefalingsalgoritmer og dynamisk prissætning til sælgerevaluering og chatbots i kundeservice. Med EU AI Act (forordning (EU) 2024/1689) træder et nyt reguleringsregime i kraft, der stiller direkte krav til mange af disse systemer. Artiklen giver en systematisk gennemgang af, hvilke AI-applikationer inden for e-handel der er berørt, hvilke forpligtelser der følger, og hvad virksomheder konkret bør gøre.
1. Annex III-screening: Er e-handel-AI høj-risiko?
Det første spørgsmål enhver e-handelsvirksomhed bør stille er: Er mine AI-systemer klassificeret som høj-risiko under EU AI Act?
EU AI Act Annex III opregner de kategorier af AI-systemer, der automatisk betragtes som høj-risiko. For e-handel er to punkter særligt relevante:
Annex III, punkt 5 — Adgang til og brug af vigtige private og offentlige tjenester samt ydelser: AI-systemer der vurderer kreditværdighed eller fastsætter kreditscores falder direkte ind her. Marketplace-platforme, der anvender AI til at vurdere sælgeres kreditprofil, betalingsevne eller til at afgøre adgang til platformsfunktioner (f.eks. udvidet betaling, lagerfaciliteter), kan rammes af denne kategori.
Annex III, punkt 7 — Kritisk infrastruktur: Selvom e-handel generelt ikke er kritisk infrastruktur, kan store platforme med markedsdominerende position trække i retning af forhøjet tilsyn under andre EU-rammer.
Den gode nyhed for de fleste webshops og mellemstore marketplaces: Standard anbefalingsalgoritmer, søgerangering og segmenteringsværktøjer falder i udgangspunktet ikke under Annex III og er dermed begrænset-risiko eller minimal-risiko AI. Det ændrer dog ikke på, at Art. 5 og Art. 50-forpligtelserne stadig gælder fra henholdsvis 2. februar 2025 og 2. august 2026.
2. AI-anbefalingssystemer og DSA Art. 27: Dobbelt transparenskrav
Anbefalingssystemer — de algoritmer der bestemmer, hvilke produkter der vises for hvilke brugere — er underlagt en dobbelt regulering: EU AI Act og Digital Services Act (DSA, forordning (EU) 2022/2065).
Under DSA Art. 27 skal meget store onlineplatforme (VLOP'er, defineret ved >45 mio. månedlige brugere i EU) give brugerne meningsfuld information om de parametre, der afgør indholdsrangering, samt tilbyde en valgmulighed, der ikke er baseret på profilering. For øvrige platforme gælder Art. 24 om transparens i onlinereklame.
Under EU AI Act skal anbefalingssystemer, der behandler personfølsomme data eller foretager profilering med potentielt væsentlig indvirkning på brugere, vurderes ift. Art. 9 (risikostyringssystem) og Art. 13 (gennemsigtighed), hvis de er klassificeret som høj-risiko.
Praktisk konsekvens: En marketplace som Zalando eller lignende platforme med millionvis af brugere skal under DSA dokumentere anbefalingslogik og give opt-out. Selv for ikke-VLOP'er skaber EU AI Act incitament til at dokumentere, hvordan anbefalingsmodellen er trænet, hvilke data den bruger, og om den kan generere diskriminerende output.
3. Dynamisk prissætning og AI: Diskriminationsforbud og forbrugerbeskyttelse
Dynamisk prissætning — AI-systemer der justerer priser i realtid baseret på efterspørgsel, brugeradfærd og konkurrentsignaler — er udbredt i rejsebranchen og vinder frem i detailhandel. Her opstår et kompleks af forpligtelser:
EU AI Act perspektiv: Dynamisk prissætning er som udgangspunkt ikke Annex III høj-risiko, medmindre systemet simultant vurderer kreditværdighed eller sociale faktorer. Forordningens Art. 5, stk. 1, litra c forbyder AI-systemer, der udnytter personers sociale adfærd eller personlige karakteristika til at differentiere priser på en måde, der kan skade disse personer — grænsen er endnu ikke præciseret i retningslinjer fra European AI Office.
Omnibus-direktivet og prisnormering: Direktiv (EU) 2019/2161, implementeret i dansk ret, kræver at forhandlere viser den laveste pris inden for de seneste 30 dage ved kampagner. AI-drevet dynamisk prissætning skal designes, så dette krav overholdes automatisk i logning og prishistorik.
GDPR Art. 22: Hvis prissætningsalgoritmen baserer sig alene på automatisk behandling af personoplysninger og har retsvirkning eller tilsvarende væsentlig indvirkning på den registrerede, kræves der enten samtykke, kontraktlig nødvendighed eller en anden gyldig undtagelse — samt ret til menneskelig gennemgang.
4. AI-drevet kundesegmentering: Profilering, GDPR Art. 22 og Omnibus-direktivet
Mange e-handelsplatforme segmenterer kunder baseret på AI-afledte profiler: købekraft, loyalitetsklasse, sandsynlighed for returnering eller churn-risiko. Disse profiler bruges til at differentiere tilbud, rabatter og service.
GDPR Art. 22 forbyder automatiserede individuelle afgørelser med retsvirkning eller tilsvarende effekt, medmindre undtagelserne i Art. 22, stk. 2 finder anvendelse. Et automatisk afslag på loyalitetsbonus, der udelukkende er baseret på AI-profilering, kan udgøre en sådan afgørelse. Virksomheden skal da:
Omnibus-direktivet kræver desuden, at den registrerede oplyses om, at prisen er personaliseret på baggrund af automatisk beslutningstagning, jf. Ar