Sociale medier er bygget på kunstig intelligens. Fra de algoritmer der bestemmer hvad du ser i dit feed, til de AI-systemer der modererer indhold og målretter reklamer — sociale medieplatforme er blandt de mest AI-intensive systemer i den digitale økonomi. EU AI Act (forordning EU 2024/1689) introducerer nye forpligtelser der direkte berører, hvordan disse systemer designes og drives.
Men hvilke dele af sociale mediers AI falder faktisk under EU AI Act, og hvad betyder det konkret for platforme og de virksomheder der annoncerer på dem?
Sociale mediers AI-landskab: Hvad er i scope?
Sociale medieplatforme bruger AI på mindst fire distinkte måder, der potentielt er i scope for EU AI Act:
1. Anbefalingssystemer (recommendation algorithms)
De algoritmer der sorterer feeds, anbefaler videoer, foreslår venner og bestemmer hvad brugerne ser, er blandt de mest indflydelsesrige AI-systemer i moderne samfund. EU AI Act behandler disse systemer i Art. 5 stk. 1 litra b og c om sociale scoreringssystemer og subliminale teknikker.
2. Indholdsmoderation (content moderation AI)
AI-systemer der automatisk fjerner, nedprioriterer eller markerer indhold for overtrædelse af platformens regler. Disse systemer kan udgøre høj-risiko AI under Annex III punkt 1 (biometri) hvis de anvender ansigtsgenkendelsesteknologier, eller punkt 8 (retshåndhævelse og migration) i visse kontekster.
3. Reklamedistribution og mikrotargeting
AI der målretter annoncer baseret på adfærdsprofilering, interesser og demografiske data. EU AI Act art. 5 stk. 1 litra c forbyder AI-systemer der klassificerer fysiske personer baseret på adfærd og udleder sensitive karakteristika.
4. Syntetisk indhold og deepfakes (GPAI)
AI-genereret indhold — tekst, billeder, lyd og video — skabt med General Purpose AI-modeller. Her gælder AI Act Art. 50 om åbenhedskrav for AI-genereret indhold (deadline: 2. august 2026).
Art. 5: Forbudte AI-praksisser på sociale medier
EU AI Act Art. 5 indeholder absolutte forbud der er trådt i kraft 2. februar 2025. For sociale medieplatforme er to forbud særligt relevante:
Art. 5 stk. 1 litra b: Forbud mod udnyttelse af sårbarhed
Forbudt er AI-systemer der udnytter personers alder, handicap eller sociale og økonomiske sårbarhed på en måde der forvrider adfærd og forårsager skade. Engagementoptimerende algoritmer der specifikt målretter sårbare grupper — herunder mindreårige — med indhold der udnytter psykologiske svagheder, kan falde under dette forbud.
Meta, TikTok og YouTube er allerede under pres fra både EU AI Act og Digital Services Act (DSA) på dette punkt. DSA Art. 28 forbyder profilbaseret reklame rettet mod mindreårige og kræver risikovurderinger af anbefalingssystemers påvirkning på mindreåriges rettigheder.
Art. 5 stk. 1 litra c: Forbud mod social scoring
Sociale medie-systemer der effektivt scorer brugere baseret på adfærd og bruger disse scores til at differentiere adgang, synlighed eller muligheder på en måde der er uforholdsmæssigt skadelig, kan falde under dette forbud. Den præcise afgrænsning vil afhænge af fremtidig retspraksis og vejledning fra AI Office.
Art. 5 stk. 1 litra e-f: Biometri og emotionsanalyse
Forbudt er realtids fjernbiometrisk identifikation i offentlige rum (med undtagelser), og AI-systemer der klassificerer personer baseret på sensitive karakteristika udledt fra biometri (race, politisk overbevisning, religion mv.). For sociale medier med ansigtsgenkendelsesfunktioner er dette direkte relevant.
General Purpose AI (GPAI) og sociale medier
Fra 2. august 2025 gælder EU AI Act's bestemmelser om General Purpose AI (Art. 51-56) for store AI-modeller. Mange sociale medieplatforme er selv leverandører eller brugere af GPAI-modeller til:
For GPAI-udbydere med systemisk risiko (FLOP-tærskel på 10^25) gælder særlige krav (Art. 55), herunder modelevaluering, adversarial testing og incident-rapportering til AI Office.
Art. 50: Åbenhedskrav for AI-genereret indhold
Art. 50 stk. 4 (gælder fra 2. august 2026) kræver at udbydere af AI-systemer der genererer syntetisk lyd, video, billeder eller tekst, teknisk mærker output på en måde der muliggør detektion (watermarking eller metadata).
For sociale medier har dette stor praktisk betydning:
Meta og Google har allerede implementeret C2PA (Coalition for Content Provenance and Authenticity) metadata-standarder for AI-genererede billeder som teknisk compliance-mekanisme.
DSA og EU AI Act: To regelsæt der supplerer hinanden
Digital Services Act (DSA) og EU AI Act regulerer delvist de samme aktiviteter fra forskellige vinkler. For meget store online platforme (VLOP'er) med over 45 millioner månedlige EU-brugere — herunder Facebook, Instagram, TikTok, YouTube og X — gælder DSA's skærpede krav:
DSA Art. 27: VLOP'er skal give brugerne mindst ét anbefalingssystem der ikke er baseret på profilering. Det adresserer direkte anbefalingsalgoritmers transparens.
DSA Art. 34-35: Systematisk risikovurdering af algoritmer for systemiske risici — grundlæggende rettigheder, valgprocesser, mindreårige og folkesundhed — samt afhjælpende foranstaltninger og uafhængig revision.
Det centrale overlap: EU AI Act regulerer selve AI-systemet og dets design, mens DSA regulerer platformens ansvar for de konsekvenser, systemet skaber. En platform der anvender en anbefalingsalgoritme der forvrider brugeradfærd på en skadelig måde, kan potentielt overtræde begge regelsæt.
Hvad sociale medieplatforme og annoncører skal gøre nu
For platforme og virksomheder der annoncerer på sociale medier er det afgørende at kortlægge, hvilke AI-systemer der er i brug, og om de falder under EU AI Acts forbudte praksisser, høj-risiko-kategorier eller transparensforpligtelser. Art. 50's krav om mærkning af AI-genereret indhold træder i kraft 2. august 2026 — og gælder ikke kun platformene selv, men også virksomheder der producerer AI-genereret indhold til sociale medier.
Virksomheder med reklamekampagner på sociale medier bør desuden sikre, at eventuel mikrotargeting ikke anvender AI-systemer der klassificerer brugere på baggrund af sensitive karakteristika, og at ingen annonceringspraksis falder under de forbudte manipulation- og social scoring-kategorier i Art. 5, som har været gældende siden 2. februar 2025. Compliance med EU AI Act og DSA er ikke et engangsprojekt — det kræver løbende overvågning af de AI-systemer, man anvender og er afhængig af.