Sociale medier er bygget på kunstig intelligens. Fra de algoritmer der bestemmer hvad du ser i dit feed, til de AI-systemer der modererer indhold og målretter reklamer — sociale medieplatforme er blandt de mest AI-intensive systemer i den digitale økonomi. EU AI Act (forordning EU 2024/1689) introducerer nye forpligtelser der direkte berører, hvordan disse systemer designes og drives.
Men hvilke dele af sociale mediers AI falder faktisk under EU AI Act, og hvad betyder det konkret for platforme og de virksomheder der annoncerer på dem?
Sociale mediers AI-landscape: Hvad er i scope?
Sociale medieplatforme bruger AI på mindst fire distinkte måder, der potentielt er i scope for EU AI Act:
1. Anbefalingssystemer (recommendation algorithms)
De algoritmer der sorterer feeds, anbefaler videoer, foreslår venner og bestemmer hvad brugerne ser, er blandt de mest indflydelsesrige AI-systemer i moderne samfund. EU AI Act behandler disse systemer i Art. 5 stk. 1 litra b og c om sociale scoreringssystemer og subliminale teknikker.
2. Indholdsmoderation (content moderation AI)
AI-systemer der automatisk fjerner, nedprioriterer eller flaggér indhold for overtrædelse af platformens regler. Disse systemer kan udgøre høj-risiko AI under Annex III punkt 1 (biometri) hvis de anvender ansigtsgenkendelsesteknologier, eller punkt 8 (retshåndhævelse og migration) i visse kontekster.
3. Reklamedistribution og mikrotargeting
AI der målretter annoncer baseret på adfærdsprofilering, interesser og demografiske data. EU AI Act art. 5 stk. 1 litra c forbyder AI-systemer der klassificerer fysiske personer baseret på adfærd og udleder sensitive karakteristika.
4. Syntetisk indhold og deepfakes (GPAI)
AI-genereret indhold — tekst, billeder, lyd og video — skabt med General Purpose AI-modeller. Her gælder AI Act Art. 50 om åbenhedskrav for AI-genereret indhold (deadline: 2. august 2026).
Art. 5: Forbudte AI-praksisser på sociale medier
EU AI Act Art. 5 indeholder absolutte forbud der er trådt i kraft 2. februar 2025. For sociale medieplatforme er to forbud særligt relevante:
Art. 5 stk. 1 litra b: Forbud mod udnyttelse af sårbarhed
Forbudt er AI-systemer der udnytter personers alder, handicap eller sociale og økonomiske sårbarhed på en måde der forvrider adfærd og forårsager skade. Engagementoptimerende algoritmer der specifikt målretter sårbare grupper — herunder mindreårige — med indhold der udnytter psykologiske svagheder, kan falde under dette forbud.
Meta, TikTok og YouTube er allerede under pres fra både EU AI Act og Digital Services Act (DSA) på dette punkt. DSA Art. 28 forbyder profilbaseret reklame rettet mod mindreårige og kræver risikovurderinger af anbefalingssystemers påvirkning på mindreåriges rettigheder.
Art. 5 stk. 1 litra c: Forbud mod social scoring
Sociale medie-systemer der effektivt scorer brugere baseret på adfærd og bruger disse scores til at differentiere adgang, synlighed eller muligheder på en måde der er uforholdsmæssigt skadelig, kan falde under dette forbud. Den præcise afgrænsning vil afhænge af fremtidig retspraksis og vejledning fra AI Office.
Art. 5 stk. 1 litra e-f: Biometri og emotionsanalyse
Forbudt er realtids fjernbiometrisk identifikation i offentlige rum (med undtagelser), og AI-systemer der klassificerer personer baseret på sensitive karakteristika udledt fra biometri (race, politisk overbevisning, religion mv.). For sociale medier med ansigtsgenkendelsesfunktioner er dette direkte relevant.
General Purpose AI (GPAI) og sociale medier
Fra 2. august 2025 gælder EU AI Act's bestemmelser om General Purpose AI (Art. 51-56) for store AI-modeller. Mange sociale medieplatforme er selv leverandører eller brugere af GPAI-modeller til:
For GPAI-udbydere med systemisk risiko (FLOP-tærskel på 10^25) gælder særlige krav (Art. 55), herunder modelevaluering, adversarial testing og incident-rapportering til AI Office.
Art. 50: Åbenhedskrav for AI-genereret indhold
Art. 50 stk. 4 (gælder fra 2. august 2026) kræver at udbydere af AI-systemer der genererer syntetisk lyd, video, billeder eller tekst, teknisk mærker output på en måde der muliggør detektion (watermarking eller metadata).
For sociale medier har dette stor praktisk betydning:
Meta og Google har allerede implementeret C2PA (Coalition for Content Provenance and Authenticity) metadata-standarder for AI-genererede billeder som teknisk compliance-mekanisme.
DSA og EU AI Act: To regelsæt der kompletterer hinanden
Digital Services Act (DSA) og EU AI Act regulerer delvist de samme aktiviteter fra forskellige vinkler. For meget store online platforme (VLOP'er) med over 45 millioner månedlige EU-brugere — herunder Facebook, Instagram, TikTok, YouTube og X — gælder DSA's skærpede krav:
DSA Art. 27: VLOP'er skal give brugerne mindst ét anbefalingssystem der ikke er baseret på profilering. Det direkte adresserer anbefalingsalgoritmers transparens.
DSA Art. 34-35: Systematisk risikovurdering af algoritmer for systemiske risici (fundamental rights, valgprocesser, mindreår