go to the original language article
AFP, Agerpres, ANSA, BTA, dpa, EFE, FENA
Konfronteret med voldsomme reaktioner fra den brede offentlighed mod brugen af kunstig intelligens, der krænker menneskers privatliv og værdighed, tager Den Europæiske Union det tunge skyts i brug.
Bruxelles overvejer at klassificere fremstilling af billedmontager med seksuelt indhold som en forbudt praksis i henhold til loven om kunstig intelligens, efter skandalen med seksualiserede billeder skabt af Grok, chatbotten integreret i platformen X hos Илон Маск.
Reaktionerne mod Grok
Masks virksomhed, xAI – som i lang tid var blevet kritiseret af det internationale samfund – indførte midt i januar nye begrænsninger for seksuelt antydende billeder genereret af kunstig intelligens med Grok. Dette skridt fulgte efter kritik af, at Grok havde gjort det muligt for brugere digitalt at erstatte kvinders tøj med bikinier og i nogle tilfælde skabe seksualiserede billeder af mindreårige.
De første billeder af mennesker, der blev afklædt nøgne uden deres samtykke (“kunstigt afklædning”), begyndte at cirkulere i dagene efter, at funktionen blev lanceret, men spredte sig især i perioden omkring nytår. Ifølge CNN blev Grok alene mellem 5. og 6. januar brugt til at generere mindst 6.700 seksuelle billeder. De indeholdt ofte kvinder eller mindreårige.
– Grok tilbyder nu en ‘krydret mulighed’, der viser eksplicit seksuelt indhold, og nogle resultater genereres med billeder, der ligner børn. Dette er ikke krydret. Det er ulovligt. Det er forfærdeligt, sagde EU’s talsmand for digitale spørgsmål Тома Рение dengang til journalister.
Europa-Kommissionen, som fungerer som blokken digitale tilsynsmyndighed, meddelte, at den vil gennemgå de nye foranstaltninger, som X har truffet. Embedsmænd advarede om, at hvis skridtene viser sig utilstrækkelige, vil EU overveje fuld anvendelse af sin lov om digitale tjenester.
Kommissionens næstformand, Хена Виркунен, udtalte, at Kommissionen overvejer eksplicit at forbyde sådanne seksuelle billeder genereret af kunstig intelligens i henhold til loven om kunstig intelligens ved at klassificere dem som uacceptable risici.
Forbuddet mod skadelige praksisser inden for kunstig intelligens kan være relevant for at løse problemet med børnepornografi og seksuelle billedmontager uden samtykke, sagde Virkkunen, som også er EU-kommissær for teknologisk suverænitet, sikkerhed og demokrati, under plenarforsamlingen i Europa-Parlamentet i Strasbourg i sidste uge. Hun sagde også, at loven om digitale tjenester reducerer risikoen for spredning af seksuelt indhold på internettet uden samtykke.
Hun mindede også om, at Kommissionen har sendt en anmodning til X om at fremlægge oplysninger om Grok som led i dens undersøgelse af platformen i henhold til loven om digitale tjenester.
Platformen blev bedt om at bevare alle interne dokumenter og relaterede data indtil udgangen af året. – Vi undersøger nu i hvilket omfang X i et hvilket som helst tilfælde kan overtræde loven om digitale tjenester og vil ikke tøve med at træffe yderligere foranstaltninger, hvis beviserne peger på det, sagde hun.
Kommissionen har tidligere øget presset på X, som blev idømt en bøde på 120 millioner euro i begyndelsen af december for brud på gennemsigtigheden. EU insisterer på, at den vil håndhæve sine regler, selv om det har vakt utilfredshed i den amerikanske administration.
– Loven om digitale tjenester er meget klar i Europa. Alle platforme skal overholde reglerne, for det, de genererer her, er uacceptabelt, og overholdelse af EU-lovgivningen er ikke et valg. Det er en forpligtelse, sagde Renier, mens skandalen tog til i begyndelsen af januar.
Forrige uge opfordrede en gruppe på omkring 50 medlemmer af Europa-Parlamentet Kommissionen til at forbyde alle applikationer, der bruger kunstig intelligens til at skabe nøgenbilleder, på EU-markedet.
Man kan ikke leve uden X
På trods af kritikken af X fortsætter næsten alle højtstående EU-embedsmænd med at poste der i stedet for på alternative europæiske platforme, ifølge en undersøgelse fra dpa.
Formanden for Europa-Kommissionen Урсула фон дер Лајен og andre højtstående embedsmænd har stadig ingen officielle profiler på Mastodon, en alternativ platform med base i Tyskland. Virkkunen åbnede en officiel profil på Mastodon i januar. Nogle højtstående EU-politikere er også aktive på Bluesky, en anden platform med base i USA, som bliver stadig mere populær.
Kommissionen begrunder den fortsatte brug af X med dens rækkevidde: Mastodon har omkring 750.000 månedlige brugere sammenlignet med 100 millioner på X, ifølge virksomhederne.
Den lange juridiske vej mod bedre sikkerhed på internettet
Vejen til beskyttelse af mindreårige i EU er lang, da problemerne med privatliv og beskyttelse kolliderer med erhvervslivets interesser. Flere regulativer overlapper hinanden:
Chatkontrol
Kommissionen foreslog i 2022 en forordning, der vil kræve, at platforme opdager og rapporterer billeder og videoer af misbrug (materiale med seksuelt misbrug af børn) samt forsøg fra rovdyr på at kontakte mindreårige.
Støttet af flere børnebeskyttelsesgrupper udløste planen, kaldet “Chatkontrol”, voldsomme debatter om privatliv i blokken med 27 lande og førte til anklager om, at den indførte masseovervågning.
Den endelige lov forventes at blive aftalt i begyndelsen af 2026 for at bygge bro over kløften mellem Europa-Parlamentets privatlivsfokuserede tilgang og Rådets ønske om bredt at indføre beføjelser til frivillig scanning.
Selv om de forlængede de midlertidige foranstaltninger for frivillig scanning til april 2026 for at undgå et juridisk tomrum, har medlemmerne af Europa-Parlamentet anmodet om at fremskynde arbejdet med at finde en permanent løsning.
Loven om digitale tjenester
Den Europæiske Union bruger loven om digitale tjenester til at sanktionere internetplatforme ved at pålægge enorme bøder, kræve øjeblikkelige driftsændringer og – i yderste konsekvens – midlertidigt suspendere deres tjenester. Den kan udstede bøder, hvis platformene ikke opfylder deres forpligtelser i henhold til loven om digitale tjenester, ikke overholder midlertidige foranstaltninger eller overtræder forpligtelserne.
Det er en EU-forordning for et sikrere internet, som kræver, at platforme håndterer ulovligt indhold, beskytter brugerne og øger gennemsigtigheden.
Loven om kunstig intelligens
Loven om kunstig intelligens blev vedtaget i 2024 og er verdens første og eneste omfattende retlige ramme i forbindelse med kunstig intelligens. Den etablerer et risikobaseret system til regulering af teknologier for kunstig intelligens inden for EU for at sikre, at de er sikre, pålidelige og respekterer grundlæggende rettigheder, samtidig med at de er innovative.
Den forbyder visse uacceptable praksisser med kunstig intelligens, såsom social scoring, og fastsætter regler for områder, hvor der er høj risiko ved brug af kunstig intelligens – såsom kritisk infrastruktur eller beskæftigelse. Den fastsætter også begrænsninger for manipulerende brug af kunstig intelligens, såsom billedmontager rettet mod børn, blandt andet.
Forbud mod sociale medier
Frankrig, som overvejer at forbyde sociale medier for børn under 15 år, tester siden sommeren en alderskontrolapp udviklet af Kommissionen. Dette værktøj er en af flere metoder til alderskontrol af internetbrugere, hvilket er et problem både for teknologigiganter og myndigheder.
Individuelle indsatser
Den spanske minister for unge og børn Сира Рего bad i begyndelsen af januar statsanklageren om at undersøge, om Grok begår strafbare handlinger i forbindelse med spredning af materiale om seksuelt misbrug af børn.
I øjeblikket arbejder Spanien på sin egen lov om beskyttelse af mindreårige i digitale miljøer. Loven styrker rammen for beskyttelse af personlig integritet og privatliv mod nye former for krænkelse forbundet med brugen af teknologier som kunstig intelligens og bekræfter, at barnets bedste altid skal veje tungere end enhver digital forretningsmodel.
Bulgarien har intensiveret indsatsen for at bekæmpe seksuelt misbrug af børn på internettet gennem samarbejde om håndhævelse af international lov, nationale forebyggelseskampagner og drøftelser om regler, der er tilpasset EU-lovgivningen. I 2025 deltog de bulgarske myndigheder i en stor international operation, der lukkede Kidflix, en af verdens største platforme for seksuel udnyttelse af børn, som næsten 2 millioner brugere havde benyttet mellem 2022 og 2025.
I sin straffelov har Rumænien etableret lovmæssige mekanismer til bekæmpelse af materiale med seksuelt misbrug af børn, og myndighederne har til hensigt at udvide og modernisere disse regler.
Siden 2025 har en vigtig lov om beskyttelse af børn på internettet (kaldet loven om internetmyndighedsalder) været under parlamentarisk behandling, og Rumænien
gennemfører gradvist også EU-reglerne om forebyggelse og bekæmpelse af seksuelt misbrug på nettet. Loven om internetmyndighedsalder indfører obligatorisk alderskontrol og forældresamtykke for mindreårige (under 16 år) for adgang til internettjenester som sociale netværk og platforme til spil og livestreaming.
Bosnien-Hercegovina, et kandidatland til EU-medlemskab, har endnu ingen specifik lov, der regulerer dette område. I Bosnien-Hercegovina er strafferetligt ansvar for produktion, distribution og besiddelse af sådant materiale baseret på straffelove, der omfatter seksuelt misbrug af børn, men de indeholder ikke eksplicitte bestemmelser om indhold genereret eller simuleret af kunstig intelligens.
EU har indført yderligere værktøjer og foranstaltninger til at beskytte sine borgere – både unge og gamle – mod skadelige praksisser på internettet, men svage punkter er problematisk håndhævelse, algoritmisk fremme af skadeligt indhold, inkonsekvent anvendelse på tværs af lande og uenigheder om balancen mellem sikkerhed og privatliv.
Historien udgives ugentligt. Indholdet er baseret på nyheder fra de bureauer, der deltager i ENR.