Have the article read by OpenAI (Beta). Please note that AI translations may take some time to process.Face à l’indignation générale suscitée par l’utilisation de l’intelligence artificielle qui porte atteinte à la vie privée et à la dignité des personnes, l’Union européenne déploie des mesures fortes.
Bruxelles envisage de classer la création de deepfakes à caractère sexuel comme une pratique interdite au titre de la loi sur l’intelligence artificielle, en réaction au scandale des images produites par Grok AI, le chatbot intégré à la plateforme X d’Elon Musk.
Indignation face à Grok
Visée pendant longtemps par des critiques internationales, xAI, la société d’Elon Musk, a instauré mi-janvier de nouvelles restrictions concernant les images à caractère sexuel générées par l’IA dans Grok. Cette mesure fait suite aux accusations selon lesquelles Grok permettait aux utilisateurs de remplacer numériquement les vêtements de femmes par des bikinis et, dans certains cas, de créer des représentations sexualisées de mineures.
Les premières images de personnes dénudées sans leur consentement (« nudification ») ont commencé à circuler dans les jours qui ont suivi le lancement de la fonctionnalité, mais leur diffusion s’est particulièrement accélérée aux alentours du Nouvel An. Selon CNN, entre le 5 et le 6 janvier seulement, Grok a été utilisé pour générer au moins 6 700 images à caractère sexuel. Celles-ci impliquaient souvent des femmes ou des mineurs. La Commission européenne, garante du numérique au sein de l’Union, a déclaré qu’elle prenait note des nouvelles mesures prises par X et qu’elle les examinerait. Si ces mesures s’avéraient insuffisantes, l’UE envisagerait d’appliquer pleinement la réglementation sur les services numériques (DSA).
La vice-présidente de la Commission, Henna Virkkunen, a déclaré que Bruxelles envisageait d’interdire explicitement ce type d’images en vertu de la réglementation sur l’IA, les considérant comme un risque inacceptable.
L’interdiction des pratiques nuisibles dans le domaine de l’IA pourrait contribuer à lutter contre les deepfakes à caractère sexuel non consensuel et la pornographie infantile, a déclaré Virkkunen, commissaire chargée de la souveraineté numérique, de la sécurité et de la démocratie, lors de la session plénière du Parlement européen à Strasbourg cette semaine. Elle a également indiqué que le règlement sur la sécurité des données (DSA) atténuait le risque de diffusion de contenus sexuels en ligne sans consentement. Elle a rappelé que la Commission avait adressé une demande d’informations à X concernant Grok dans le cadre de son enquête sur la plateforme au titre du DSA.
Il a été demandé à X de conserver tous les documents et données internes la concernant jusqu’à la fin de l’année. « Nous examinons actuellement dans quelle mesure X pourrait enfreindre le DSA et n’hésiterons pas à prendre des mesures supplémentaires si les renseignements le justifient », a-t-elle dit.
La Commission avait déjà accentué la pression sur X, qui avait écopé d’une amende de 120 millions d’euros début décembre pour manquements à la transparence. L’UE a insisté sur sa volonté de faire respecter ses règles, malgré les vives réactions de l’administration américaine.
« La loi sur les services numériques (DSA) est très claire en Europe. Toutes les plateformes doivent se conformer à la réglementation, car ce qu’elles produisent est inacceptable, et le respect du droit européen n’est pas une option, c’est une obligation », a déclaré le porte-parole Thomas Regnier au plus fort du scandale, début janvier.
La semaine dernière, un groupe d’une cinquantaine de députés européens a appelé la Commission à interdire sur le marché européen les applications d’intelligence artificielle utilisées pour créer des images de nudité.
Impossible de se passer de X
Malgré les critiques dont il fait l’objet, la quasi-totalité des hauts fonctionnaires de l’UE continuent de publier sur X plutôt que sur des plateformes alternatives européennes, selon une enquête de l’agence de presse allemande dpa.
La présidente de la Commission, Ursula von der Leyen, et d’autres hauts responsables ne possèdent toujours pas de compte officiel sur Mastodon, basée en Allemagne. Virkkunen, quant à elle, a ouvert un compte officiel sur Mastodon en janvier seulement. Des personnalités politiques européennes de haut rang sont également actives sur Bluesky, une autre plateforme américaine qui gagne actuellement en popularité.
La Commission justifie le maintien de X par son audience : Mastodon compte environ 750 000 utilisateurs mensuels, contre 100 millions sur X, selon les entreprises.
Le long chemin juridique vers une meilleure sécurité en ligne
La protection des mineurs dans l’UE est un processus complexe, où les enjeux liés à la vie privée, aux entreprises et à la protection de l’enfance s’entrecroisent. Plusieurs réglementations sont concernées :
● Contrôle des conversations
En 2022, la Commission a proposé un règlement obligeant les plateformes à détecter et signaler les images et vidéos à caractère pédopornographique, ainsi que les tentatives de prédateurs d’entrer en contact avec des mineurs.
Soutenu par plusieurs associations de protection de l’enfance, le projet de loi surnommé « Contrôle des conversations » a suscité de vifs débats sur la protection de la vie privée au sein de l’Union et a donné lieu à des accusations de surveillance de masse.
La version finale du texte devrait être négociée début 2026, avec pour objectif de concilier la position du Parlement européen, axée sur le respect de la vie privée, et la volonté du Conseil européen d’accorder aux plateformes de larges pouvoirs de contrôle volontaire des conversations.
Tout en prolongeant les mesures temporaires de contrôle volontaire des conversations jusqu’en avril 2026 afin d’éviter un vide juridique, les eurodéputés ont insisté sur l’urgence d’une solution permanente.
Berlin, le 9 octobre 2025 : des membres de l’alliance « Stop au contrôle des conversations ! » manifestent devant le ministère fédéral de l’Intérieur. (Photo : Fabian Sommer/dpa)
● Règlement sur les services numériques (DSA)
L’Union européenne utilise le règlement sur les services numériques pour sanctionner les plateformes en leur imposant des amendes importantes, en exigeant des changements opérationnels immédiats et, en dernier recours, en suspendant temporairement leurs services. Elle peut appliquer des amendes si les plateformes enfreignent leurs obligations au titre du DSA, ne respectent pas les mesures transitoires ou manquent à leurs engagements.
Ce règlement européen vise à garantir un monde en ligne plus sûr, en obligeant les plateformes à lutter contre les contenus illégaux, à protéger les utilisateurs et à accroître la transparence.
● Loi sur l’IA
Adoptée en 2024, la loi sur l’IA est le premier et unique cadre juridique global au monde en matière d’intelligence artificielle. Elle établit un système d’évaluation des risques pour réglementer les technologies d’IA au sein de l’UE, afin de garantir leur sécurité, leur fiabilité et le respect des droits fondamentaux, tout en favorisant l’innovation.
Elle interdit certaines pratiques inacceptables, telles que la notation sociale, et définit des règles pour les domaines à haut risque, comme les infrastructures critiques ou l’emploi. Elle impose également des restrictions aux utilisations manipulatrices, notamment les deepfakes ciblant les enfants.
● Interdiction des réseaux sociaux
La France, qui envisage d’interdire les réseaux sociaux aux moins de 15 ans, teste depuis cet été une application de vérification d’âge développée par la Commission européenne. Cet outil est l’une des méthodes utilisées pour vérifier l’âge des internautes, un véritable casse-tête pour les géants du numérique et les autorités.
Certains pays prennent des initiatives
Début janvier, la ministre espagnole de la Jeunesse et de l’Enfance, Sira Rego, a demandé au parquet d’enquêter sur d’éventuelles infractions commises par Grok en lien avec la diffusion de matériel pédopornographique.
L’Espagne élabore actuellement une loi sur la protection des mineurs dans l’environnement numérique. Ce texte renforce le cadre de protection de l’intégrité et de la vie privée face aux nouvelles formes d’atteintes liées à l’utilisation de technologies telles que l’intelligence artificielle, réaffirmant que l’intérêt supérieur de l’enfant doit toujours primer sur tout modèle économique numérique.
La Bulgarie a intensifié ses efforts pour lutter contre la pédopornographie en ligne grâce à la coopération internationale en matière de répression, aux campagnes nationales de prévention et aux discussions politiques menées en accord avec la législation européenne.
En 2025, les autorités ont participé à une importante opération internationale qui a permis de fermer Kidflix, l’une des plus grandes plateformes mondiales d’exploitation sexuelle d’enfants, utilisée entre 2022 et 2025 par près de 3 millions de personnes.
La Roumanie dispose de mécanismes législatifs pour lutter contre la pédopornographie dans son code pénal et les autorités cherchent à étendre et à moderniser ces dispositions.
Depuis 2025, un projet de loi important relatif à la protection des enfants en ligne (dit « loi sur la majorité en ligne ») est en discussion au Parlement. La Roumanie participe progressivement à la mise en œuvre des règles de l’UE en matière de prévention et de lutte contre les abus sexuels en ligne. Ce texte instaure la vérification obligatoire de l’âge et l’obtention du consentement parental pour que les mineurs (moins de 16 ans) puissent accéder à des services en ligne tels que les réseaux sociaux, les plateformes de jeux et de streaming.
La Bosnie-Herzégovine, pays candidat à l’UE, ne dispose toujours pas de législation spécifique en la matière. La responsabilité pénale pour la production, la diffusion et la possession de tels contenus repose sur le droit pénal relatif à l’exploitation sexuelle des enfants, mais celui-ci ne contient pas de dispositions explicites concernant les contenus générés ou simulés par l’IA.
L’UE a mis en place un ensemble d’outils et de mesures complémentaires pour protéger ses citoyens – jeunes et moins jeunes – contre les pratiques nuisibles en ligne, mais ses points faibles incluent des difficultés d’application, l’amplification algorithmique des préjudices, une mise en œuvre nationale incohérente et des débats sur l’équilibre entre sécurité et vie privée.
Cet article est une key story de l’ENR. Son contenu repose sur des informations publiées par les agences participant à l’ENR