go to the original language article
AFP, Agerpres, ANSA, BTA, dpa, EFE, FENA
Confrontée aux vives réactions du grand public contre l’utilisation de l’intelligence artificielle qui porte atteinte à la vie privée et à la dignité des personnes, l’Union européenne sort la grosse artillerie.
Bruxelles envisage de classer la création de montages à contenu sexuel comme une pratique interdite au titre de la loi sur l’intelligence artificielle, après le scandale des images sexualisées créées par Grok, le chatbot intégré à la plateforme X de Илон Маск.
Les réactions contre Grok
La société de Маск, xAI – après avoir été longtemps critiquée par la communauté internationale – a introduit à la mi-janvier de nouvelles restrictions concernant les images sexuellement suggestives générées par l’intelligence artificielle avec Grok. Cette mesure a suivi des critiques selon lesquelles Grok avait permis aux utilisateurs de remplacer numériquement les vêtements des femmes par des bikinis et, dans certains cas, de créer des images sexualisées de mineurs.
Les premières images de personnes déshabillées sans leur consentement (« dénudement artificiel ») ont commencé à circuler dans les jours qui ont suivi le lancement de l’option, mais se sont particulièrement répandues autour du Nouvel An. Selon CNN, rien qu’entre les 5 et 6 janvier, Grok a été utilisé pour générer au moins 6 700 images sexuelles. Elles représentaient souvent des femmes ou des mineurs.
– Grok propose désormais une “option pimentée” qui affiche un contenu sexuel explicite, et certains résultats sont générés avec des images ressemblant à des enfants. Ce n’est pas pimenté. C’est illégal. C’est horrible, a alors déclaré le porte-parole de l’UE pour les questions numériques, Тома Рение, devant les journalistes.
La Commission européenne, qui exerce la fonction de régulateur numérique du bloc, a indiqué qu’elle examinerait les nouvelles mesures prises par X. Les responsables ont averti que si ces mesures s’avéraient insuffisantes, l’UE envisagerait l’application complète de sa loi sur les services numériques.
La vice-présidente de la CE, Хена Виркунен, a déclaré que la CE envisageait d’interdire explicitement ce type d’images sexuelles générées par l’intelligence artificielle au titre de la loi sur l’intelligence artificielle, en les classant comme des risques inacceptables.
L’interdiction des pratiques préjudiciables dans le domaine de l’intelligence artificielle pourrait être pertinente pour résoudre le problème de la pornographie enfantine et des montages sexuels non autorisés, a déclaré Виркунен, également commissaire européenne à la souveraineté technologique, à la sécurité et à la démocratie, lors de la session plénière du Parlement européen à Strasbourg la semaine dernière. Elle a ajouté que la loi sur les services numériques réduit le risque de diffusion de contenus sexuels en ligne sans consentement.
Elle a également rappelé que la CE avait envoyé une demande à X afin de fournir des informations concernant Grok, dans le cadre de son enquête sur la plateforme au titre de la loi sur les services numériques.
La plateforme a été invitée à conserver tous les documents internes et les données connexes jusqu’à la fin de l’année. – Nous examinons maintenant dans quelle mesure X peut, dans un cas quelconque, enfreindre la loi sur les services numériques et nous n’hésiterons pas à prendre d’autres mesures si les preuves l’indiquent, a-t-elle déclaré.
La Commission avait auparavant intensifié la pression sur X, qui a été sanctionné à hauteur de 120 millions d’euros début décembre pour violation des règles de transparence. L’UE insiste sur le fait qu’elle appliquera ses règles, malgré le mécontentement suscité au sein de l’administration américaine.
– La loi sur les services numériques est très claire en Europe. Toutes les plateformes doivent respecter les règles, car ce qui y est généré est inacceptable, et le respect des lois de l’UE n’est pas une option. C’est une obligation, a déclaré Рение alors que le scandale prenait de l’ampleur début janvier.
La semaine précédente, un groupe d’environ 50 eurodéputés a appelé la CE à interdire sur le marché de l’UE toutes les applications utilisant l’intelligence artificielle pour créer des images dénudées.
On ne vit pas sans X
Malgré les critiques adressées à X, presque tous les hauts responsables de l’UE continuent d’y publier plutôt que sur des plateformes européennes alternatives, selon une enquête de dpa.
La présidente de la Commission européenne, Урсула фон дер Лајен, et d’autres hauts responsables n’ont toujours pas de profils officiels sur Mastodon, une plateforme alternative basée en Allemagne. Виркунен a ouvert un profil officiel sur Mastodon en janvier. Certains hauts responsables politiques de l’UE sont également actifs sur Bluesky, une autre plateforme basée aux États-Unis qui devient de plus en plus populaire.
La Commission justifie l’utilisation continue de X par sa portée : Mastodon compte environ 750 000 utilisateurs mensuels, contre 100 millions pour X, selon les entreprises.
Le long chemin juridique vers une meilleure sécurité en ligne
Le chemin vers la protection des mineurs dans l’UE est long, car les questions de vie privée et de protection se heurtent aux intérêts des entreprises. Plusieurs réglementations se chevauchent :
Contrôle des conversations
En 2022, la Commission a proposé un règlement obligeant les plateformes à détecter et signaler les images et vidéos d’abus (matériel d’abus sexuel sur enfants), ainsi que les tentatives de prédateurs de contacter des mineurs.
Soutenu par plusieurs groupes de protection de l’enfance, le plan appelé « Contrôle des conversations » a suscité de vifs débats sur la vie privée dans le bloc des 27 pays et conduit à des accusations d’instauration d’une surveillance de masse.
La loi finale devrait être conclue au début de 2026, afin de combler le fossé entre l’approche du Parlement européen, axée sur la vie privée, et la volonté du Conseil de l’UE d’introduire largement des pouvoirs de scan volontaire.
Bien qu’ils aient prolongé les mesures temporaires de scan volontaire jusqu’en avril 2026 pour éviter un vide juridique, les eurodéputés ont demandé d’accélérer la recherche d’une solution permanente.
Loi sur les services numériques
L’Union européenne utilise la loi sur les services numériques pour sanctionner les plateformes en ligne en imposant d’énormes amendes, en exigeant des changements opérationnels urgents et – en dernier recours – en suspendant temporairement leurs services. Elle peut infliger des sanctions si les plateformes ne remplissent pas leurs obligations au titre de la loi sur les services numériques, ne respectent pas les mesures temporaires ou enfreignent leurs devoirs.
Il s’agit d’un règlement de l’UE pour un internet plus sûr, qui exige des plateformes qu’elles s’attaquent aux contenus illégaux, protègent les utilisateurs et augmentent la transparence.
Loi sur l’intelligence artificielle
La loi sur l’intelligence artificielle a été adoptée en 2024 et constitue le premier et unique cadre juridique complet au monde dans le domaine de l’intelligence artificielle. Elle établit un système fondé sur le risque pour réglementer les technologies d’intelligence artificielle au sein de l’UE, afin de garantir qu’elles sont sûres, fiables, respectueuses des droits fondamentaux, tout en restant innovantes.
Elle interdit certaines pratiques d’intelligence artificielle jugées inacceptables, comme le scoring social, et fixe des règles pour les domaines à haut risque en cas d’utilisation de l’intelligence artificielle – comme les infrastructures critiques ou l’emploi. Elle impose également des limites à l’utilisation manipulatrice de l’intelligence artificielle, comme les montages visant les enfants, entre autres.
Interdictions sur les réseaux sociaux
La France, qui envisage d’interdire les réseaux sociaux aux enfants de moins de 15 ans, teste depuis l’été une application de vérification de l’âge élaborée par la CE. Cet outil est l’une des plusieurs méthodes de vérification de l’âge des utilisateurs en ligne, un problème tant pour les géants de la technologie que pour les autorités.
Efforts individuels
La ministre espagnole de la Jeunesse et de l’Enfance, Сира Рего, a demandé début janvier au procureur général d’enquêter pour déterminer si Grok commet des infractions pénales liées à la diffusion de matériel d’abus sexuel sur enfants.
Actuellement, l’Espagne travaille sur sa propre loi pour la protection des mineurs dans les environnements numériques. La loi renforce le cadre de protection de l’intégrité personnelle et de la vie privée contre les nouvelles formes d’atteinte liées à l’utilisation de technologies comme l’intelligence artificielle, en affirmant que l’intérêt supérieur de l’enfant doit toujours primer sur tout modèle commercial numérique.
La Bulgarie a renforcé ses efforts pour lutter contre l’abus sexuel en ligne des enfants grâce à la coopération pour l’application du droit international, à des campagnes nationales de prévention et à des discussions sur des règles alignées sur la législation de l’UE. En 2025, les autorités bulgares ont participé à une vaste opération internationale qui a conduit à la fermeture de Kidflix, l’une des plus grandes plateformes au monde d’exploitation sexuelle d’enfants, utilisée par près de 2 millions d’utilisateurs entre 2022 et 2025.
Dans son code pénal, la Roumanie a mis en place des mécanismes juridiques pour lutter contre le matériel d’abus sexuel sur enfants, et les autorités entendent étendre et moderniser ces règles.
Depuis 2025, une importante loi sur la protection des enfants en ligne (appelée loi sur la majorité numérique) est en cours de procédure parlementaire, et la Roumanie
met progressivement en œuvre les règles de l’UE visant à prévenir et combattre l’abus sexuel en ligne. La loi sur la majorité numérique introduit une vérification obligatoire de l’âge et le consentement parental pour les mineurs (de moins de 16 ans) pour accéder à des services en ligne tels que les réseaux sociaux et les plateformes de jeux et de streaming en direct.
La Bosnie-Herzégovine, pays candidat à l’adhésion à l’UE, ne dispose pas encore d’une loi spécifique réglementant ce domaine. En Bosnie-Herzégovine, la responsabilité pénale pour la production, la distribution et la possession de ce type de matériel repose sur des lois pénales couvrant l’abus sexuel sur enfants, mais qui ne contiennent pas de dispositions explicites concernant le contenu généré ou simulé par l’intelligence artificielle.
L’UE a introduit des outils et des mesures supplémentaires pour protéger ses citoyens – jeunes et moins jeunes – contre les pratiques préjudiciables en ligne, mais les points faibles restent l’application problématique, la promotion algorithmique de contenus nuisibles, l’application incohérente entre les États et les désaccords sur l’équilibre entre sécurité et vie privée.
L’histoire est publiée chaque semaine. Le contenu est basé sur les dépêches des agences participant à ENR.