go to the original language article
Bruxelles (dpa) – La Commission européenne a ouvert une enquête sur l’entreprise technologique américaine X concernant son chatbot d’intelligence artificielle Grok après que celui-ci a créé des images sexualisées de femmes et d’enfants.
« Les deepfakes sexuels non consentis de femmes et d’enfants sont une forme violente et inacceptable de dégradation », a déclaré lundi la vice-présidente de la Commission européenne Henna Virkkunen.
L’enquête doit déterminer si X a respecté ses obligations au titre du droit de l’Union européenne, y compris le devoir « d’évaluer avec diligence et d’atténuer les risques systémiques », a écrit la Commission, qui agit en tant que gendarme numérique de l’UE, dans un communiqué.
« Cela inclut les risques liés à la diffusion de contenus illégaux dans l’UE, tels que des images sexuellement explicites manipulées, y compris des contenus pouvant constituer des matériels d’abus sexuels sur enfants », a-t-elle indiqué. « Ces risques semblent s’être matérialisés, exposant les citoyens de l’UE à de graves préjudices. »
La plateforme de médias sociaux de Elon Musk a fait l’objet de vives critiques ces dernières semaines après que Grok a permis aux utilisateurs de remplacer numériquement les vêtements de femmes par des bikinis et, dans certains cas, de créer des représentations sexualisées de mineurs.
Après une indignation internationale prolongée, X a introduit certaines restrictions à la mi-janvier.
Celles-ci incluent l’interdiction pour Grok « de permettre la modification d’images de personnes réelles en vêtements révélateurs tels que des bikinis » et la limitation de la fonctionnalité de création d’images du chatbot d’IA aux abonnés payants, a indiqué X dans un communiqué.
La Commission a souligné que l’ouverture d’une enquête ne préjuge pas de son issue. (26 janvier)