go to the original language article
Bruselas (dpa) – La Comisión Europea ha abierto una investigación sobre la empresa tecnológica estadounidense X por su chatbot de inteligencia artificial Grok después de que este creara imágenes sexualizadas de mujeres y niños.
«Los deepfakes sexuales no consensuados de mujeres y niños son una forma violenta e inaceptable de degradación», dijo el lunes la vicepresidenta de la Comisión de la UE, Henna Virkkunen.
La investigación pretende examinar si X ha cumplido con sus obligaciones en virtud de la legislación de la Unión Europea, incluido el deber de «evaluar y mitigar diligentemente los riesgos sistémicos», escribió la Comisión, que actúa como el supervisor digital de la UE, en un comunicado.
«Esto incluye riesgos relacionados con la difusión de contenido ilegal en la UE, como imágenes sexualmente explícitas manipuladas, incluido contenido que pueda constituir material de abuso sexual infantil», señaló. «Estos riesgos parecen haberse materializado, exponiendo a los ciudadanos de la UE a daños graves».
La plataforma de redes sociales de Elon Musk ha sido objeto de fuertes críticas en las últimas semanas después de que Grok permitiera a los usuarios sustituir digitalmente la ropa de las mujeres por bikinis y, en algunos casos, crear representaciones sexualizadas de menores.
Tras una prolongada indignación internacional, X introdujo algunas restricciones a mediados de enero.
Estas incluyen impedir que Grok «permita la edición de imágenes de personas reales con ropa reveladora como bikinis» y restringir la función de creación de imágenes del chatbot de IA a los suscriptores de pago, dijo X en un comunicado.
La Comisión subrayó que la apertura de una investigación no prejuzga su resultado. (26 de enero)