go to the original language article
AFP, Agerpres, ANSA, BTA, dpa, EFE, FENA
Ante las fuertes reacciones del público en general contra el uso de la inteligencia artificial que vulnera la privacidad y la dignidad de las personas, la Unión Europea saca la artillería pesada.
Bruselas estudia la posibilidad de clasificar la creación de montajes con contenido sexual como práctica prohibida de acuerdo con la Ley de Inteligencia Artificial, después del escándalo de las imágenes sexualizadas creadas por Grok, el chatbot integrado en la plataforma X de Илон Маск.
Las reacciones contra Grok
La empresa de Маск, xAI, tras haber sido criticada durante mucho tiempo por la comunidad internacional, introdujo a mediados de enero nuevas restricciones para las imágenes sexualmente sugerentes generadas por inteligencia artificial con Grok. Esta medida siguió a las críticas de que Grok había permitido a los usuarios sustituir digitalmente la ropa de las mujeres por bikinis y, en algunos casos, crear imágenes sexualizadas de menores.
Las primeras imágenes de personas desnudas sin su consentimiento (“desnudez artificial”) empezaron a circular en los días posteriores al lanzamiento de la opción, pero se difundieron especialmente en el periodo de Año Nuevo. Según CNN, solo entre el 5 y el 6 de enero, Grok se utilizó para generar al menos 6.700 imágenes sexuales. A menudo contenían mujeres o menores.
– Grok ofrece ahora una “opción picante” que muestra contenido sexual explícito, y algunos resultados se generan con imágenes que se asemejan a niños. Esto no es picante. Esto es ilegal. Esto es horrible, declaró entonces el portavoz de la UE para asuntos digitales Тома Рение ante los periodistas.
La Comisión Europea, que actúa como supervisor digital del bloque, anunció que examinará las nuevas medidas adoptadas por X. Los funcionarios advirtieron que, si los pasos resultan insuficientes, la UE considerará la plena aplicación de su Ley de Servicios Digitales.
La vicepresidenta de la CE, Хена Виркунен, declaró que la CE está considerando prohibir explícitamente este tipo de imágenes sexuales generadas por inteligencia artificial de acuerdo con la Ley de Inteligencia Artificial, clasificándolas como riesgos inaceptables.
La prohibición de prácticas dañinas en el ámbito de la inteligencia artificial podría ser relevante para abordar el problema de la pornografía infantil y los montajes sexuales sin permiso, dijo Виркунен, que también es comisaria europea de Soberanía Tecnológica, Seguridad y Democracia, durante la sesión plenaria del Parlamento Europeo en Estrasburgo la semana pasada. Añadió que la Ley de Servicios Digitales reduce el riesgo de difusión de contenidos sexuales en internet sin consentimiento.
Recordó también que la CE había enviado una solicitud a X para que proporcionara información sobre Grok, como parte de su investigación sobre la plataforma de acuerdo con la Ley de Servicios Digitales.
Se pidió a la plataforma que conservara todos los documentos internos y los datos relacionados hasta finales de año. – Ahora estamos examinando en qué medida X puede, en cualquier caso, infringir la Ley de Servicios Digitales y no dudaremos en tomar nuevas medidas si las pruebas apuntan en esa dirección, dijo.
La Comisión había aumentado anteriormente la presión sobre X, que fue multada con 120 millones de euros a principios de diciembre por violaciones de transparencia. La UE insiste en que hará cumplir sus normas a pesar de haber provocado el descontento de la administración estadounidense.
– La Ley de Servicios Digitales es muy clara en Europa. Todas las plataformas deben cumplir las normas, porque lo que generan aquí es inaceptable, y el cumplimiento de las leyes de la UE no es una opción. Es una obligación, dijo Рение mientras el escándalo estallaba a principios de enero.
La semana anterior, un grupo de unos 50 eurodiputados apeló a la CE para que prohibiera en el mercado de la UE todas las aplicaciones que utilizan inteligencia artificial para crear imágenes desnudas.
No se puede vivir sin X
A pesar de las críticas dirigidas a X, casi todos los altos cargos de la UE siguen publicando allí en lugar de en plataformas europeas alternativas, según una investigación de dpa.
La presidenta de la Comisión Europea, Урсула фон дер Лајен, y otros altos cargos aún no tienen perfiles oficiales en Mastodon, una plataforma alternativa con sede en Alemania. Виркунен abrió un perfil oficial en Mastodon en enero. Algunos altos políticos de la UE también están activos en Bluesky, otra plataforma con sede en Estados Unidos que se está volviendo cada vez más popular.
La Comisión justifica el uso continuado de X por su alcance: Mastodon tiene alrededor de 750.000 usuarios mensuales, frente a los 100 millones de X, según las empresas.
El largo camino legal hacia una mayor seguridad en internet
El camino hacia la protección de los menores en la UE es largo, ya que entran en conflicto los problemas de privacidad y protección con los intereses empresariales. Varias normativas se solapan:
Control de chat
En 2022, la Comisión propuso una normativa que exigiría a las plataformas detectar y denunciar imágenes y vídeos de abusos (material de abuso sexual infantil), así como intentos de depredadores de contactar con menores.
Apoyado por varios grupos de protección de la infancia, el plan denominado “Control de chat” provocó intensos debates sobre la privacidad en el bloque de 27 países y dio lugar a acusaciones de que introducía una vigilancia masiva.
Se espera que la ley definitiva se acuerde a principios de 2026, con el objetivo de salvar la brecha entre el enfoque del Parlamento Europeo, centrado en la privacidad, y el deseo del Consejo de la UE de introducir ampliamente poderes para el escaneo voluntario.
Aunque se prorrogaron las medidas provisionales para el escaneo voluntario hasta abril de 2026 para evitar un vacío legal, los eurodiputados pidieron acelerar la búsqueda de una solución permanente.
Ley de Servicios Digitales
La Unión Europea utiliza la Ley de Servicios Digitales para sancionar a las plataformas en línea imponiendo enormes multas, exigiendo cambios operativos urgentes y, en última instancia, suspendiendo temporalmente sus servicios. Puede imponer sanciones si las plataformas no cumplen con sus obligaciones de acuerdo con la Ley de Servicios Digitales, no respetan las medidas provisionales o infringen sus obligaciones.
Se trata de una normativa de la UE para una internet más segura, que exige a las plataformas que aborden los contenidos ilegales, protejan a los usuarios y aumenten la transparencia.
Ley de Inteligencia Artificial
La Ley de Inteligencia Artificial fue adoptada en 2024 y es el primer y único marco jurídico integral del mundo en el contexto de la inteligencia artificial. Establece un sistema basado en el riesgo para regular las tecnologías de inteligencia artificial dentro de la UE, con el fin de garantizar que sean seguras, fiables y respeten los derechos fundamentales, y al mismo tiempo sean innovadoras.
Prohíbe ciertas prácticas inaceptables de inteligencia artificial, como la puntuación social, y establece normas para ámbitos en los que existe un alto riesgo si se utiliza la inteligencia artificial, como la infraestructura crítica o el empleo. También establece limitaciones para el uso manipulador de la inteligencia artificial, como los montajes dirigidos a niños, entre otros.
Prohibiciones en las redes sociales
Francia, que está considerando prohibir las redes sociales para los niños menores de 15 años, está probando desde el verano una aplicación de verificación de edad desarrollada por la CE. Esta herramienta es uno de los varios métodos para verificar la edad de los usuarios en internet, lo que supone un problema tanto para los gigantes tecnológicos como para las autoridades.
Esfuerzos individuales
La ministra española de Juventud e Infancia, Сира Рего, pidió a principios de enero al fiscal general del Estado que investigara si Grok comete delitos relacionados con la difusión de material de abuso sexual infantil.
En este momento, España trabaja en su propia ley de protección de menores en entornos digitales. La ley refuerza el marco de protección de la integridad personal y la privacidad frente a nuevas formas de vulneración relacionadas con el uso de tecnologías como la inteligencia artificial, afirmando que el interés superior del niño debe ser siempre más importante que cualquier modelo de negocio digital.
Bulgaria ha intensificado los esfuerzos para combatir el abuso sexual infantil en internet mediante la cooperación en la aplicación del derecho internacional, campañas nacionales de prevención y debates sobre normas alineadas con la legislación de la UE. En 2025, las autoridades búlgaras participaron en una gran operación internacional que cerró Kidflix, una de las mayores plataformas del mundo para la explotación sexual infantil, utilizada por casi 2 millones de usuarios entre 2022 y 2025.
En su Código Penal, Rumanía ha establecido mecanismos legales para combatir el material de abuso sexual infantil, y las autoridades tienen la intención de ampliar y modernizar estas normas.
Desde 2025, una importante ley para la protección de los niños en internet (denominada Ley de Mayoría de Edad en Internet) se encuentra en trámite parlamentario, y Rumanía
aplica gradualmente también las normas de la UE para prevenir y combatir el abuso sexual en línea. La Ley de Mayoría de Edad en Internet introduce la verificación obligatoria de la edad y el consentimiento parental para los menores (menores de 16 años) para acceder a servicios en línea como las redes sociales y las plataformas de juegos y retransmisiones en directo.
Bosnia y Herzegovina, país candidato a la adhesión a la UE, aún no cuenta con una ley concreta que regule este ámbito. En BiH, la responsabilidad penal por la producción, distribución y posesión de este tipo de material se basa en leyes penales que abarcan el abuso sexual infantil, pero no contienen disposiciones explícitas sobre contenido generado o simulado por inteligencia artificial.
La UE ha introducido herramientas y medidas adicionales para proteger a sus ciudadanos, tanto jóvenes como mayores, de prácticas dañinas en internet, pero los puntos débiles siguen siendo la problemática aplicación, el impulso algorítmico de contenidos dañinos, la aplicación incoherente entre los Estados y los desacuerdos sobre cómo equilibrar la seguridad con la privacidad.
La historia se publica semanalmente. El contenido se basa en noticias de las agencias que participan en ENR.