{"id":2068114,"date":"2026-01-23T10:58:38","date_gmt":"2026-01-23T09:58:38","guid":{"rendered":"https:\/\/europeannewsroom.com\/?p=2068114"},"modified":"2026-01-23T10:58:44","modified_gmt":"2026-01-23T09:58:44","slug":"bloqueo-a-los-desnudos-falsos-la-lucha-de-la-ue-por-una-mayor-seguridad-en-linea","status":"publish","type":"post","link":"https:\/\/europeannewsroom.com\/es\/bloqueo-a-los-desnudos-falsos-la-lucha-de-la-ue-por-una-mayor-seguridad-en-linea\/","title":{"rendered":"Bloqueo a los desnudos falsos: la lucha de la UE por una mayor seguridad en l\u00ednea\u00a0"},"content":{"rendered":"\n<p class=\"wp-block-paragraph\">La Uni\u00f3n Europea est\u00e1 sacando la artiller\u00eda pesada ante la indignaci\u00f3n generalizada por el uso de la Inteligencia Artificial (IA) que viola la privacidad y la dignidad de las personas.\u00a0\u00a0<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Bruselas estudia la posibilidad de clasificar la creaci\u00f3n de \u00abdeepfakes\u00bb sexuales como una pr\u00e1ctica prohibida por la Ley de Inteligencia Artificial tras el esc\u00e1ndalo de las im\u00e1genes sexualizadas creadas por Grok AI, el chatbot integrado en la\u00a0plataforma X de\u00a0\u00a0<strong>Elon Musk .<\/strong><\/p>\n\n\n\n<h3 class=\"wp-block-heading\"><strong>Indignaci\u00f3n por Grok<\/strong><\/h3>\n\n\n\n<p class=\"wp-block-paragraph\">La empresa xAI de Musk, tras prolongadas cr\u00edticas internacionales, introdujo nuevas restricciones a mediados de enero sobre las im\u00e1genes sexualmente sugerentes generadas por IA en Grok. La medida surge tras las cr\u00edticas de que Grok permit\u00eda a los usuarios reemplazar digitalmente la ropa de las mujeres con bikinis y, en algunos casos, crear representaciones sexualizadas de menores&nbsp;<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Las primeras im\u00e1genes de personas desnudadas sin consentimiento (\u00abnudificaci\u00f3n\u00bb) comenzaron a circular en los d\u00edas posteriores al lanzamiento de la funci\u00f3n, pero su difusi\u00f3n aument\u00f3 especialmente en la v\u00edspera de A\u00f1o Nuevo. Seg\u00fan CNN, solo entre el 5 y el 6 de enero, Grok se utiliz\u00f3 para generar al menos 6.700 im\u00e1genes sexuales. Estas a menudo involucraban a mujeres o menores de edad.\u00a0<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">\u00abGrok ahora ofrece un &#8216;modo picante&#8217; que muestra contenido sexual expl\u00edcito con im\u00e1genes infantiles. Esto no es picante. Es ilegal. Es atroz\u00bb,&nbsp;declar\u00f3 entonces a la prensa el portavoz de asuntos digitales de la UE&nbsp;<strong>, Thomas Regnier .<\/strong><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">La Comisi\u00f3n Europea, organismo de control digital del bloque, afirm\u00f3 que tomar\u00eda nota de las nuevas medidas adoptadas por X y las revisar\u00eda. Los funcionarios advirtieron de que, si las medidas resultan insuficientes, la UE considerar\u00e1 aplicar plenamente su Ley de Servicios Digitales (DSA).<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">La vicepresidenta de la Comisi\u00f3n Europea,&nbsp;<strong>Henna Virkkunen,<\/strong>&nbsp;ha declarado que la Comisi\u00f3n est\u00e1 considerando prohibir expl\u00edcitamente este tipo de im\u00e1genes sexuales generadas por IA en virtud de la Ley de IA, clasific\u00e1ndolas como riesgos inaceptables.&nbsp;<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">La prohibici\u00f3n de pr\u00e1cticas nocivas en el \u00e1mbito de la IA podr\u00eda ser relevante para abordar el problema de las falsificaciones sexuales no consentidas y la pornograf\u00eda infantil, afirm\u00f3 Virkkunen, tambi\u00e9n comisaria responsable de Soberan\u00eda Tecnol\u00f3gica, Seguridad y Democracia, en la sesi\u00f3n plenaria del Parlamento Europeo celebrada esta semana en Estrasburgo. A\u00f1adi\u00f3 que la DSA mitiga el riesgo de difusi\u00f3n de material sexual en l\u00ednea sin consentimiento.&nbsp;<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Tambi\u00e9n record\u00f3 que la Comisi\u00f3n hab\u00eda enviado una solicitud de informaci\u00f3n a X sobre Grok como parte de su investigaci\u00f3n sobre la plataforma en virtud de la DSA.&nbsp;<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Se solicit\u00f3 a la plataforma que conservara todos los documentos y datos internos relacionados con ella hasta finales de a\u00f1o. \u00abEstamos examinando hasta qu\u00e9 punto X podr\u00eda estar incumpliendo la DSA y no dudaremos en tomar medidas adicionales si las pruebas as\u00ed lo sugieren\u00bb, declar\u00f3.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">La Comisi\u00f3n ya hab\u00eda intensificado la presi\u00f3n sobre X, que recibi\u00f3 una multa de 120 millones de euros a principios de diciembre por violaciones de transparencia. La UE ha insistido en que aplicar\u00e1 sus normas a pesar de la reacci\u00f3n negativa de la administraci\u00f3n estadounidense.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">\u201cLa DSA es muy clara en Europa. Todas las plataformas deben poner orden en sus asuntos, porque lo que generan aqu\u00ed es inaceptable, y el cumplimiento de la legislaci\u00f3n de la UE no es una opci\u00f3n. Es una obligaci\u00f3n\u201d, declar\u00f3 Regnier\u00a0en el punto \u00e1lgido del esc\u00e1ndalo a principios de enero.\u00a0<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">La semana pasada, un grupo de unos 50 eurodiputados pidi\u00f3 a la Comisi\u00f3n que prohibiera en el mercado de la UE las aplicaciones de inteligencia artificial utilizadas para crear im\u00e1genes de desnudos.\u00a0<\/p>\n\n\n\n<figure class=\"wp-block-image\"><img loading=\"lazy\" decoding=\"async\" width=\"1024\" height=\"683\" src=\"https:\/\/europeannewsroom.com\/wp-content\/uploads\/2026\/01\/Grok-1024x683.jpg\" alt=\"\" class=\"wp-image-2067835\" srcset=\"https:\/\/europeannewsroom.com\/wp-content\/uploads\/2026\/01\/Grok-980x653.jpg 980w, https:\/\/europeannewsroom.com\/wp-content\/uploads\/2026\/01\/Grok-480x320.jpg 480w\" sizes=\"(min-width: 0px) and (max-width: 480px) 480px, (min-width: 481px) and (max-width: 980px) 980px, (min-width: 981px) 1024px, 100vw\" \/><figcaption class=\"wp-element-caption\">Ilustraci\u00f3n: 12 de julio de 2025: En esta fotoilustraci\u00f3n, el logotipo de xAI Grok aparece en la pantalla de un smartphone. Grok es un chatbot de inteligencia artificial generativa desarrollado por xAI. Foto: Algi Febri Sugita\/ZUMA Press Wire\/dpa<\/figcaption><\/figure>\n\n\n\n<h3 class=\"wp-block-heading\"><strong>No puedo vivir sin X<\/strong><\/h3>\n\n\n\n<p class=\"wp-block-paragraph\">A pesar de las cr\u00edticas a X, casi todos los altos funcionarios de la UE siguen publicando all\u00ed en lugar de en alternativas europeas, seg\u00fan una investigaci\u00f3n de dpa.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">La presidenta de la Comisi\u00f3n Europea,&nbsp;<strong>Ursula von der Leyen,<\/strong>&nbsp;y otros altos funcionarios a\u00fan no tienen cuentas oficiales en Mastodon, una alternativa con sede en Alemania. Virkkunen abri\u00f3 una cuenta oficial en Mastodon en enero. Altos pol\u00edticos de la UE tambi\u00e9n participan activamente en Bluesky, otra plataforma estadounidense que est\u00e1 ganando terreno.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">La Comisi\u00f3n justifica el uso continuado de X debido a su alcance: Mastodon tiene aproximadamente 750.000 usuarios mensuales, en comparaci\u00f3n con los 100 millones de X, seg\u00fan las empresas.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\"><strong>El largo camino legal hacia una mayor seguridad en l\u00ednea<\/strong><\/h3>\n\n\n\n<p class=\"wp-block-paragraph\">El camino hacia la protecci\u00f3n de los menores en la UE es largo, ya que las preocupaciones sobre privacidad, negocios y protecci\u00f3n se contraponen. Diversas regulaciones se entrecruzan:<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li><strong>Control de chat<\/strong><\/li>\n<\/ul>\n\n\n\n<p class=\"wp-block-paragraph\">En 2022, la Comisi\u00f3n propuso un reglamento para exigir a las plataformas que detecten y denuncien im\u00e1genes y v\u00eddeos de abuso (material de abuso sexual infantil o CSAM), as\u00ed como los intentos de depredadores de contactar a menores.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">El plan, apodado \u201cChat Control\u201d, con el apoyo de varios grupos de protecci\u00f3n infantil, desat\u00f3&nbsp;<a href=\"https:\/\/europeannewsroom.com\/privacy-vs-child-protection-eus-chat-control-plans-split-member-states\/\">intensos debates sobre la privacidad dentro del bloque de 27 pa\u00edses<\/a>&nbsp;y condujo a acusaciones de vigilancia masiva.&nbsp;<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Se espera que la legislaci\u00f3n final se negocie a principios de 2026, con el objetivo de cerrar la brecha entre el enfoque centrado en la privacidad del Parlamento y el deseo del Consejo de la UE de contar con amplios poderes de escaneo voluntario.&nbsp;<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Si bien se han ampliado las medidas temporales de escaneo voluntario hasta abril de 2026 para evitar un vac\u00edo legal, los eurodiputados han expresado la urgencia de encontrar una soluci\u00f3n permanente.<\/p>\n\n\n\n<figure class=\"wp-block-image\"><img loading=\"lazy\" decoding=\"async\" width=\"1024\" height=\"683\" src=\"https:\/\/europeannewsroom.com\/wp-content\/uploads\/2026\/01\/Protestaktion-_Chatkontrolle-stoppen_-1024x683.jpg\" alt=\"\" class=\"wp-image-2067881\" srcset=\"https:\/\/europeannewsroom.com\/wp-content\/uploads\/2026\/01\/Protestaktion-_Chatkontrolle-stoppen_-980x653.jpg 980w, https:\/\/europeannewsroom.com\/wp-content\/uploads\/2026\/01\/Protestaktion-_Chatkontrolle-stoppen_-480x320.jpg 480w\" sizes=\"(min-width: 0px) and (max-width: 480px) 480px, (min-width: 481px) and (max-width: 980px) 980px, (min-width: 981px) 1024px, 100vw\" \/><figcaption class=\"wp-element-caption\">9 de octubre de 2025, Berl\u00edn: Miembros de la alianza \u00ab\u00a1Alto al Control del Chat!\u00bb se manifiestan frente al Ministerio Federal del Interior. Organizaciones de la sociedad civil se manifiestan frente al Ministerio Federal del Interior en Berl\u00edn contra el plan de control del chat en toda la UE y entregan m\u00e1s de 300.000 firmas. Foto: Fabian Sommer\/dpa<\/figcaption><\/figure>\n\n\n\n<ul class=\"wp-block-list\">\n<li><strong>DSA<\/strong><\/li>\n<\/ul>\n\n\n\n<p class=\"wp-block-paragraph\">La Uni\u00f3n Europea utiliza la Ley de Servicios Digitales para sancionar a las plataformas en l\u00ednea mediante la imposici\u00f3n de multas masivas, la exigencia de cambios operativos inmediatos y, como \u00faltimo recurso, la suspensi\u00f3n temporal de sus servicios. Puede aplicar multas si las plataformas violan las obligaciones de la DSA, no cumplen con las medidas provisionales o incumplen sus compromisos<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Se trata de un reglamento de la UE para un mundo en l\u00ednea m\u00e1s seguro, que exige a las plataformas abordar el contenido ilegal, proteger a los usuarios y aumentar la transparencia.<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li><strong>Ley de IA<\/strong><\/li>\n<\/ul>\n\n\n\n<p class=\"wp-block-paragraph\">La Ley de IA se adopt\u00f3 en 2024 y es el primer y \u00fanico marco legal integral del mundo en el contexto de la inteligencia artificial. Establece un sistema basado en el riesgo para regular las tecnolog\u00edas de IA dentro de la UE, con el objetivo de garantizar que sean seguras, fiables y respeten los derechos fundamentales, a la vez que fomentan la innovaci\u00f3n&nbsp;<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Proh\u00edbe ciertas pr\u00e1cticas inaceptables de IA, como la puntuaci\u00f3n social, y establece normas para \u00e1reas de alto riesgo para el uso de IA, como infraestructuras cr\u00edticas o el \u00e1mbito laboral. Tambi\u00e9n establece restricciones sobre usos manipuladores de IA, como los deepfakes dirigidos a menores, entre otros.&nbsp;<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li><strong>Prohibiciones de redes sociales<\/strong><\/li>\n<\/ul>\n\n\n\n<p class=\"wp-block-paragraph\">Francia, que est\u00e1 considerando prohibir las redes sociales para menores de 15 a\u00f1os, ha estado probando una aplicaci\u00f3n de verificaci\u00f3n de edad desarrollada por la Comisi\u00f3n Europea desde este verano. Esta herramienta es uno de los varios m\u00e9todos utilizados para verificar la edad de los usuarios de internet, lo que supone un dolor de cabeza tanto para los gigantes tecnol\u00f3gicos como para las autoridades<\/p>\n\n\n\n<h3 class=\"wp-block-heading\"><strong>Esfuerzos individuales<\/strong><\/h3>\n\n\n\n<p class=\"wp-block-paragraph\">La ministra espa\u00f1ola de Juventud e Infancia,&nbsp;<strong>Sira Rego,<\/strong>&nbsp;solicit\u00f3 a principios de enero a la Fiscal\u00eda General del Estado que investigara si Grok podr\u00eda estar cometiendo delitos relacionados con la difusi\u00f3n de material de abuso sexual infantil<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Actualmente, Espa\u00f1a est\u00e1 desarrollando su propia ley para la protecci\u00f3n de los menores en entornos digitales. Esta ley refuerza el marco para la protecci\u00f3n de la integridad personal y la privacidad frente a nuevas formas de vulneraci\u00f3n vinculadas al uso de tecnolog\u00edas como la inteligencia artificial, reafirmando que el inter\u00e9s superior del menor debe prevalecer siempre sobre cualquier modelo de negocio digital.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Bulgaria ha intensificado sus esfuerzos para combatir el abuso sexual infantil en l\u00ednea mediante la cooperaci\u00f3n internacional con las fuerzas del orden, campa\u00f1as nacionales de prevenci\u00f3n y debates sobre pol\u00edticas en consonancia con la legislaci\u00f3n de la UE. En 2025, las autoridades b\u00falgaras participaron en una importante operaci\u00f3n internacional que clausur\u00f3 Kidflix, una de las mayores plataformas mundiales de explotaci\u00f3n sexual infantil, utilizada entre 2022 y 2025 por casi dos millones de usuarios.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Rumania cuenta con mecanismos legislativos para combatir el material de abuso sexual infantil a trav\u00e9s de su c\u00f3digo penal, y las autoridades est\u00e1n tratando de ampliar y modernizar esas normas.&nbsp;<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Desde 2025, un importante proyecto de ley sobre la protecci\u00f3n de la infancia en l\u00ednea (denominado Ley de Mayor\u00eda de Edad en Internet) se encuentra en debate parlamentario, y Ruman\u00eda tambi\u00e9n participa e implementa gradualmente las normas de la UE para la prevenci\u00f3n y la lucha contra el abuso sexual en l\u00ednea. Esta ley introduce la verificaci\u00f3n obligatoria de la edad y el consentimiento parental para que los menores de 16 a\u00f1os accedan a servicios en l\u00ednea como redes sociales, juegos y plataformas de streaming.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Bosnia y Herzegovina, pa\u00eds candidato a la UE, a\u00fan no cuenta con una ley espec\u00edfica que regule este \u00e1mbito. En Bosnia y Herzegovina, la responsabilidad penal por la producci\u00f3n, distribuci\u00f3n y posesi\u00f3n de dicho material se basa en leyes penales que abarcan la explotaci\u00f3n sexual infantil, pero no contienen disposiciones expl\u00edcitas sobre el contenido generado o simulado mediante inteligencia artificial.&nbsp;<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">La UE ha puesto en marcha un conjunto de herramientas y medidas complementarias para proteger a sus ciudadanos \u2013j\u00f3venes y mayores\u2013 de pr\u00e1cticas nocivas en l\u00ednea, pero entre los puntos d\u00e9biles se incluyen los desaf\u00edos en la aplicaci\u00f3n, la amplificaci\u00f3n algor\u00edtmica del da\u00f1o, una implementaci\u00f3n nacional inconsistente y debates sobre el equilibrio entre la seguridad y la privacidad.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><em>Este art\u00edculo es una noticia clave de ENR. Su contenido se basa en informaci\u00f3n publicada por las agencias participantes de ENR.<\/em><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Representaciones sexualizadas de menores generadas por IA en redes sociales: Tras el revuelo generado por el chatbot Grok de X, se ha vuelto m\u00e1s urgente impulsar una mayor protecci\u00f3n en l\u00ednea. La UE dispone de varias herramientas, pero parecen insuficientes para prevenir el abuso.<\/p>\n","protected":false},"author":189,"featured_media":2068116,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":true,"_et_pb_use_builder":"","_et_pb_old_content":"","_et_gb_content_width":"","footnotes":""},"categories":[39],"tags":[18035,23095,23094,10200],"class_list":["post-2068114","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-key-story","tag-digital-3","tag-elon-musk","tag-infancia","tag-inteligencia-artificial"],"acf":[],"_links":{"self":[{"href":"https:\/\/europeannewsroom.com\/es\/wp-json\/wp\/v2\/posts\/2068114","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/europeannewsroom.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/europeannewsroom.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/europeannewsroom.com\/es\/wp-json\/wp\/v2\/users\/189"}],"replies":[{"embeddable":true,"href":"https:\/\/europeannewsroom.com\/es\/wp-json\/wp\/v2\/comments?post=2068114"}],"version-history":[{"count":0,"href":"https:\/\/europeannewsroom.com\/es\/wp-json\/wp\/v2\/posts\/2068114\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/europeannewsroom.com\/es\/wp-json\/wp\/v2\/media\/2068116"}],"wp:attachment":[{"href":"https:\/\/europeannewsroom.com\/es\/wp-json\/wp\/v2\/media?parent=2068114"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/europeannewsroom.com\/es\/wp-json\/wp\/v2\/categories?post=2068114"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/europeannewsroom.com\/es\/wp-json\/wp\/v2\/tags?post=2068114"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}