"Tal y como han reportado diferentes medios de comunicación, Grok (la Inteligencia Artificial de X) habría generado, a petición de usuarios, material de violencia sexual contra personas menores de edad, una práctica que no puede entenderse como un uso neutro de la tecnología y que podría suponer un delito de pornografía infantil, tal y como está recogido en el Artículo 189 del Código Penal, así como un delito contra la integridad moral (Artículo 173 del Código Penal). Se trata de prácticas que vulneran gravemente la dignidad, la intimidad y los derechos fundamentales de niñas, niños y adolescentes en el entorno digital", explicaron fuentes del Ministerio que encabeza Sira Rego.

En su oficio, la ministra también alude a la sentencia del Juzgado de Menores de Badajoz 86/2024, de 20 de junio, por la cual se condenó a varias personas por la utilización de inteligencia artificial para manipular imágenes de niñas y adolescentes. Dicha resolución reconoce estas prácticas como una forma de violencia digital, tipificada como delito de pornografía infantil y contra la integridad moral, tal y como se expone en el documento remitido a la Fiscalía.

Para la ministra Rego, “estamos ante una vulneración de derechos fundamentales”, y subraya que “es imprescindible que la Fiscalía analice estos hechos gravísimos e impulse las actuaciones necesarias para garantizar la protección de la infancia también en internet”, poniendo freno a prácticas que atentan contra su dignidad y su desarrollo libre y seguro en el espacio digital.

Actualmente, el Congreso de los Diputados se encuentra tramitando la Ley Orgánica para la Protección de las Personas Menores de Edad en los Entornos Digitales, promovida por el Ministerio de Juventud e Infancia, con el objetivo de "situar la dignidad, la seguridad y los derechos de la infancia en el centro del espacio digital".

"Esta iniciativa forma parte de una estrategia más amplia de construcción de entornos digitales seguros, que reconoce que internet y las plataformas no fueron diseñadas pensando en la infancia y que es imprescindible garantizar que niñas, niños y adolescentes puedan desarrollarse en el sin violencia, sin exposición y sin mercantilización de su imagen", precisaron desde el Ministerio.

Estas fuentes consideran que la ley "refuerza el marco de protección de la integridad y la intimidad personal frente a nuevas formas de vulneración vinculadas al uso de tecnologías como la inteligencia artificial, reafirmando que el interés superior del menor debe prevalecer siempre frente a cualquier modelo de negocio digital".