Desde Unicef España, el responsable de Educación y Derechos Digitales, Nacho Guadix, explicó a Servimedia que la inteligencia artificial está "cada vez más presente" en la vida de los niños y niñas, y les permite "ser creativos y jugar de nuevas formas”, aunque advirtió de que los niños y niñas "no deberían" estar expuestos a ella sin un acompañamiento que garantice que su grado de madurez y de competencia digital les permita tener una experiencia adecuada.

Guadix alertó de riesgos como la desinformación generada por la inteligencia artificial, dependencia emocional de los chatbots, y daños reales causados por 'deepfakes' explícitos, además de "material de abuso sexual infantil”, y subrayó que el mensaje central de Unicef es claro: "Para defender los derechos de infancia, la gobernanza y los sistemas de Inteligencia Artificial deben optimizar las oportunidades, mitigar los riesgos y eliminar los daños para los niños y niñas”.

La responsable de incidencia de la Plataforma de Infancia, Almudena Escorial, destacó que el uso descontrolado de las herramientas de IA "ha generado muchos problemas" que tienen impacto directo en los derechos de la infancia y adolescencia, "especialmente al facilitar delitos vinculados a la violencia sexual y dificultar reconocer noticias, imágenes y vídeos falsos".

Escorial explicó que la respuesta pasa por varias medidas, entre ellas educación y formación digital para fomentar el espíritu crítico y responsabilidad empresarial, y recalcó que “prohibir a chicas y chicos que entren en estos espacios, o que no usen estas herramientas no los pone a salvo de la violencia ni de la desinformación”.

Por su parte, la directora de influencia y desarrollo territorial de Save the Children, Catalina Perazzo, señaló que la inteligencia artificial forma ya parte del entorno digital, en el que también participan niños, niñas y adolescentes, y advirtió de “desafíos para su seguridad y bienestar” derivados tanto del uso directo como del uso malintencionado por terceros, “por ejemplo para generar imágenes realistas que atenten contra su bienestar y seguridad”.

Perazzo explicó que resulta prioritario que las empresas garanticen que los sistemas de IA no puedan utilizarse para fines perjudiciales e incorporen medidas de prevención del uso indebido, moderación efectiva y protección de datos, y defendió que “es fundamental que la educación en ciudadanía digital incorpore el uso crítico y responsable de la inteligencia artificial”.

La directora general de Aldeas Infantiles SOS, María del Mar Líndez, recordó que el proyecto de ley eleva a 16 años la edad para consentir el tratamiento de datos personales y explicó que esta restricción busca proteger a niños y adolescentes de riesgos digitales y controlar el uso de algoritmos, “incluyendo el uso de herramientas de inteligencia artificial que facilitan la creación de contenidos inapropiados”.

Líndez advirtió de riesgos como el acceso a contenidos inadecuados, la exposición de datos personales o la percepción como “amiga” o “consejera emocional”, y defendió que estas limitaciones deben ir acompañadas de alfabetización digital, formación a familias y profesionales y responsabilidad de las empresas tecnológicas.

Finalmente, el director de incidencia y comunicación de Plan International, David del Campo, afirmó que la IA no puede quedar fuera de la regulación ni de los marcos de protección de menores y alertó de que se ha convertido en una “acompañante” emocional para muchos adolescentes, incluso en cuestiones relacionadas con su salud mental.

Del Campo apostó por “mecanismos efectivos de control”, especialmente la verificación real de la edad, y sostuvo que el anuncio del Gobierno es una señal positiva, aunque insistió en que el foco debe ponerse en obligaciones legales claras, educación digital e inteligencia emocional para niños y adolescentes.