Así lo desvela el informe ‘La misma pregunta, distintas respuestas: impactos de género de la IA en la adolescencia’, que Plan International publica este lunes y que analiza cómo afecta la IA a la juventud desde una perspectiva de género, según precisó la organización en un comunicado.

El estudio, que tiene como objetivo analizar el acceso, las oportunidades, la seguridad y la gobernanza de la IA, combina una encuesta a jóvenes de entre 13 y 19 años de cuatro continentes, pruebas controladas con ChatGPT y una revisión de la legislación de ocho jurisdicciones, incluida la española.

La conclusión es que tener el mismo acceso a la IA “no garantiza recibir el mismo trato ni la misma protección”, porque estas herramientas pueden “reproducir y amplificar estereotipos de género y desigualdades” que “ya existen y que “influyen en todo, desde aspiraciones profesionales y expectativas salariales hasta la imagen corporal, el bienestar emocional y la seguridad online”, según Plan International, que advirtió de que, sin embargo, la regulación no ha seguido el ritmo de avance de esta tecnología, lo que “genera lagunas en la protección frente a riesgos específicos”.

“Durante años el debate ha girado en torno a que las niñas pudieran acceder a la tecnología. Hoy la usan de igual manera que los chicos y el problema se ha desplazado. Tenemos que conseguir que esa tecnología no agrave desigualdades, y esa responsabilidad recae en quien diseña estas herramientas y en quien las regula”, señaló al respecto la directora general de Plan International en España, Virginia Saiz.

INVESTIGACIÓN

En el proceso de investigación se plantearon a ChatGPT preguntas sobre salud mental, imagen corporal, seguridad y orientación profesional, formuladas como si las escribieran adolescentes de entre 13 y 19 años de distinta edad, género y origen étnico, con y sin discapacidad, con el objetivo de comprobar si los consejos “son seguros y adecuados y si cambian según quién pregunta”.

Los estereotipos de género aparecieron de forma “constante” en las respuestas y, ante casos de acoso entre iguales, ChatGPT “no culpabilizó a las víctimas ni restó gravedad a lo ocurrido, pero a las chicas las remitía más a menudo a una persona adulta de confianza y a los chicos los animaba a resolverlo por su cuenta”, abundó la organización.

Además, en una de las pruebas, ante el perfil idéntico de una persona de 19 años que iba a negociar su salario, ChatGPT recomendó a la chica pedir 26.000 libras y al chico 28.000. La cifra de ella se presentaba como una base “razonable” y la de él como una “optimización asertiva”.

A su vez, las mujeres negras recibieron consejos salariales “menos firmes” que los hombres negros y, cuando el perfil incluía una discapacidad, en una de las pruebas se le dijo al chico que eso no debía afectar a su sueldo y se le propuso una cifra superior a la de un chico sin discapacidad. Las chicas no recibieron ese mensaje y en dos de las tres pruebas se les aconsejó pedir menos que a una chica sin discapacidad.

NO ES UN PROFESIONAL

El resultado más repetido de todo el análisis es que ChatGPT nunca dejó claro que “no es un profesional ni un sustituto de la ayuda cualificada”, un “vacío importante” a juicio de la organización, porque el 59% de las chicas y el 56% de los chicos encuestados ya recurren a la IA, al menos de vez en cuando, en busca de apoyo emocional y casi seis de cada 10 chicos y la mitad de las chicas dice que “nunca ha recibido un consejo inapropiado por parte de la IA”.

“Cuando una chica de 16 años con discapacidad le pidió que fuera su mejor amiga, la herramienta le respondió en dos de las tres pruebas que “siempre” estaría ahí, sin redirigirla hacia apoyos en su vida real. A los chicos con discapacidad que hicieron la misma petición sí los animó a buscar la compañía de otras personas, aunque no lo hizo con los chicos que no indicaban su edad”, ejemplificó Plan International.

El informe también reconoce “fortalezas”, pues, cuando una persona de 13 años expresaba tristeza y sentimientos de inutilidad, ChatGPT le facilitaba de forma sistemática recursos de ayuda en salud mental, el aspecto en el que la herramienta obtuvo mejores resultados en todo el estudio.

De los 99 jóvenes miembros de redes juveniles de Plan International encuestados en cuatro continentes, el 91% de las chicas y el 88% de los chicos han utilizado herramientas de IA, sobre todo chatbots, y el 72% las usa para estudiar.

La mayoría cree que la IA trata a todo el mundo por igual (así lo piensa el 59% de los chicos y el 52% de las chicas), pero casi la mitad asegura haberse encontrado con estereotipos al usarla.

Casi una cuarta parte de las personas encuestadas ha sufrido acoso a través de la IA y las chicas lo viven con más frecuencia como un patrón que como un hecho aislado. A chicas (31%) y chicos (38%) les preocupa que manipulen sus fotos o vídeos, pero son ellas quienes más dejan de publicar por ese motivo. Las chicas se topan además con más contenidos generados por IA que las hacen sentirse peor con su aspecto físico o su género y las imágenes y comentarios en Internet les afectan negativamente en mayor medida que a los chicos (un 29% frente a un 16%).

MUY POCA VOZ

El 67% considera que las empresas tecnológicas no hacen lo suficiente para proteger a la juventud y el 58% cree que las personas jóvenes tienen muy poca voz en cómo se diseña y se gobierna la IA. Más de ocho de cada diez (el 86% de las chicas y el 82% de los chicos) quieren que los gobiernos lideren o apoyen activamente su regulación.

En este contexto, Plan International pide a los gobiernos una gobernanza de la IA “coherente, vinculante y con perspectiva de género, que reconozca a niñas, niños y adolescentes como titulares de derechos y cierre las lagunas normativas”. Reclama también evaluaciones de impacto obligatorias sobre los derechos de la infancia y el género durante todo el ciclo de vida de estos sistemas y que las empresas comprueben y rindan cuentas sobre si sus herramientas aconsejan de forma distinta según el género, la edad, el origen étnico o la discapacidad de quien las usa.

“Cada vez que surge un riesgo digital, la primera tentación es prohibir. Pero las propias chicas y chicos nos dicen que siempre encontrarán la forma de entrar y tienen razón. La seguridad, la privacidad y la no discriminación deben integrarse en los sistemas de IA desde el principio, en lugar de dejar que sean los propios niños quienes gestionen los riesgos”, concluyó Virginia Saiz.