Esa es la conclusión principal de una nueva investigación del Oxford Internet Institute, de la Universidad de Oxford (Reino Unido), y del Hasso Plattner Institute, de la Universidad de Potsdam (Alemania), y que se presentará este lunes en la Conferencia Internacional sobre Aprendizaje Automático en Seúl (Corea del Sur).

El estudio revela que los modelos lingüísticos complejos modifican sistemáticamente el sentido de las publicaciones en redes sociales sobre temas controvertidos, incluso cuando se les indica explícitamente que conserven el significado original.

Los investigadores también demostraron, mediante simulaciones de redes sociales reales, cómo estos pequeños cambios podían acumularse a lo largo de millones de interacciones e influir gradualmente en la opinión pública.

Los resultados plantean interrogantes sobre el creciente uso de herramientas de escritura basadas en inteligencia artificial (IA) en las plataformas de redes sociales y sugieren que la comunicación mediada por IA podría convertirse en un mecanismo adicional de influencia en el discurso público.

El estudio apunta que las herramientas de escritura y edición basadas en IA pueden introducir sesgos en las publicaciones de redes sociales. Los grandes modelos lingüísticos alteran sistemáticamente el rumbo de los mensajes de los usuarios sobre temas controvertidos, incluso cuando se les indica que preserven el significado original.

Además, los sesgos fueron similares en los distintos sistemas de IA. Varios modelos tendieron a influir en las publicaciones en direcciones similares, favoreciendo algunas posturas como el control de armas, la legalización de la marihuana y el feminismo, mientras que se oponían a otras como el ateísmo y la pena de muerte.

PEQUEÑOS CAMBIOS

El estudio subraya que pequeños cambios en publicaciones individuales pueden influir en la opinión pública con el tiempo. Simulaciones realizadas con datos reales de redes sociales demostraron que los sesgos sutiles introducidos en las publicaciones pueden acumularse y modificar gradualmente las opiniones en las comunidades en línea.

Los investigadores sostienen que los sistemas de IA integrados en las plataformas de redes sociales pueden moldear la forma en que se difunden las opiniones en línea, lo que plantea nuevos desafíos para la transparencia, la rendición de cuentas y la regulación.

La fuente del sesgo no reside únicamente en el modelo de inteligencia artificial en sí. El estudio demuestra que las decisiones específicas de implementación tomadas por las plataformas pueden afectar significativamente la dirección y la magnitud de la influencia generada por la IA.

MÉTODO

Para llevar a cabo el estudio, los investigadores instruyeron a grandes modelos lingüísticos de diferentes proveedores para transformar textos escritos por humanos sobre temas controvertidos en publicaciones mejoradas para redes sociales.

Luego analizaron si las versiones generadas por IA modificaban sistemáticamente la postura expresada en las publicaciones originales.

Posteriormente, utilizaron modelos matemáticos y simulaciones por ordenador basados ​​en datos reales de redes sociales de X y Facebook, para examinar cómo estos pequeños cambios podrían propagarse a través de las redes en línea y afectar la opinión pública general con el tiempo.

Por ejemplo, al recrear y probar la función ‘Explicar esta publicación’ de X, centrándose en publicaciones relacionadas con el aborto, los investigadores descubrieron que Grok apoyaba más las publicaciones provida que las proelección.

Al eliminar las instrucciones de X una por una, rastrearon este desequilibrio hasta una sola instrucción que le indicaba a Grok que "cuestionara las narrativas dominantes si fuera necesario".

Este experimento ilustra cómo las intervenciones específicas y fáciles de implementar en las plataformas pueden influir en la forma en que los sistemas de IA afectan el discurso público en línea.

“Nuestra investigación señala la comunicación mediada por IA como una forma nueva y más sutil de influir en las opiniones y ofrece motivos para reflexionar sobre quién o qué está dando forma al discurso público”, según Sandra Wachter, profesora de Tecnología y Regulación en el Oxford Internet Institute.