Las redes sociales impulsadas por IA pueden manipular la opinión pública a gran escala

Las herramientas de inteligencia artificial utilizadas para generar, editar o contextualizar publicaciones en redes sociales pueden introducir sesgos ocultos que se propagan a través de las redes en línea y dan forma a la opinión pública, según una nueva investigación del Oxford Internet Institute (OII) de la Universidad de Oxford (Reino Unido) y del Hasso Plattner Institute de la Universidad de Potsdam (Alemania).

El trabajo ha sido aceptado para su presentación en los talleres «AI4Good» e «Investigación sobre gobernanza técnica de la IA» en la Conferencia Internacional sobre Aprendizaje Automático (ICML 2026) en Seúl, Corea del Sur.

El estudio revela que los modelos lingüísticos complejos (MLC) modificaban sistemáticamente el sentido de las publicaciones en redes sociales sobre temas controvertidos, incluso cuando se les indicaba explícitamente que conservaran el significado original. Los investigadores también demostraron, mediante simulaciones de redes sociales reales, cómo estos pequeños cambios podían acumularse a lo largo de millones de interacciones e influir gradualmente en la opinión pública.

Los resultados plantean interrogantes sobre el creciente uso de herramientas de escritura basadas en inteligencia artificial en las plataformas de redes sociales y sugieren que la comunicación mediada por IA podría convertirse en un nuevo y poderoso mecanismo para influir en el discurso público.

Las herramientas de escritura y edición basadas en IA pueden introducir sesgos en las publicaciones de redes sociales. Los grandes modelos lingüísticos (LLM, por sus siglas en inglés) alteraron sistemáticamente el rumbo de los mensajes de los usuarios sobre temas controvertidos, incluso cuando se les indicó que preservaran el significado original.

Los sesgos fueron similares en los distintos sistemas de IA. Varios modelos tendieron a influir en las publicaciones en direcciones similares, favoreciendo algunas posturas como el control de armas, la legalización de la marihuana y el feminismo, mientras que se oponían a otras como el ateísmo y la pena de muerte.

Pequeños cambios en publicaciones individuales pueden influir en la opinión pública con el tiempo. Simulaciones realizadas con datos reales de redes sociales demostraron que los sesgos sutiles introducidos en las publicaciones pueden acumularse y modificar gradualmente las opiniones en las comunidades en línea.

La comunicación asistida por IA crea una nueva vía para influir en el discurso público. Los investigadores sostienen que los sistemas de IA integrados en las plataformas de redes sociales pueden moldear la forma en que se difunden las opiniones en línea, lo que plantea nuevos desafíos para la transparencia, la rendición de cuentas y la regulación.

La fuente del sesgo no reside únicamente en el modelo de IA en sí. El estudio demuestra que las decisiones específicas de implementación tomadas por las plataformas pueden afectar significativamente la dirección y la magnitud de la influencia generada por la IA.

Los investigadores instruyeron a grandes modelos lingüísticos (LLM) de diferentes proveedores para transformar textos escritos por humanos sobre temas controvertidos en publicaciones mejoradas para redes sociales. Luego analizaron si las versiones generadas por IA modificaban sistemáticamente la postura expresada en las publicaciones originales.

Posteriormente, utilizaron modelos matemáticos y simulaciones por computadora, basados en datos reales de redes sociales de X y Facebook, para examinar cómo estos pequeños cambios podrían propagarse a través de las redes en línea y afectar la opinión pública general con el tiempo.

Al recrear y probar la función «Explicar esta publicación» de X, centrándose en publicaciones relacionadas con el aborto, los investigadores descubrieron que Grok apoyaba más las publicaciones provida que las proelección. Al eliminar las instrucciones de X una por una, rastrearon este desequilibrio hasta una sola instrucción que le indicaba a Grok que «cuestionara las narrativas dominantes si fuera necesario».

Este experimento ilustra cómo las intervenciones específicas y fáciles de implementar en las plataformas pueden influir en la forma en que los sistemas de IA afectan el discurso público en línea.