La IA acelera hasta el límite: OpenAI quiere frenar una carrera que ya inquieta a sus propios investigadores

La carrera por desarrollar una inteligencia artificial cada vez más poderosa ha alcanzado un punto en el que sus principales impulsores empiezan a plantearse si conviene levantar el pie del acelerador. OpenAI, la compañía detrás de ChatGPT, estudia la posibilidad de ralentizar el desarrollo de la IA de vanguardia. Esta decisión llega después de incidentes de seguridad, dimisiones de investigadores y pruebas de que estas herramientas ya reducen la barrera de entrada a actividades delictivas, operaciones de espionaje y posibles investigaciones de doble uso.

Sam Altman, consejero delegado de OpenAI, trasladó esta posibilidad a la plantilla durante una reunión general celebrada esta semana. Según varias fuentes presentes en el encuentro, la empresa podría acompasar el avance de sus modelos con otros laboratorios del sector, aunque reconoció que no todos estarían dispuestos a hacerlo. Ningún actor quiere quedarse atrás en un mercado multimillonario, pero cada vez resulta más difícil ignorar las consecuencias de una competencia sin un marco común de seguridad.

Ningún actor quiere quedarse atrás en un mercado multimillonario, pero cada vez resulta más difícil ignorar las consecuencias

OpenAI ya ha realizado algunos movimientos en esa dirección. La compañía asegura que ha moderado parte de su desarrollo y suspendido entrenamientos internos concretos por razones de seguridad. En julio, Altman afirmó además que había trasladado a responsables de la Casa Blanca la necesidad de acompasar la evolución de la IA. En agosto, la compañía llegó a pausar buena parte de su trabajo de desarrollo durante dos semanas para reforzar sus defensas, después de que agentes de IA burlaran medidas de contención y piratearan la plataforma de código abierto Hugging Face.

El episodio revela uno de los grandes temores que atraviesa hoy a la industria: que las capacidades de los sistemas progresen más rápido que las herramientas para supervisarlos. No hace falta imaginar una máquina autónoma que decida rebelarse contra sus creadores para ver el problema. Basta con que un modelo sea capaz de planificar tareas, ejecutar acciones en cadena, buscar vulnerabilidades, redactar código y adaptarse a los obstáculos con una mínima supervisión humana. En ese escenario, el riesgo no es solamente que la IA «piense» por sí misma, sino que multiplique la eficacia de quien la utiliza.

Los peligros de la IA

Jakub Pachocki, científico jefe de OpenAI, publicó un texto en el que advertía sobre los peligros de la IA avanzada y defendía que las empresas deberían coordinarse para ralentizar el desarrollo cuando sea necesario. Su aspiración es que las pausas voluntarias dejen de ser una excepción hasta que existan umbrales de seguridad compartidos por todo el sector.

La demanda aparece dentro de los propios laboratorios que compiten por liderar la próxima generación tecnológica. A finales de julio, más de 1.000 empleados de las principales firmas de IA firmaron una petición para crear mecanismos capaces de moderar el ritmo de desarrollo. Esta semana, el investigador Jacob Coxon abandonó su puesto y acusó a sus antiguos empleadores, Anthropic y OpenAI, de participar en una carrera hacia una IA superinteligente sin actuar con suficiente responsabilidad. También dos investigadores que salieron de Anthropic y DeepMind, propiedad de Google, reclamaron mayor transparencia sobre los riesgos asociados a estos sistemas.

Anthropic publicó un informe sobre operaciones detectadas y desarticuladas entre diciembre de 2025 y agosto de 2026. El documento recoge siete áreas de riesgo: ciberoperaciones, campañas de influencia, vigilancia, estafas y fraude, posible uso biológico, desarrollo de armas convencionales y extracción ilícita de modelos. La empresa sostiene que bloqueó todos los casos identificados y reforzó sus salvaguardas a partir de ellos.

Operaciones de vigilancia

Entre estos episodios hay actores vinculados a gobiernos, delincuentes financieros, empresas de software espía y entidades de propaganda estatal. Anthropic explica que sus modelos Claude fueron empleados para facilitar operaciones de vigilancia destinadas a identificar y monitorizar disidentes, así como para procesar volúmenes masivos de datos. En el caso de Irán, usuarios vinculados al Estado habrían usado redes privadas virtuales y números de teléfono extranjeros para sortear las restricciones de acceso a Claude, un servicio no disponible oficialmente en el país.

Anthropic explica que sus modelos Claude fueron empleados para facilitar operaciones de vigilancia

La compañía también detectó intentos de utilizar sus modelos para investigaciones que podrían contribuir al desarrollo de patógenos peligrosos. Anthropic admite que no siempre puede determinar si una consulta biológica persigue una finalidad legítima o maliciosa ya que el mismo conocimiento que puede ayudar a diseñar una vacuna o comprender un virus puede utilizarse para optimizar toxinas, estudiar la transmisión de enfermedades o buscar formas de evadir respuestas inmunitarias. Eso convierte la seguridad en un asunto especialmente complejo porque bloquear demasiado puede limitar la investigación que produce beneficios, pero bloquear poco puede abrir una puerta difícil de cerrar.

El informe describe, además, un salto cualitativo en el terreno de la ciberseguridad. Ya no se trata solo de preguntar a un chatbot cómo ejecutar una acción, sino de utilizar marcos de agentes que realizan reconocimiento, explotación de vulnerabilidades y extracción de datos de forma coordinada. En varios casos, los humanos fijaban los objetivos y revisaban los resultados, mientras los sistemas automatizados se encargaban de partes relevantes de la operación. Anthropic advierte de que la IA está reduciendo la brecha de conocimientos y recursos que antes separaba a grupos muy especializados de atacantes con menos capacidades.

¿Quién marca el límite?

La cuestión es quién marca el límite. La propuesta de OpenAI de ralentizar el desarrollo solo tendría eficacia si se tradujera en una coordinación entre las grandes tecnológicas, con controles externos, evaluaciones independientes y reglas sobre qué capacidades no deben desplegarse sin garantías suficientes. De lo contrario, una pausa unilateral puede convertirse en una desventaja competitiva para quien la adopte y en una oportunidad para quien decida seguir acelerando.

Una pausa unilateral puede convertirse en una desventaja competitiva para quien la adopte

La industria ha vendido durante años la promesa de una IA capaz de transformar la ciencia, la medicina, la educación y la productividad. Esa promesa sigue intacta. Pero la sucesión de incidentes y usos maliciosos hace que se dude sobre si sus creadores podrán mantenerla dentro de unos límites seguros cuando alcance capacidades todavía mayores.