Esta cautela coincide con una oleada de incidentes en el sector
Inteligencia artificial
La compañía creadora de ChatGPT frena su nueva IA tras detectar capacidades para lanzar ciberataques
Las pruebas de ciberseguridad demostraron que el modelo es capaz de descubrir vulnerabilidades y lanzar ataques sin intervención humana
La compañía creadora de ChatGPT, encabezada por Sam Altman, ha anunciado la congelación parcial del desarrollo de Astra, su próximo modelo de inteligencia artificial de última generación. La decisión responde a los alarmantes resultados obtenidos en las pruebas internas de ciberseguridad, donde el sistema ha demostrado una capacidad sin precedentes para identificar vulnerabilidades desconocidas y ejecutar ciberataques complejos de forma autónoma a partir de instrucciones simples.
El propio Sam Altman ha confirmado la medida a través de sus redes sociales, señalando la necesidad de contar con «un poco más de tiempo» para garantizar un despliegue seguro antes de su lanzamiento al público.
Para mitigar esta amenaza de nivel «crítico», OpenAI ha implementado un paquete de seguridad reforzado que incluye entornos de prueba completamente aislados, restricciones estrictas de acceso a internet, cifrado avanzado y un sistema de monitorización capaz de supervisar e interrumpiendo actividades peligrosas en tiempo real.
Además, la tecnológica colaborará con organismos gubernamentales y expertos externos para someter al modelo a evaluaciones de riesgo independientes.
Controles antes de su lanzamiento
Esta cautela coincide con una oleada de incidentes en el sector. Recientemente, modelos como GPT 5.6 Sol de OpenAI, herramientas de Anthropic y la IA Muse Spark 1.1 de MetaAI se han visto involucrados en ataques accidentales o vulneraciones a empresas como Hugging Face durante pruebas de seguridad.
Por todo ello, y ante las advertencias de las agencias internacionales sobre el uso de la IA en técnicas de ingeniería social, el Gobierno de Estados Unidos ha comenzado a tramitar un marco normativo para evaluar los modelos más avanzados antes de que lleguen al mercado.
