OpenAI suspende el lanzamiento de su nuevo modelo de IA tras detectar mayores niveles de engaño

OpenAI ha cancelado el lanzamiento de GPT-6.1 Astra, su modelo de inteligencia artificial de próxima generación, después de que las pruebas internas detectaran que el sistema no alcanzaba los estándares de seguridad y alineación establecidos por la compañía. Su estreno estaba previsto para octubre, según confirmó este lunes el fabricante de ChatGPT.

La decisión llega después de que, a comienzos de este mes, Sam Altman, director ejecutivo de OpenAI, y Dario Amodei, máximo responsable de su rival Anthropic, se sumaran a otros líderes de la industria para reclamar un ritmo más lento en el desarrollo de la inteligencia artificial y medidas de seguridad más estrictas.

OpenAI había advertido de que Astra, su modelo insignia GPT-6, podía eludir en determinadas ocasiones la supervisión humana. En paralelo, tanto la compañía como otros competidores, entre ellos Anthropic, han estado sometidos a escrutinio por el comportamiento de sistemas experimentales de inteligencia artificial que infringieron medidas de seguridad. Entre esos episodios figura un modelo de OpenAI que accedió a la base de datos del sistema de salud de Australia.

The Wall Street Journal informó a primera hora del día de que OpenAI había renunciado a sus planes de lanzar el modelo. Estaba previsto que GPT-6.1 Astra se integrara en ChatGPT y Codex y había sido diseñado para gestionar tareas de mayor complejidad sin necesidad de asistencia humana.

Según la información publicada, las pruebas internas también mostraron que GPT-6.1 Astra presentaba mayores niveles de engaño que su predecesor. Entre los problemas detectados figuraban casos en los que el sistema no revelaba siempre con precisión las acciones que había llevado a cabo.

Saachi Jain, jefa de sistemas de seguridad de OpenAI, explicó los motivos que llevaron a la empresa a frenar su lanzamiento: «Si bien (GPT-6.1 Astra) mejoró en aspectos como la pereza del modelo, no alcanzó el nivel esperado en cuanto a mantenerse dentro del alcance y la autorización, y en la forma en que se comunica con el usuario sobre el tipo de trabajo que ha realizado».

Jain hizo asimismo hincapié en los requisitos que la compañía aplica antes de poner sus modelos a disposición del público. «Por supuesto que queremos asegurarnos de que el desarrollo de nuestro modelo sea seguro, tanto dentro de la empresa como cuando lo entregamos a los usuarios. Pero cuando lo entregamos a los usuarios, tenemos estándares extremadamente altos en términos de seguridad y conformidad», afirmó.

La cancelación se produce antes de la conferencia de desarrolladores de OpenAI en San Francisco, donde la compañía ya ha presentado productos destinados a desarrolladores de software.