Sam Altman reclama un acuerdo internacional para controlar una IA cada vez más autónoma

La próxima gran frontera de la inteligencia artificial podría no consistir únicamente en fabricar máquinas más inteligentes, sino en permitir que sean ellas mismas las que contribuyan a crear la siguiente generación de modelos. Sam Altman cree que ese escenario obliga a establecer reglas internacionales antes de que el desarrollo tecnológico avance demasiado rápido.

El consejero delegado de OpenAI ha reclamado la creación de estándares globales de seguridad para la inteligencia artificial y ha advertido de los riesgos que plantea la actual fragmentación normativa entre países. Su propuesta aparece en un documento elaborado junto al científico jefe de la compañía, Jakub Pachocki, en un momento en el que algunas de las principales empresas del sector empiezan a plantear públicamente la posibilidad de ralentizar determinados desarrollos.

OpenAI considera que la regulación internacional podría inspirarse en sectores como la aviación o las finanzas

OpenAI considera que la regulación internacional podría inspirarse en sectores como la aviación o las finanzas, donde los países mantienen sus competencias nacionales pero han conseguido establecer normas técnicas compartidas, mecanismos de comunicación y procedimientos de cooperación internacional.

La compañía sostiene que una estructura semejante permitiría evaluar de manera comparable las capacidades de los modelos, compartir información sobre incidentes y establecer criterios comunes para decidir cuándo un sistema resulta suficientemente peligroso como para exigir mayores controles. OpenAI ha defendido en las últimas semanas la creación de requisitos de seguridad comunes incluso en situaciones en las que eso obligue a ralentizar el desarrollo de determinadas capacidades.

Una IA que mejora otra IA

El principal temor señalado por Altman y Pachocki está relacionado con lo que los investigadores denominan «auto-mejora recursiva». El concepto describe un escenario en el que la inteligencia artificial empieza a asumir una parte cada vez mayor del propio proceso de investigación y desarrollo de nuevos modelos.

Hasta ahora, los sistemas han servido principalmente como herramientas para programadores, científicos o ingenieros. El siguiente paso consistiría en utilizar agentes capaces de investigar, experimentar, escribir código, evaluar resultados y participar directamente en la creación de sistemas todavía más avanzados.

OpenAI ya ha situado entre sus prioridades el desarrollo de un investigador automatizado de inteligencia artificial que ayude a resolver precisamente el problema de la alineación: conseguir que sistemas cada vez más capaces sigan comportándose conforme a los objetivos establecidos por las personas.

El problema aparece si ese círculo de mejora empieza a acelerarse. Una inteligencia artificial podría colaborar en la creación de otra más potente que, a su vez, fuese capaz de acelerar todavía más la investigación.

Una inteligencia artificial podría colaborar en la creación de otra más potente

La posibilidad continúa siendo objeto de discusión entre los investigadores y todavía no existe una auto-mejora recursiva plenamente autónoma. Sin embargo, varios de los principales laboratorios consideran que la automatización de tareas relacionadas con el desarrollo de modelos está avanzando con rapidez.

Altman y Pachocki advierten de que, sin las salvaguardias adecuadas, ese proceso podría terminar creando sistemas difíciles de comprender incluso para quienes los han desarrollado. Cuanto mayor sea su autonomía y más opaco resulte su funcionamiento, más complicado será detectar comportamientos inesperados o garantizar que las decisiones de la máquina siguen estando sometidas a supervisión humana.

Oligopolio de la IA

OpenAI reconoce además que las compañías tecnológicas no deberían decidir por sí solas cómo gestionar una transformación de esta magnitud.

Altman plantea que investigadores independientes, gobiernos y ciudadanos deben disponer de mecanismos reales de participación. El objetivo sería evitar que las decisiones sobre los límites de la inteligencia artificial queden concentradas exclusivamente en un reducido grupo de laboratorios privados.

La compañía resume su estrategia alrededor de tres prioridades: desarrollar sistemas automatizados que permitan investigar cómo mantener la IA bajo control humano, utilizar esta tecnología para acelerar el progreso científico y económico y permitir que las personas puedan disponer de sistemas personalizados de inteligencia artificial.

OpenAI sostiene que los primeros efectos de esta aceleración ya empiezan a observarse en campos científicos como las matemáticas y espera que capacidades similares puedan trasladarse a áreas como la medicina.

OpenAI sostiene que los primeros efectos de esta aceleración ya empiezan a observarse en campos científicos como las matemáticas

El potencial beneficio, sin embargo, convive con un riesgo proporcional al aumento de capacidades. Por eso, la compañía propone que Estados Unidos lidere la creación de estándares internacionales a través de organismos especializados y coopere con los institutos de seguridad de inteligencia artificial que están apareciendo en países como Reino Unido, Francia, Alemania, Japón, Canadá, Australia, Singapur o Corea del Sur. La propuesta coincide además con un creciente debate internacional sobre la necesidad de coordinar la seguridad de los modelos más avanzados.