Qué es el RSI y por qué podría provocar que la inteligencia artificial perdiera el control

El debate sobre los riesgos de la inteligencia artificial (IA) ya no se limita a sus capacidades actuales, sino que se extiende a un escenario en el que las máquinas puedan perfeccionarse hasta dificultar o impedir la supervisión humana.

Ese proceso se conoce como «automejora recursiva», o RSI (recursive self-improvement), y plantea que una IA pueda contribuir al desarrollo de sistemas cada vez más avanzados que, posteriormente, ayuden a crear nuevas generaciones de modelos. El temor reside en que este ciclo termine acelerándose hasta escapar al control humano.

Hasta ahora, las personas han dirigido el desarrollo de la IA, estableciendo objetivos y evaluando resultados. Sin embargo, los modelos actuales ya pueden asumir parte de esas funciones. El siguiente paso sería que una IA decidiera por sí misma qué mejorar, diseñara y ejecutara experimentos, analizara los resultados y empleara ese aprendizaje para crear una versión superior.

Anthropic, responsable de Claude, define este escenario como aquel en el que una IA pueda «diseñar de forma autónoma una nueva generación de modelos más capaces». La compañía sostiene que todavía no se ha alcanzado ese punto y que la automejora recursiva no resulta inevitable.

No obstante, Anthropic ha advertido de la rapidez con la que sus modelos comienzan a contribuir al desarrollo de nuevos sistemas. Jacob Coxon abandonó la empresa después de alertar de que la industria avanza demasiado deprisa hacia máquinas capaces de mejorarse a sí mismas.

La compañía admite que los progresos de Claude pueden conducir hacia la RSI y que esta evolución está ocurriendo «más rápido de lo que se pensaba». Vincent Conitzer explicó a CNBC que la IA «ya es capaz de introducir algunas ideas nuevas», aunque «resulta difícil saber cuándo esa capacidad suponga acelerar de forma drástica el desarrollo de sistemas de IA cada vez más avanzados».

En este escenario resultan fundamentales los agentes de IA, capaces de utilizar herramientas, ejecutar código y desarrollar tareas prolongadas. El científico jefe de OpenAI, Jakub Pachocki, aseguró tener una «fuerte expectativa» de que estos sistemas den «saltos de capacidad cada vez mayores», «impulsando cada vez más su propio desarrollo».

La preocupación también afecta a la supervisión. Margaret Mitchell advierte de que «los sistemas pueden terminar desplazando a las personas de la toma de decisiones». Pachocki ha pedido «cautela» y «ralentizar el desarrollo si es necesario», mientras Anthropic y Microsoft han reforzado sus controles. Esta última pretende mantener sus sistemas «bajo control humano».

Frente a estas advertencias, el presidente estadounidense, Donald Trump, ha rechazado frenar el desarrollo de la IA ante el temor de que Estados Unidos pierda ventaja frente a China.