OpenAI desvela qué país debería liderar el futuro regulatorio de la inteligencia artificial

OpenAI defendió este lunes que Estados Unidos asuma un papel protagonista en los esfuerzos internacionales encaminados a establecer un marco normativo para la inteligencia artificial. La propuesta de la compañía llega en un momento marcado por una preocupación creciente en torno a los posibles peligros asociados al rápido desarrollo de esta tecnología y a las consecuencias que podría tener para la humanidad si su evolución no va acompañada de suficientes mecanismos de seguridad.

La empresa ha expresado su respaldo a una cooperación de alcance global que permita establecer normas comunes de seguridad y protección en el desarrollo de la inteligencia artificial. El objetivo de este planteamiento pasa por reducir los riesgos vinculados a esta tecnología mediante criterios compartidos entre los distintos actores implicados y un marco que permita ordenar su avance.

En este contexto, OpenAI considera que Washington se encuentra en una posición especialmente relevante para encabezar ese proceso internacional. «Estados Unidos está bien posicionado para liderar este proceso, ya que su industria de la IA se encuentra a la vanguardia», afirmó OpenAI en una entrada publicada en su blog.

El posicionamiento de la compañía se produce después de que durante los últimos meses hayan aumentado las inquietudes relacionadas con la evolución de los modelos de inteligencia artificial. Esa preocupación se ha visto reforzada por distintos incidentes protagonizados por modelos de IA y por las advertencias de carácter apocalíptico realizadas por actores relacionados con el propio sector tecnológico.

Para OpenAI, la actuación de Estados Unidos en esta fase puede resultar determinante a la hora de configurar las reglas internacionales que rijan el futuro desarrollo de la inteligencia artificial. La empresa sostiene que la decisión de asumir ahora ese liderazgo podría condicionar la forma que adopte el sistema regulatorio internacional en los próximos años.

«Liderar ahora determinará si Estados Unidos da forma al marco global de la IA o si se limita a observar cómo se afianza a su alrededor un sistema fragmentado, desigual y plagado de conflictos», añadió la compañía, cuya sede se encuentra en San Francisco.

De este modo, OpenAI plantea que la regulación de la inteligencia artificial no se limite a iniciativas aisladas, sino que se articule mediante un esfuerzo internacional capaz de establecer normas de seguridad y protección. La compañía vincula ese planteamiento con la necesidad de mitigar los riesgos derivados del avance tecnológico, especialmente en un escenario en el que las capacidades de los modelos continúan evolucionando.

En paralelo, OpenAI también se pronunció sobre la polémica RSI, una técnica mediante la cual un modelo de inteligencia artificial puede aprender por sí mismo y mejorar de manera autónoma. La empresa considera que este tipo de desarrollo requiere especiales precauciones debido a las posibles consecuencias derivadas de una mejora autónoma de los sistemas.

En este sentido, OpenAI sostuvo que la RSI no debería perseguirse «a menos y hasta que pueda hacerse de forma segura». La advertencia introduce así una condición clara para avanzar en una técnica que ha generado inquietud entre quienes estudian los posibles riesgos asociados al desarrollo de sistemas de inteligencia artificial con mayores grados de autonomía.

Los críticos de la RSI temen que este mecanismo pueda desembocar en consecuencias catastróficas si los seres humanos pierden la capacidad de intervenir sobre el proceso. El temor se centra precisamente en la posibilidad de que un modelo capaz de aprender y mejorar de forma autónoma alcance un punto en el que la intervención humana resulte insuficiente.

La posición expresada por OpenAI combina así dos planteamientos: por una parte, la necesidad de impulsar una cooperación global para establecer normas de seguridad y protección aplicables al desarrollo de la inteligencia artificial y, por otra, la conveniencia de extremar las cautelas ante técnicas de mejora autónoma como la RSI. En ambos casos, la compañía sitúa la seguridad como condición fundamental para continuar avanzando en el desarrollo de esta tecnología.