La IA mira a la aviación: el modelo de 1944 que OpenAI propone para frenar los riesgos mundiales

La inteligencia artificial avanza a una velocidad que ha dejado atrás a buena parte de la legislación nacional. Mientras Estados Unidos, la Unión Europea, China y decenas de países construyen sus propios marcos regulatorios, las grandes tecnológicas empiezan a advertir de un problema menos visible que los fallos de un chatbot o los contenidos falsos como es el riesgo de que cada Estado mida, vigile y responda de manera distinta ante sistemas de IA cada vez más autónomos.

Sam Altman, consejero delegado de OpenAI, y Jakub Pachocki, científico jefe de la compañía reclaman estándares técnicos internacionales para la IA de frontera, aquellos modelos con capacidades más avanzadas y potencial para intervenir en tareas de investigación, programación, ciberseguridad o desarrollo de nuevas generaciones de inteligencia artificial.

La empresa sostiene que la fragmentación regulatoria puede impedir comparar riesgos, compartir alertas o actuar con rapidez ante un incidente que afecte a distintos países. Su propuesta defiende una red de normas comunes sobre evaluación de capacidades, seguridad, supervisión humana, clasificación de incidentes y comunicación entre gobiernos y empresas. Cada país conservaría, en teoría, la decisión de incorporar esas reglas a su ordenamiento jurídico.

El espejo al que mira OpenAI es la aviación porque ambos sectores comparten una característica decisiva: sus riesgos no entienden de fronteras. Un fallo de seguridad en un avión puede afectar a pasajeros, aeropuertos y espacios aéreos de varios países. Un sistema de IA capaz de automatizar ciberataques, descubrir vulnerabilidades o acelerar la creación de otros modelos también puede producir efectos transnacionales en cuestión de horas.

El precedente de 1944

La regulación aérea internacional llegó tras décadas de competencia, experimentación técnica y tensiones políticas. La aviación civil había empezado a crecer en las primeras décadas del siglo XX, pero la Segunda Guerra Mundial transformó por completo las capacidades de la industria con aviones más rápidos, rutas más extensas, infraestructuras militares aprovechables y una red de transporte que podía trasladarse al ámbito comercial.

Estados Unidos convocó en 1944 la Conferencia de Chicago. Acudieron 54 de los 55 Estados invitados y, el 7 de diciembre de aquel año, 52 firmaron el Convenio sobre Aviación Civil Internacional, conocido desde entonces como Convención de Chicago.

La regulación aérea internacional llegó tras décadas de competencia, experimentación técnica y tensiones políticas

El acuerdo estableció un principio que sigue siendo fundamental: cada Estado conserva soberanía completa y exclusiva sobre el espacio aéreo situado sobre su territorio. Pero, al mismo tiempo, aceptó que el transporte internacional necesitaba reglas compartidas. Sin ellas, cada vuelo habría tenido que enfrentarse a requisitos incompatibles sobre navegación, comunicaciones, licencias de pilotos, aeródromos, mantenimiento, meteorología o investigación de accidentes.

La Convención de Chicago fue, por tanto, un pacto de soberanía cooperativa. Los países no cedieron el control de sus cielos, pero sí acordaron levantar una arquitectura común para que los vuelos internacionales fueran seguros, ordenados y económicamente viables. Esa combinación es precisamente la que OpenAI propone trasladar al terreno de la IA con competencias nacionales intactas, pero un idioma técnico compartido para identificar amenazas y reaccionar ante ellas.

La aviación tampoco elimina todos los fallos. Lo que ha creado es una estructura para que un suceso se investigue, se comunique y se convierta en una modificación de procedimientos, formación, diseño o mantenimiento. Es una lógica de mejora continua que puede resultar especialmente relevante para la IA, donde hoy no existe un sistema global equivalente para informar de comportamientos inesperados, vulnerabilidades graves o usos maliciosos.

Qué puede copiar la IA

OpenAI plantea dos pilares. El primero es hacer compatibles los estándares nacionales e internacionales, y crear mediciones y protocolos de notificación de incidentes comunes. Entre las materias que menciona están la evaluación del progreso hacia sistemas capaces de realizar investigación automatizada, los umbrales que deben activar revisión humana y la clasificación de la gravedad de un incidente.

La analogía con la aviación sería útil con un lenguaje técnico común, pero si los países definen de manera distinta qué es un modelo de frontera, un incidente grave o una prueba de seguridad suficiente, será difícil comparar resultados.

La analogía con la aviación sería útil con un lenguaje técnico común

Por otro lado, igual que un incidente aéreo puede activar canales internacionales de información, la IA necesitaría mecanismos seguros para compartir vulnerabilidades, fallos de comportamiento o intentos de uso dañino sin exponer información sensible.

La IA necesitaría mecanismos seguros para compartir vulnerabilidades

Además, en aviación, la automatización no elimina la responsabilidad de pilotos, operadores, fabricantes y autoridades. Trasladado a la IA, el principio exige determinar cuándo un sistema autónomo debe detenerse, informar o quedar sometido a intervención humana.

El principio exige determinar cuándo un sistema autónomo debe detenerse, informar o quedar sometido a intervención humana

Por último, la regulación no puede ser un texto inmóvil y debería ampliar sus anexos a medida que surgían nuevos riesgos, desde la seguridad frente a interferencias ilícitas hasta la gestión sistémica de la seguridad. La IA requerirá la misma capacidad de revisión rápida.

La IA requerirá la misma capacidad de revisión rápida de sus normas

La Unión Europea ya ha dado un paso importante con el Reglamento de Inteligencia Artificial. La norma busca evitar que las diferentes reglas nacionales fragmenten el mercado interior y establece obligaciones según el nivel de riesgo, con especial atención a la salud, la seguridad, los derechos fundamentales, la transparencia y la supervisión humana. Sin embargo, el AI Act es un marco europeo; no resuelve por sí solo la coordinación entre los grandes polos tecnológicos y regulatorios del planeta.

La diferencia que lo complica todo

La aviación es un sector delimitado. Existen aeronaves, operadores, aeropuertos, autoridades y rutas. La IA es una tecnología transversal, integrada en móviles, hospitales, fábricas, bancos, administraciones, medios de comunicación, defensa y educación. Regularla exige atender tanto al modelo que la desarrolla como al uso concreto que se hace de él.

Además, la seguridad aérea se apoya en una larga tradición de certificación física. Un avión puede inspeccionarse, probarse y homologarse antes de transportar pasajeros. Un modelo de IA, en cambio, puede cambiar con nuevas versiones, ajustarse a distintos idiomas, conectarse a herramientas externas o comportarse de forma diferente según el contexto. El reto de la IA es aprender este método.

La lección histórica de Chicago es que la cooperación internacional suele llegar cuando una tecnología se vuelve demasiado importante y demasiado interdependiente para dejarla en manos de normas inconexas. En 1944, los Estados acordaron reglas para que el cielo no se convirtiera en una suma de espacios incompatibles. Ocho décadas después nos preguntamos si el mundo será capaz de hacer algo parecido con los algoritmos antes de que estos alcancen una autonomía difícil de vigilar.