Los matemáticos más prestigiosos del mundo alertan sobre la IA: «Podría ser demasiado tarde»

Los riesgos de la IA cada vez preocupan más a la sociedad. De hecho, los matemáticos más prestigiosos del mundo, cinco de ellos ganadores de la Medalla Fields, han afirmado a The Times que son una «emergencia» que no debería descartarse como una exageración, y es que temen que pronto sea demasiado tarde para actuar.

Así lo han comunicado los 41 miembros de la Royal Society que, mediante una carta conjunta, han querido demostrar su descontento con la situación y avisar de su «extrema preocupación» por la rapidez con la que la IA se está desarrollando en nuestra sociedad y las consecuencias que podría tener en medio plazo para la sociedad.

Las alertas han saltado después de que la compañía tecnológica OpenAI asegurase a principios de septiembre que uno de sus modelos de IA había encontrado una solución al problema de Navier-Stokes, uno de los seis Problemas del Milenio que permanecen sin resolver. Según la empresa, hasta 10.000 agentes trabajaron de forma coordinada durante unas 88 horas para alcanzar el resultado. El hallazgo fue realizado por un modelo aún no presentado públicamente que, según OpenAI, es «significativamente más capaz» que GPT-6 Astra.

Tras el suceso, algunos investigadores han pedido a las empresas que desarrollan estas herramientas que detengan estos sistemas. Algunos de ellos, revela The Times, son Peter Scholze, Wendelin Werner, Sir Tim Gowers, Sir Martin Hairer y James Maynard, ganadores de la Medalla Fields, el equivalente al Nobel de Matemáticas.

Los matemáticos mencionados recuerdan las advertencias de antiguos trabajadores de las grandes compañías de inteligencia artificial, algunos de los cuales han situado hasta en «un 10 % la posibilidad de que la IA provoque la extinción de la humanidad durante la próxima década». A su juicio, el rápido avance que han podido comprobar en su propio campo demuestra que estas advertencias no deberían ser descartadas como una simple «exageración».

Los expertos en la materia también advierten del rápido avance de los modelos de inteligencia artificial. Según explican en su carta, en apenas tres meses los principales sistemas de OpenAI y Anthropic han pasado de alcanzar un nivel comparable al de un estudiante brillante a resolver varias cuestiones abiertas situadas en la frontera de la investigación matemática. También consideran que este avance podría tener «consecuencias que van mucho más allá de las matemáticas».

A su juicio, es probable que estos sistemas alcancen capacidades similares en ámbitos como la ciberseguridad, el control de armas autónomas, el desarrollo de agentes biológicos y químicos o la difusión dirigida de desinformación.

Los expertos alertan además de que la evolución de estas capacidades podría mantener un ritmo igualmente acelerado en estos campos. Por ello, advierten de que, cuando las consecuencias de este desarrollo sean evidentes para la sociedad, podría ser demasiado tarde para tomar medidas.

Ante esta situación, los matemáticos califican el escenario de «emergencia» y piden a la Royal Society que emplee su influencia para trasladar sus preocupaciones tanto al Gobierno como a los medios de comunicación.

Las advertencias llegan mientras el director ejecutivo de OpenAI, Sam Altman, reconoce que la preocupación por los riesgos de la inteligencia artificial está justificada. Aunque asegura que su compañía trabaja para hacer que esta tecnología sea segura, el empresario admite que cada vez resulta más fácil imaginar posibles escenarios negativos. «Creo que el mundo tiene razón en tener miedo de esto», afirmó.