La ONU pide una «acción urgente» para frenar la IA debido a riesgos sin precedentes

Todos los derechos humanos «están en riesgo, incluidos los derechos a la vida, la alimentación, la privacidad, la salud y la seguridad», debido al acelerado desarrollo de la Inteligencia Artificial (IA), advirtió este lunes el alto comisionado de la ONU Volker Türk.

«La actual carrera hacia una IA cada vez más potente supone un salto cualitativo hacia mayores riesgos existenciales para todos los aspectos de nuestras vidas», aseguró el jefe de derechos humanos de la ONU en un comunicado, recalcando que es necesario una «acción urgente» para regular la inteligencia artificial debido a los riesgos sin precedentes que plantean los sistemas más avanzados.

La IA agéntica, que va más allá de la convencional y puede tomar sus propias decisiones, está mostrando fallos que «podrían paralizar servicios esenciales, fracturar las comunicaciones, desestabilizar infraestructuras críticas y golpear en el corazón mismo de las instituciones democráticas», advirtió Türk.

«Poblaciones enteras podrían quedar sin acceso a agua, calefacción o servicios financieros», agregó el alto comisionado, quien aseguró que la IA «ya está acelerando el ritmo de las guerras, ampliando su alcance y erosionando las salvaguardias que se interponen entre nosotros y el lanzamiento de armas de destrucción masiva».

Las advertencias del jefe de derechos humanos de la ONU se producen después de que personalidades como Dario Amodei, consejero delegado de Anthropic; el director ejecutivo de OpenAI, Sam Altman; o el magnate Elon Musk reclamaran frenar deliberadamente el ritmo de desarrollo de los modelos de IA más avanzados frente a riesgos como la pérdida de control sobre los sistemas.

Según Türk, Estados y empresas deben movilizarse con urgencia a través de foros multilaterales para gobernar la IA sobre la base del derecho internacional y los derechos humanos.

«Ningún país puede gobernar esta tecnología por sí solo, ninguna empresa debería poder decidir por sí sola qué riesgos debe aceptar el mundo, y ninguna persona debería verse obligada a renunciar a sus derechos humanos a cambio de promesas de progreso tecnológico», resumió el alto comisionado austríaco.