Yoshua Bengio, uno de los fundadores de la IA
«Estamos perdiendo el control»: la advertencia de uno de los padres de la IA
Las declaraciones de Yoshua Bengio se suman a una creciente corriente de alarma entre algunos de los científicos que impulsaron el desarrollo de la inteligencia artificial en sus primeras etapas
La psicosis creciente por el posible descontrol de la Inteligencia Artificial (IA) ha puesto en alerta a las empresas que las generan, a las administraciones y a los propios usuarios. Pero también a sus creadores, que llevan semanas advirtiendo de la complejidad de que estos agentes se escapen del control humano.
Un ejemplo es el informático canadiense Yoshua Bengio, considerado uno de los padres de la inteligencia artificial, que aseguró a la agencia AFP que la humanidad está perdiendo el control sobre esta tecnología y que resulta urgente aplicar medidas de seguridad comparables a las que existen en torno al armamento nuclear.
La preocupación en torno a la IA se ha intensificado en los últimos días, después de que varios empleados de las principales empresas desarrolladoras de modelos de inteligencia artificial abandonaran sus puestos alegando que el ritmo de avance de la tecnología representa una amenaza para la vida humana.
Según explicó Bengio, no es casualidad que sean las propias compañías las que reconocen que el desarrollo se está acelerando más de lo que pueden controlar. El investigador, de 62 años, ganó el Premio Turing en 2018 –considerado el equivalente al Nobel en el campo de la informática– junto a Geoffrey Hinton, conocido como el «padrino de la IA».
Un temor que se veía venir
En declaraciones realizadas el martes, Bengio reconoció que personas como él llevaban tiempo anticipando este escenario, y admitió que hasta ahora el debate público sobre los riesgos de la inteligencia artificial no ha sido lo suficientemente riguroso.
La inquietud mundial se disparó después de que OpenAI revelara que, en julio, un grupo de agentes de inteligencia artificial –programas capaces de operar de manera autónoma– logró acceder sin autorización a la plataforma de código abierto Hugging Face.
Para Bengio, ese tipo de comportamiento autónomo constituye uno de los mayores peligros actuales. El experto advirtió a la AFP de que, en el futuro, estos agentes podrían llegar a sortear los sistemas de ciberseguridad e introducirse en cualquier compañía sin ser detectados.
Los riesgos de una IA capaz de actuar por sí sola
Bengio insistió ante la AFP en que la sociedad debe tomar conciencia de los riesgos que se avecinan. A su juicio, los agentes de inteligencia artificial podrían llegar a establecer vínculos individuales con las personas y utilizarlos para influir en su comportamiento, favoreciendo intereses que no necesariamente beneficiarían al conjunto de la sociedad.
El investigador fue más allá al señalar que la inteligencia artificial podría, en determinados casos, dejar de necesitar la intervención humana para ejecutar tareas concretas en el mundo físico, lo que abriría la puerta a un nivel de autonomía todavía mayor.
Entre los escenarios más extremos que planteó a la AFP, Bengio mencionó la posibilidad de que esta tecnología terminara representando una amenaza existencial para la humanidad. No obstante, matizó que, incluso sin llegar a ese punto límite, otros efectos –como un eventual colapso del sistema financiero global– ya supondrían una crisis de enorme gravedad.
Las declaraciones de Bengio se suman a una creciente corriente de alarma entre algunos de los científicos que impulsaron el desarrollo de la inteligencia artificial en sus primeras etapas, y que ahora reclaman mecanismos internacionales de control similares a los que rigen otras tecnologías consideradas de alto riesgo, como la energía nuclear.