Desafío de la Inteligencia Artificial
Ciencia
Uno de los pioneros de la IA lanza una inquietante advertencia a la humanidad: «Sería un gran error»
Con una IA cada vez más adaptada y regulada en la gran mayoría de lugares, la gran duda qué surge es el escenario que se abrirá en el futuro con esta tecnología
La llegada de la Inteligencia Artificial (IA) tal y como la conocemos hoy es el resultado de numerosos avances acumulados en el último siglo. Ya en 1956 fue acuñado este término, estableciendo un campo de estudio inaudito. En los siguientes años surgieron avances fundamentales, marcando un escalón hacia sistemas capaces de aprender patrones complejos.
A partir del año 2018 llegó la gran revolución, con la aparición de modelos como BERT y GPT. A raíz de ello, la IA experimentó un crecimiento exponencial en capacidades lingüísticas y multitarea. Sin embargo, este avance acelerado también abrió debates urgentes sobre regulación, seguridad y ética. Desde 2023 en adelante, diferentes regiones impulsaron marcos regulatorios, como la Ley de IA de la Unión Europea, para garantizar un desarrollo responsable.
Ahora, con una IA cada vez más adaptada y regulada en la gran mayoría de lugares, la gran duda qué surge es el escenario que se abrirá en el futuro. Distintos expertos ya han vaticinado cuáles podrían ser algunas de las consecuencias de una inteligencia artificial cada vez más perfeccionada.
En este contexto, el científico informático canadiense Yoshua Bengio, presidente de uno de los estudios más importantes sobre la seguridad de la IA, habría lanzado un sorprendente aviso. En concreto, Bengio ha cargado duramente contra los llamamientos para otorgar los derechos tecnológicos a la IA, señalando que esta estaba mostrando signos de autoconservación, motivo por el que los humanos deberíamos estar preparados por si fuera necesario. De hecho, el experto recalcaba en declaraciones recogidas por The Guardian que la percepción de que los chatbots se estaban volviendo conscientes «iba a impulsar malas decisiones».
«La gente que exige que las IA tenga derechos sería un gran error. Los modelos de IA de Frontier ya muestran signos de autoconservación en entornos experimentales hoy en día, y eventualmente darles derechos significaría que no se nos permite cerrarlos. A medida que sus capacidades y su grado de agencia crecen, debemos asegurarnos de que podemos confiar en barandillas técnicas y sociales para controlarlas, incluida la capacidad de cerrarlas si es necesario», dijo Bengio.
A raíz de estas declaraciones, el experto y cofundador del Instituto de Sentiencia, Jacy Reese Anthis, señaló que los humanos no podrían vivir de forma segura con la inteligencia artificial si la relación entre ambas partes fuera de control.
«Podríamos atribuir en exceso o subatribuir los derechos a la IA, y nuestro objetivo debería ser hacerlo con una cuidadosa consideración del bienestar de todos los seres sensibles. Ni los derechos generales para toda la IA ni la negación completa de los derechos a ninguna IA serán un enfoque saludable», señaló.
