Los cuatro grandes gurús de la Inteligencia Artificial acuerdan frenar su desarrollo: «Es la dirección correcta»

El aviso de un antiguo ingeniero de Anthropic, Jacob Coxon, sobre los riegos de la Inteligencia Artificial (IA), unidos a la resolución de uno de los grandes problemas matemáticos del milenio han provocado que las grandes empresas generadoras de esta tecnología hayan dado el primer paso para ralentizar su desarrollo.

La voz de alarma la dio el pasado sábado el director ejecutivo de Anthropic –creadora de Claude–, Dario Amodei, quien en un mensaje publicado en su blog reiteraba la necesidad de moderar deliberadamente el ritmo al que avanzan las capacidades de los modelos de inteligencia artificial.

«Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido, y debemos aprovechar sabiamente el tiempo que ganemos», afirmó Amodei.

Su propuesta era respondida horas después por el consejero delegado de OpenAI –empresa creadora de ChatGPT–, Sam Altman, quien comunicó que la compañía podría moderar el ritmo de desarrollo de la IA. Las declaraciones se producían después de que empleados de las principales empresas de IA hayan expresado públicamente en las últimas semanas su preocupación por el aumento de los riesgos asociados a los sistemas avanzados de la IA.

Ni un día después, Elon Musk se hacía eco del mensaje de Amodei, coincidiendo en la necesidad de desacelerar el desarrollo de la IA por los riesgos de seguridad que representa. Musk, creador de la compañía xAI de inteligencia artificial, respaldó en X el pronunciamiento de Amodei, quien publicó un ensayo en el que pidió a la industria «un ritmo más lento» en el desarrollo de esta tecnología por riesgos como perder el control de los sistemas de IA y disrupción económica.

«Dario tiene razón», escribió Musk en su red social, X.

Finalmente, el científico jefe de Alphabet –la IA de Google–, Demis Hassabis, coincidía con los argumentos propuestas por los tres gigantes tecnológicos anteriores: «El ensayo de Dario apunta hacia el camino correcto a seguir. Aún quedan detalles por definir, pero la dirección es la correcta para afrontar este momento crucial. Por ello, recientemente presentamos nuestra propuesta para un organismo de normalización a nivel industrial para la IA de vanguardia».

El quinto actor es China, que pidió este domingo construir una «barrera de seguridad» en torno a la inteligencia artificial. El ministro chino de Seguridad del Estado, Chen Yixin, pidió impulsar el desarrollo «saludable y ordenado» de la IA, pero también reforzar la supervisión sobre datos, algoritmos, infraestructura de computación y aplicaciones de uso civil y militar.

El aviso de los expertos

La gran duda que surge es cuáles serán los mecanismos utilizados para ralentizar una tecnología que podría ser imparable en un futuro no muy lejano. En palabras de Gonzalo Álvarez Marañón, director de Funditec Research, la industria tecnológica se encuentra inmersa a día de hoy en una carrera donde «las grandes compañías compiten por desarrollar nuevos modelos y la seguridad está quedando en segundo plano».

«Se está acelerando cada vez más en la creación de nuevos modelos cada vez más potentes, más inteligentes, capaces de pensar durante más tiempo, de resolver problemas más complejos y de tener mayor autonomía. No se está invirtiendo ni de lejos el mismo esfuerzo en dotarlos de controles, salvaguardas o un control de alineamiento», señalaba.