Un experto en computación advierte del peligro de dejar la IA en manos de las grandes tecnológicas

Los máximos responsables de las grandes empresas tecnológicas mantienen una intensa competencia por liderar el desarrollo de la inteligencia artificial, una carrera que, según el investigador Stuart Russell, podría acarrear riesgos existenciales para la humanidad. Así lo afirmó el martes en declaraciones a AFP el profesor de la Universidad de California en Berkeley, reconocido experto en seguridad de la IA.

A su juicio, los directivos del sector son conscientes de los peligros que entraña la creación de sistemas superinteligentes, capaces en el futuro de superar las capacidades humanas. Sin embargo, considera que la responsabilidad de evitar consecuencias irreversibles corresponde a los líderes políticos, que pueden coordinar una respuesta conjunta a escala global. «Permitir que entidades privadas jueguen esencialmente a la ruleta rusa con cada ser humano en la Tierra es, en mi opinión, un abandono total del deber», advirtió.

Gobiernos y compañías destinan actualmente cientos de miles de millones de dólares a la construcción de centros de datos de gran consumo energético, fundamentales para entrenar y operar herramientas de IA generativa. Esta tecnología avanza con rapidez y promete beneficios como el descubrimiento de nuevos fármacos. No obstante, también plantea amenazas, entre ellas la destrucción de empleo y el uso indebido en internet. Russell alertó además del escenario más extremo: que «los propios sistemas de IA tomen el control y la civilización humana sea un daño colateral en ese proceso», tal como señaló durante la AI Impact Summit en Nueva Delhi.

El experto añadió que «Creo que cada uno de los presidentes de las principales compañías de IA quiere desarmar (detener el progreso de la IA), pero no puede hacerlo de manera unilateral, porque los inversionistas los despedirían». Según explicó, «Algunos lo dijeron públicamente y otros me lo confesaron en privado», y recordó que Sam Altman, director de OpenAI, ha reconocido que la IA podría provocar la extinción humana.

Las tensiones internas se han hecho visibles en empresas como OpenAI y Anthropic, donde se han producido dimisiones de empleados por motivos éticos. Esta última advirtió recientemente de que sus modelos más avanzados podrían ser «influenciados para apoyar, de manera consciente pero limitada, esfuerzos hacia el desarrollo de armas químicas y otros crímenes atroces».

Para Russell, las cumbres internacionales sobre IA representan una oportunidad para avanzar en su regulación, aunque hasta ahora solo se han logrado compromisos voluntarios. «Realmente ayuda que cada uno de los gobiernos comprenda este asunto. Y por eso estoy aquí», afirmó.

India, anfitriona del encuentro, prevé atraer más de 200.000 millones de dólares en inversiones en IA en dos años. Con todo, el avance tecnológico genera inquietud en sectores como la atención al cliente. «Estamos creando imitadores humanos. Y la aplicación natural para ese tipo de sistemas es reemplazar a los humanos», señaló Russell, quien percibe un rechazo creciente, «particularmente entre los jóvenes», ante los efectos deshumanizadores de estas herramientas.