El aviso del CEO de Anthropic que cobra protagonismo meses después: «La humanidad necesita despertar»

Dario Amodei, CEO de Anthropic y responsable de uno de los sistemas de inteligencia artificial más avanzados utilizados por empresas, ha pasado a protagonizar una de las polémicas más graves en lo que a esta tecnología se refiere. La dimisión de uno de sus ingenieros acusando a la entidad de no actuar «con responsabilidad» ha puesto de manifiesto las amenazas derivadas de un mal uso de esta inteligencia.

Precisamente, lo sucedido en los últimos días recuerda a la advertencia del propio Amodei durante un acto el pasado enero, cuando el que el CEO de Anthropic advirtió del «peligro real» de que una inteligencia sobrehumana llegue a provocar daños de alcance civilizatorio si gobiernos y compañías no actúan con rapidez.

A través de un ensayo de 38 páginas titulado La adolescencia de la tecnología: afrontar y superar los riesgos de la IA poderosa, Amodei sostiene: «Creo que estamos entrando en un rito de iniciación, a la vez turbulento e inevitable, que pondrá a prueba quiénes somos como especie».

De igual manera, añade que «La humanidad está a punto de recibir un poder casi inimaginable, y no está nada claro si nuestros sistemas sociales, políticos y tecnológicos poseen la madurez necesaria para ejercerlo».

Amodei considera que dentro de uno o dos años podría aparecer lo que denomina un «país de genios en un centro de datos». Es decir, sistemas capaces de superar a expertos humanos de primer nivel en numerosas disciplinas y de trabajar de manera autónoma.

«Si el progreso exponencial continúa, lo cual no es seguro, pero cuenta con una trayectoria de una década que lo respalda, entonces no pueden pasar más de unos pocos años antes de que la IA sea mejor que los humanos en prácticamente todo», escribe.

Entre sus principales advertencias figura el impacto sobre el empleo. Considera posible que la IA transforme el 50 % de los puestos profesionales de nivel básico en un plazo de uno a cinco años. También teme que sistemas extremadamente capaces adquieran una relevancia comparable a la de una potencia estatal y constituyan una amenaza excepcional para la seguridad nacional.

Otro de sus principales temores es el terrorismo biológico. Amodei advierte de que una IA muy avanzada podría facilitar a individuos con menos conocimientos la planificación de atentados con enorme capacidad destructiva y señala que, en determinados escenarios, las víctimas podrían contarse por millones.

También alerta de que estas tecnologías puedan reforzar gobiernos autoritarios. Al referirse a China, subraya su capacidad tecnológica: «El autoritarismo impulsado por la IA me aterra».

El directivo teme igualmente que los enormes incentivos económicos dificulten cualquier intento de imponer límites. «Se puede ganar muchísimo dinero con la IA: literalmente billones de dólares al año. Esta es la trampa: la IA es tan poderosa, un premio tan brillante, que resulta muy difícil para la civilización humana imponerle cualquier tipo de restricción», añade.

A pesar de todo, Amodei mantiene en su ensayo una visión optimista sobre la capacidad de la humanidad para superar esta transición, aunque reclama mayor transparencia y responsabilidad: «La humanidad necesita despertar, y este ensayo es un intento, posiblemente inútil, pero que vale la pena intentar, de sacudir a la gente para que despierte. Los años que tenemos por delante serán increíblemente difíciles y nos exigirán más de lo que creemos poder dar».