Capitolio de Estados Unidos
La preocupación por la 'amenaza apocalíptica' de la IA llega al Congreso de EE.UU.
Una creciente preocupación por la inteligencia artificial está cobrando fuerza en el Congreso ante el temor cada vez mayor de que esta tecnología pueda destruir nuestra civilización
La alarmante advertencia de un investigador de Anthropic que abandonó su puesto, según la cual los modelos de Inteligencia Artificial (IA) podrían destruir la civilización en los próximos años, está provocando gran preocupación entre los congresistas estadounidenses de ambos partidos.
Un número creciente de investigadores de IA afirma que esta tecnología podría acabar con la humanidad, incluso si lo único que pretenden los robots es fabricar clips.
El investigador franco-británico Jacob Coxon dimitió la semana pasada, alegando que su antiguo empleador y su rival OpenAI están compitiendo por desarrollar tecnologías que «podrían acabar con todos nosotros para finales de la década».
Por si alguien pensaba que Coxon era el único que pensaba así, un empleado de Anthropic intervino minutos después para confirmarlo. «¡Realmente creemos que la IA podría acabar con la humanidad!», escribió Evan Hubinger, cuyo trabajo en Anthropic consiste en liderar la investigación sobre la gestión y el control de futuros sistemas de inteligencia artificial. Hubinger estimó el riesgo de extinción en la próxima década en más del 10 %.
Ante estas apocalípticas advertencias los demócratas de la Cámara de Representantes están considerando la creación de un comité especial centrado en la IA en caso de que logren el control de la cámara tras las elecciones de mitad de mandato de noviembre.
De acuerdo con The Wall Street Journal, el representante Ro Khanna (demócrata por California) solicitó el miércoles la creación de una nueva agencia reguladora federal similar a las existentes para la energía nuclear y la aviación, y respaldó los llamados interruptores de emergencia que podrían desactivar los sistemas de IA cuando se comporten de forma peligrosa.
«No cabe duda de que el Congreso está muy rezagado en cuanto a cómo abordar las repercusiones de esta tecnología peligrosa y en rápida evolución», escribió el senador izquierdista por Vermont Bernie Sanders en una invitación enviada a los legisladores para una reunión informativa privada esta semana, con el fin de debatir los riesgos de la IA. Sanders y otros izquierdistas abogan por la prohibición de la llamada superinteligencia, que es más inteligente que los humanos más inteligentes.
Según The Wall Street Journal algunos ejecutivos del sector se están preparando para una oleada de cartas de supervisión y audiencias si los demócratas recuperan el control del Congreso.
Los senadores Ted Cruz (republicano por Texas), presidente del Comité de Comercio del Senado, y Amy Klobuchar (demócrata por Minnesota) han manifestado recientemente su esperanza de impulsar un proyecto de ley bipartidista en el que Klobuchar está trabajando, cuyo objetivo es abordar los riesgos catastróficos que plantean las amenazas nucleares o biológicas posibilitadas por la IA. «Es evidente que debemos actuar ahora y no esperar», declaró Klobuchar.
El proyecto de ley exigiría a los desarrolladores colaborar con expertos gubernamentales para verificar y probar los modelos y garantizar la seguridad de la IA, explicó el senador Cruz quien no ocultó su preocupación durante una entrevista en el programa The View: «Esto es realmente aterrador».
La semana pasada se presentaron numerosas propuestas en el Capitolio para abordar la amenaza de la IA. La representante Anna Paulina Luna (republicana por Florida) propuso una sesión especial del Congreso centrada en la IA, mientras que el senador Chris Van Hollen (demócrata por Maryland) pidió un diálogo urgente entre Estados Unidos y China para establecer salvaguardias de seguridad y regímenes de pruebas para la IA antes de las conversaciones entre ambos países a finales de este mes.
El presidente Donald Trump, que ha adoptado un enfoque flexible en la supervisión del sector, ha declarado anteriormente que está a favor de los sistemas de desactivación automática y otras medidas para mantenernos a salvo de la IA, pero ha advertido que una regulación excesiva podría perjudicar a Estados Unidos en la carrera tecnológica.
