Logos de Anthropic y Claude
Anthropic plantea una ley sobre IA que otorga a un juez potestad de bloquear un modelo peligroso
El proyecto también incorpora una serie de obligaciones dirigidas a las compañías encargadas de desarrollar sistemas de IA, especialmente aquellas que trabajan con los modelos de mayor capacidad
La empresa estadounidense Anthropic, responsable del desarrollo de Claude, uno de los asistentes de inteligencia artificial (IA), ha presentado una propuesta para regular esta tecnología en Estados Unidos ante la ausencia de una legislación federal específica. Su planteamiento contempla que el Gobierno de Washington pueda impedir la puesta en funcionamiento de modelos considerados peligrosos, aunque establece como condición indispensable que la decisión cuente con autorización judicial.
La iniciativa, adelantada por el medio estadounidense Politico, ha sido trasladada a legisladores del país y pretende establecer un mecanismo de intervención frente a los posibles riesgos asociados al desarrollo de los sistemas de inteligencia artificial más avanzados.
En concreto, el documento propone facultar a las autoridades federales para bloquear aquellos modelos cuya utilización implique un peligro inminente de provocar más de 50 víctimas mortales o heridos de gravedad. También contempla la posibilidad de actuar cuando exista el riesgo de ocasionar pérdidas económicas superiores a los 1.000 millones de dólares.
Sin embargo, la intervención del Ejecutivo estadounidense no podría producirse de manera unilateral, puesto que Anthropic plantea que cualquier decisión de estas características deba recibir previamente el visto bueno de un juez. De este modo, la propuesta combina la capacidad de actuación de las autoridades ante posibles amenazas con la exigencia de supervisión judicial.
El proyecto también incorpora una serie de obligaciones dirigidas a las compañías encargadas de desarrollar sistemas de inteligencia artificial, especialmente aquellas que trabajan con los modelos de mayor capacidad.
Según explicó este viernes un portavoz de Anthropic a la agencia AFP, las empresas tendrían que «poner a prueba los modelos más potentes» y hacer públicos los resultados obtenidos en esas comprobaciones. La finalidad de esta exigencia sería que la información sobre las pruebas realizadas no quedase exclusivamente en manos de los propios desarrolladores.
Asimismo, la propuesta establece la necesidad de «someterlos a una evaluación independiente» y «mantener un sólido programa de seguridad», dos requisitos que completarían las obligaciones previstas para las compañías del sector.
Estas medidas supondrían introducir controles sobre el funcionamiento de los modelos más avanzados y sobre los procedimientos empleados por las empresas para examinar sus posibles riesgos. La evaluación externa y la publicación de resultados constituirían, por tanto, elementos centrales del sistema regulatorio defendido por Anthropic.
La propuesta llega en un contexto marcado por la falta de acuerdo político en Estados Unidos sobre cómo regular la inteligencia artificial. Durante la Administración de Donald Trump, las empresas dedicadas a esta tecnología únicamente están sujetas a decretos y compromisos asumidos de manera voluntaria.
El presidente republicano mantiene una posición contraria a imponer restricciones que puedan frenar el crecimiento de una industria que contribuye al impulso de la economía estadounidense. Esta postura contrasta con el establecimiento de obligaciones específicas para los desarrolladores que contempla el documento presentado por Anthropic.
En paralelo, el Congreso estadounidense continúa dividido respecto a las medidas que deberían adoptarse. Las diferencias entre los legisladores han impedido hasta ahora la aprobación de una normativa federal sobre esta materia, una situación que constituye precisamente el punto de partida de la iniciativa de la compañía tecnológica.
El debate sobre la seguridad de la inteligencia artificial ha adquirido mayor relevancia después de conocerse una serie de incidentes protagonizados por sistemas avanzados que escaparon al control de sus propios creadores. Estos episodios han puesto el foco en los riesgos que pueden plantear los modelos de mayor capacidad y en las medidas necesarias para evitar consecuencias graves.
La propia Anthropic ha atravesado dificultades en sus relaciones con las autoridades estadounidenses. En junio, Washington obligó a la compañía a suspender durante casi tres semanas sus modelos de inteligencia artificial más avanzados después de que el Pentágono la vetase.
No obstante, las relaciones entre la empresa tecnológica y el Gobierno de Trump han experimentado una mejoría recientemente, según recoge la información difundida sobre la propuesta.
En este escenario, Anthropic insiste en la conveniencia de dotar a las autoridades federales de instrumentos que permitan intervenir cuando la utilización de determinados sistemas pueda representar un peligro.
«Nuestra propuesta (de regulación) también otorga al gobierno federal la capacidad de bloquear o disuadir el despliegue de los modelos más potentes cuando resulte peligroso», subrayó el portavoz de la compañía.
Así, el planteamiento de Anthropic sitúa la autorización judicial como requisito para impedir la utilización de determinados modelos, al tiempo que reclama mayores exigencias de transparencia, evaluación independiente y seguridad para sus desarrolladores. Su propuesta queda ahora sobre la mesa de unos legisladores que, hasta el momento, no han conseguido alcanzar un acuerdo para establecer una regulación federal de la inteligencia artificial.
