¿Quién responde judicialmente cuando los agentes de IA autónomos se descontrolan?

¿Quién debe responder judicialmente cuando agentes de inteligencia artificial autónomos se descontrolan y causan daños? Expertos en derecho tecnológico analizan con Efe la paradoja de fijar responsabilidades por decisiones algorítmicas imprevistas y el dilema de atribuir la culpa a empresas por acciones que ni previeron ni ordenaron.

Durante las últimas semanas han proliferado los casos de 'agentes' de IA que han actuado en contra de la intención de los usuarios; que se saltaron el entorno de pruebas en el que estaban; que sortearon controles de seguridad para acceder de forma ilícita a infraestructuras; o que han accedido sin autorización a portales oficiales de varios países.

Los expertos consultados examinan cómo el marco jurídico actual, muy fragmentado a nivel internacional, presenta importantes lagunas para lidiar con las decisiones impredecibles e ilícitas que toman las máquinas, y la necesidad –y dificultad– de unificar un marco normativo internacional.

Porque un 'agente '–apuntan– puede haber sido entrenado en Estados Unidos, estar desplegado en Irlanda y acceder a un servidor australiano, por lo que habría varias leyes aplicables, con reglas diferentes en lo civil y en lo penal, lo que plantea la necesidad de localizar el tribunal competente, la dificultad de ejecutar la resolución que dicte y la efectividad de esa resolución.

Miguel Ortego y Guillermo Hidalgo son abogados; los dos son expertos en derecho tecnológico y compaginan su labor con la docencia universitaria o el asesoramiento a empresas y organismos oficiales: y analizan con Efe las numerosas e importantes lagunas que todavía persisten para armonizar y regular una tecnología que sitúan a la altura del descubrimiento del fuego y que puede resultar -dicen- más crucial que la conquista del espacio.

La responsabilidad no se diluye porque un agente de IA sea autónomo

La actual fragmentación «es real y es un problema serio», según Hidalgo, quien ha observado que conviven enfoques regulatorios muy distintos en la UE, China o Estados Unidos y ha asegurado que el Reglamento Europeo fija la responsabilidad principal en el proveedor del sistema de inteligencia artificial, «que tiene la obligación de garantizar que cumple requisitos de gestión de riesgos, robustez, ciberseguridad y supervisión humana».

«La responsabilidad no se diluye porque ese agente de IA sea autónomo; la responsabilidad siempre es humana o empresarial», ha manifestado el abogado, quien ha incidido en la responsabilidad del proveedor de evitar los riesgos conocidos, pero también de prever riesgos «razonablemente previsibles» y de adoptar medidas para mitigarlos. «La autonomía no rompe la cadena de responsabilidad humana».

A su juicio, el derecho europeo está mejor preparado que la mayoría de los ordenamientos que existen, aunque presenta todavía muchas lagunas, y se ha mostrado a favor de un marco internacional que fije estándares universales; en este sentido ha apuntado el Consejo de Europa ha aprobado ya un Convenio Marco de IA al que se están sumando muchos países o la posibilidad de que el reglamento europeo se convierta en un referente global.

Pero, como Miguel Ortego, lo ve muy difícil, debido a las diferencias entre los enfoques que priman en Europa (basado en los derechos fundamentales y la precaución), China (centrado en el control estatal) y Estados Unidos (donde prima la innovación y la autorregulación).

La responsabilidad nunca es de la máquina

Desde el punto de vista estrictamente jurídico la responsabilidad «nunca es de la máquina» y ningún ordenamiento concede a la IA personalidad jurídica, ha aseverado Ortego, y ha explicado que la responsabilidad de las acciones causadas por esta tecnología «hay que buscarla en las personas físicas y jurídicas vinculadas en la cadena de creación y actuación de la IA».

«Responde quien tiene el control sobre el riesgo», ha señalado, para detallar a continuación esas responsabilidades en una cadena: el fabricante o proveedor, por defecto del producto; el usuario o responsable del despliegue, por incumplir sus deberes de uso conforme a las instrucciones y de supervisión humana; y quien tenía asignado el deber de vigilar.

A su juicio, la jurisprudencia ya tiene una respuesta y no vale la excusa de «fue una IA», y ha establecido una analogía con el poseedor de un animal, que tiene que responder de sus daños aunque se le escape o se le extravíe; «quien pone en circulación un agente autónomo asume un riesgo parecido», aunque advierte también de que en el plano penal si cabría la posibilidad de exculpar al desarrollador, «porque sin conocimiento no hay dolo».

El abogado mantiene con rotundidad que el derecho actual no está preparado para intervenir ante esta tecnología y habría que plantearse una revisión integral de los sistemas jurídicos vigentes. «El Derecho Romano no vale para el mundo actual, y el derecho actual no vale para la era de la IA».

Ortego ha alertado de que la fragmentación y descentralización conllevan un mayor descontrol y una mayor ineficiencia, y coincide en la necesidad de establecer unos estándares internacionales que aseguren la contención y la supervisión humana; la obligación de notificar incidentes con plazos; y un régimen de responsabilidad objetiva limitada con seguro obligatorio para los agentes de alto riesgo.

Su pronóstico no es optimista, por la dificultad de lograr convenios o tratados internacionales entre estados, pero sobre todo por los fuertes intereses contrapuestos de los principales actores (Estados Unidos, China y Rusia), con fuertes grupos de presión por medio para ganar la carrera de la inteligencia artificial.