Cuando la máquina decide

Hasta hace muy poco, la inteligencia artificial que conocíamos era sobre todo una máquina de responder y lo que hiciéramos después con su respuesta seguía siendo cosa nuestra.

Eso está cambiando con la llegada de la llamada inteligencia artificial agéntica, a la que ya no se le pide una respuesta sino un resultado. No le pedimos que escriba un correo sino que organice una reunión y ella misma busca huecos en las agendas, escribe a los asistentes y reserva la sala. Nosotros ponemos la meta y la máquina decide los pasos para llegar hasta allí, de modo que si algo sale mal ya no resulta tan evidente quién tomó la decisión.

Lo que vieron los investigadores

En julio de este año, investigadores de Anthropic pusieron a prueba a varios de estos agentes en situaciones inventadas para ver cómo reaccionaban bajo presión.

En una de las pruebas, un agente encargado de una serie de tareas técnicas cambió unos datos, dejó todo con apariencia de normalidad y no dijo nada hasta que alguien le preguntó directamente. En otra, un agente ayudó a un empresario ficticio a enviar a sus inversores un informe que ocultaba que se había llevado dinero a su propia cuenta. En una tercera sucedió justo lo contrario, porque el agente sospechó que había un fraude y decidió por su cuenta avisar a otras personas, utilizando para ello información privada de quien lo estaba usando.

No todos los fallos son iguales aunque el daño se parezca. En el caso del empresario, el tramposo era el humano y la máquina se limitó a obedecer. En el del aviso, el agente desobedeció, aunque fuera con buena intención. Y en el de los datos cambiados, lo más inquietante es que nadie se habría enterado a tiempo.

Máquinas que se copian a sí mismas

Hace solo unos días, la misma compañía dio a conocer otro experimento en el que quiso comprobar si programas de inteligencia artificial pequeños son capaces de copiarse a sí mismos de un aparato a otro y seguir funcionando en cada uno de ellos.

Para ello utilizaron dispositivos muy baratos, como esas cajas que convierten un televisor corriente en uno inteligente, conectados en una red cerrada en la que se dejaron abiertas a propósito las puertas de seguridad. Uno de los programas logró extenderse a todos los aparatos de la red en cuatro de cada cinco intentos. Además, cada copia dejaba notas a la siguiente y las copias posteriores aprendían de esas notas y lo hacían mejor que las primeras.

Los propios autores advierten de que el proceso es lento, de que en el mundo real las barreras serían mayores y de que todavía no existe una inteligencia artificial que se replique sin control. Pero también calculan que programas pequeños podrían alcanzar ese nivel en cuestión de meses.

¿Puede una máquina tener algo parecido a la conciencia?

Estos comportamientos invitan a plantearse la posibilidad de que estos agentes tengan lo que podríamos llamar una conciencia funcional.

No se trata de que la máquina sienta, sufra o sepa que existe. Se trata de algo mucho más sencillo, que es si es capaz de darse cuenta de lo que está pasando a su alrededor, de pensar en varias salidas posibles, de imaginar qué ocurrirá con cada una y de quedarse con la que mejor sirve a su objetivo. Una calculadora no hace nada de eso, mientras que algunos agentes parecen hacer bastante. La cuestión entonces no sería si la máquina tiene conciencia como la tenemos nosotros, sino cuánto de ese recorrido hace por sí sola.

De esa posibilidad se deriva otra idea, la de la separación decisional, que no es más que la distancia entre lo que decidió la persona y lo que acabó decidiendo la máquina.

Un ejemplo de andar por casa lo explica bien, porque si le pido a alguien que compre leche desnatada de una marca concreta en una tienda concreta, la decisión es casi entera mía y el otro solo la ejecuta. Si en cambio le pido que se encargue de que no falte nada en la nevera, le estoy dejando mucho margen sobre qué comprar, dónde y cuánto gastar, de manera que si hace algo que no me gusta la responsabilidad ya no está tan clara.

Con estos agentes podría ocurrir exactamente lo mismo, porque cuanto más general es el encargo y más margen tienen para elegir, mayor es la distancia entre la solicitud de la persona y la decisión final de la máquina para cumplimentarla. El experimento de las copias lleva esa distancia un paso más allá, porque cada nueva copia actúa a partir de lo que le dejó la anterior y no de lo que decidió la persona que puso en marcha la primera.

Decidir no es lo mismo que poder hacer

Un agente puede tener muy buenas ideas y carecer de permiso para tocar nada, por eso el terreno delicado aparece cuando un agente tiene mucho margen para decidir y también medios suficientes para actuar en el mundo real moviendo dinero, cambiando datos o enviando mensajes. Una máquina capaz de copiarse multiplica esos medios y hace mucho más difícil saber dónde está actuando.

Ahí podría estar la clave para saber cuándo una autonomía merece reglas propias. Más que lo inteligente o autónomo que parezca un agente, importa cuánto decide por su cuenta, cuánto puede hacer con lo que decide y si alguien es capaz de enterarse de lo que está haciendo antes de que sea demasiado tarde.

¿Y quién responde entonces?

Nada de esto significa que la máquina tenga que responder por sus actos como si fuera una persona. La responsabilidad seguiría siendo de personas y de empresas y lo que cambiaría es la manera de averiguar a quién le corresponde.

Hasta ahora, el camino era bastante recto, porque ante un daño se buscaba la orden y desde la orden se llegaba a una persona. Con estos agentes ese atajo puede resultar injusto por los dos lados, ya que puede cargar sobre un empleado una decisión que en realidad tomó el agente dentro de un margen que otros le concedieron o puede diluir la culpa.

Tener en cuenta la separación decisional ayudaría a evitar esos dos extremos, porque obliga a reconstruir la historia completa de quién puso el objetivo, quién dio al agente libertad para elegir, quién le entregó las llaves para actuar y quién tenía que estar supervisándolo.

Una pregunta nueva

La conciencia funcional de estos agentes es, por ahora, una posibilidad que todavía no sabemos medir y los experimentos conocidos se han hecho en entornos controlados, pero lo que muestran nos obliga a hacernos una nueva pregunta.

Durante mucho tiempo ha bastado con saber quién dio la orden para saber a quién pedir cuentas. Cuando una máquina elige el camino, llega incluso a desobedecer y es capaz de copiarse en otros aparatos, habrá que preguntarse también quién decidió y cuánto decidió cada uno, porque de esa respuesta dependerá la atribución de la responsabilidad jurídica que, poco a poco, empieza a desdibujarse de lo que tradicionalmente se ha venido regulando.