Qué son los agentes de la IA, los sistemas que realizaron el primer ataque a un portal de un gobierno

En un mes en el que la inteligencia artificial (IA) y sus riesgos han monopolizado gran parte de las esferas públicas y políticas, Australia documentó esta misma semana el primer ataque de uno de estos agentes a un portal de un gobierno. En concreto, el ejecutivo australiano señaló cómo un sistema de IA se infiltró de manera autónoma dentro de su administración pública, un incidente que se conoce en medio del debate global sobre los riesgos de perder el control humano sobre la IA.

El primer ministro australiano, Anthony Albanese, anunció desde Nueva York que el agente, desarrollado por la corporación estadounidense OpenAI, accedió sin autorización el 18 de junio a un portal del sistema público de salud del país oceánico y obtuvo acceso a archivos públicos y no públicos.

El caso, que calificó de «extrema preocupación», confirma que esta tecnología puede evadir sistemas de seguridad estatal –diseñados para proteger información sensible– para completar una tarea, en este caso una investigación sobre el gasto público en fármacos en el portal de estadísticas de Medicare, administrado por Services Australia.

Aunque en los últimos meses se habían conocido infiltraciones dentro de empresas de IA por parte de agentes virtuales que actuaron de forma autónoma, este acceso no autorizado en Australia es el primero que transgrede a una institución gubernamental, según varios medios internacionales y expertos.

Albanese, que expresó su malestar con OpenAI por haber tardado tres meses en informar a las autoridades australianas, anunció la creación de un grupo de trabajo para revisar de forma urgente el incidente y determinar si otros sistemas públicos se vieron afectados.

Este jueves, en una rueda de prensa, el ministro de Defensa australiano, Richard Marles, dijo que el Gobierno se toma «muy en serio» lo ocurrido y buscará determinar si se han infringido leyes en este contexto.

«Investigaremos todo ello, así como las consecuencias en caso de infracción legal, pero parte de la labor del grupo de trabajo consiste también en evaluar si el marco jurídico actual es adecuado para un mundo en el que surgen nuevas capacidades de inteligencia artificial», expresó Marles, que actúa como mandatario encargado mientras Albanese participa en la Asamblea General de la ONU.

Qué son los agentes de la IA

En el caso australiano, el sistema sorteó las restricciones del portal. Según detalló OpenAI, registraron una actividad anómala de los modelos durante su entrenamiento. Cuando el modelo de IA intentó buscar respuestas y estadísticas disponibles sobre Australia, «realizó acciones no previstas», comportándose de manera inesperada.

A diferencia de los chatbots convencionales –como ChatGPT, Claude o Gemini–, un agente de IA suele operar con cierto grado de autonomía, con o sin supervisión humana.

«A un agente de IA le especificas una tarea, algo más parecido a lo que le pedirías a un colaborador humano», detalla Ricardo Carrión, experto en ciencias computacionales y desarrollador de este tipo de sistemas en la firma Mega, en declaraciones a la BBC.

Este último caso coincide con recientes advertencias por parte de algunas de las principales empresas de IA sobre la necesidad de desacelerar el ritmo al que se mejoran las capacidades de los modelos, la última de ellas de Anthropic, que advirtió que la tecnología avanza hacia una dinámica de «automejora recursiva» que amenaza con catástrofes de ciberseguridad a escala global.