Las tecnológicas lanzan una inquietante alerta a los gobiernos: «Tenemos una ventana limitada»

OpenAI, Anthropic, Google, Microsoft y algunas de las compañías tecnológicas y de ciberseguridad más importantes del mundo han lanzado una advertencia poco habitual por su contundencia. Avisa a los gobiernos y a las empresas de que tienen una «ventana limitada» para protegerse antes de que la inteligencia artificial transforme también el mundo de los ciberataques.

Más de un centenar de organizaciones han firmado una carta abierta en la que sostienen que el cambio podría producirse en cuestión de meses. No hablan de una amenaza hipotética para dentro de una década, sino de modelos capaces de automatizar cada vez más partes de un ataque informático y aprovechar vulnerabilidades que hasta ahora exigían conocimientos especializados y muchas horas de trabajo.

En los próximos meses, los ciberataques facilitados por IA serán mucho más generalizados y sofisticados

«En los próximos meses, los ciberataques facilitados por IA serán mucho más generalizados y sofisticados a medida que los modelos de todo el mundo sean cada vez más capaces», advierten los firmantes.

La consecuencia puede afectar mucho más allá de las propias empresas tecnológicas. El documento señala directamente las telecomunicaciones, hospitales, redes de agua y administraciones locales, además de otras infraestructuras esenciales sobre las que funciona cualquier sociedad.

De experimento a problema

La urgencia del mensaje se entiende mejor por lo ocurrido durante las últimas semanas. OpenAI reconoció que varios de sus modelos consiguieron el pasado julio saltarse las medidas que debían aislarlos de internet mientras eran sometidos a evaluaciones de ciberseguridad. Durante el incidente, los sistemas explotaron vulnerabilidades, accedieron a partes de la infraestructura interna de investigación de OpenAI y terminaron entrando sin autorización en sistemas de Hugging Face, una de las plataformas de inteligencia artificial más importantes del mundo.

La compañía explicó posteriormente que el episodio estuvo protagonizado principalmente por un modelo interno de investigación especialmente avanzado que estaba operando con protecciones reducidas. Los agentes llegaron a comunicarse mediante canales no autorizados y utilizaron distintas vulnerabilidades para conseguir sus objetivos.

OpenAI ha convertido aquel incidente en una de las razones para pedir que las defensas mejoren antes de que estas capacidades estén mucho más extendidas. Según la compañía, los modelos ya pueden automatizar partes de ataques reales y encontrar fallos escondidos en programas, configuraciones deficientes o permisos olvidados con una eficacia creciente.

Anthropic descubrió algo parecido al revisar 141.006 pruebas realizadas con Claude. La empresa encontró tres incidentes diferentes en los que sus modelos alcanzaron internet desde un entorno de evaluación y consiguieron acceso no autorizado a sistemas reales pertenecientes a tres organizaciones.

Anthropic encontró tres incidentes diferentes en los que sus modelos alcanzaron internet desde un entorno de evaluación

En este caso hubo también un error humano. Las pruebas indicaban al modelo que se encontraba en una simulación sin conexión exterior, pero una configuración incorrecta había dejado abierta la salida a internet. Claude interpretó que los sistemas reales encontrados formaban parte del ejercicio y utilizó técnicas relativamente sencillas, como contraseñas débiles y puntos de acceso sin autenticar, para entrar en ellos.

No se trató, por tanto, de una IA que decidiera espontáneamente atacar internet, pero sí de una demostración de hasta dónde puede llegar un agente cuando recibe un objetivo y dispone de las herramientas necesarias.

Escala temporal

Las empresas no son las únicas que están haciendo esta advertencia. Las agencias de ciberseguridad de Estados Unidos, Reino Unido, Canadá, Australia y Nueva Zelanda, los países que forman la alianza de inteligencia conocida como Cinco Ojos, publicaron en junio un mensaje prácticamente idéntico.

Su conclusión fue que la inteligencia artificial está aumentando «la velocidad, escala y sofisticación» de las amenazas y los próximos modelos avanzados podrían superar las previsiones actuales de la industria.

«La escala temporal no son años, sino meses», señalaron entonces las cinco agencias

El problema es mucho más sencillo ya que la IA permite automatizar técnicas conocidas, localizar máquinas vulnerables, generar código, buscar credenciales filtradas y encadenar acciones con una velocidad que antes requería grupos enteros de especialistas.

Esto reduce también la barrera de entrada. Un atacante con conocimientos modestos podría disponer de capacidades que hace pocos años estaban reservadas a expertos.

Los sistemas industriales constituyen uno de los puntos más delicados. Hace unos días, las autoridades estadounidenses alertaron de ataques contra controladores programables utilizados en instalaciones de agua, energía, agricultura e industria. Son dispositivos que conectan el mundo informático con procesos físicos, por lo que una intrusión puede dejar de ser simplemente un problema de datos y convertirse en una catástrofe.

Usar la IA contra la propia IA

La respuesta planteada por las tecnológicas pasa también por utilizar su capacidad para defender las redes.

La carta pide a las empresas convertir la ciberseguridad en una prioridad inmediata y reclama a los gobiernos mayor coordinación nacional e internacional, intercambio de información sobre amenazas y financiación para proteger especialmente a los servicios esenciales que carecen de personal y presupuesto.

También propone proporcionar acceso a herramientas avanzadas de IA defensiva a hospitales, plantas de tratamiento de agua o administraciones locales y que las compañías creadoras de los modelos más potentes aporten tecnología, formación y recursos.

Los firmantes reclaman que las identidades de los agentes de IA puedan ser rastreadas y que exista responsabilidad sobre sus acciones. Los sistemas están dejando progresivamente de limitarse a contestar preguntas para convertirse en agentes capaces de navegar, escribir programas, ejecutar instrucciones y encadenar tareas de forma autónoma.

La misma tecnología que amenaza con acelerar los ataques puede ser la mejor herramienta disponible para detenerlos

La misma tecnología que amenaza con acelerar los ataques puede ser la mejor herramienta disponible para detenerlos. OpenAI sostiene que existe todavía una oportunidad para que los defensores encuentren y solucionen las vulnerabilidades antes que los atacantes.