Qué revela el ciberataque «sin precedentes» de un modelo de IA: «Nadie conoce las capacidades de esta tecnología»

El último ataque «sin precedentes» de un modelo de inteligencia artificial de OpenAI –empresa creadora de ChatGPT–, logrando escapar de su entorno de pruebas y comprometer los servidores de Hugging Face –uno de los mayores centros del mundo para compartir modelos de inteligencia artificial–, ha marcado un hito en la historia de la ciberseguridad.

Y no es para menos. Este suceso ha vuelto a reabrir el debate sobre las inmensas capacidades de esta tecnología y sobre las actuales medidas de contención de las organizaciones ante sistemas cada vez más profesionalizados. Tal como señala a El Debate Gonzalo Álvarez Marañón, director de Funditec Research, este caso evidencia la falta de una «jaula» para contener un modelo con estas capacidades tan avanzadas.

«Le bajaron los frenos de seguridad a propósito para medir hasta dónde llegaba, y el modelo se salió del entorno de pruebas», detalla.

Por su parte, Idoia Salazar, profesora de la Universidad CEU San Pablo y presidenta de la Fundación OdiseIA4Good, recuerda que lo sucedido ocurrió en un laboratorio diseñado para forzar los límites del sistema tras recibir instrucciones humanas: «Son sistemas de los que se están probando sus capacidades. En este entorno controlado, el sistema vio la posibilidad de, viendo las vulnerabilidades de seguridad que había, hacer conexión a internet».

De igual manera, la experta añade que «actualmente nadie conoce las capacidades límites de esta tecnología y tenemos que aprender a no confiar al 100 % en lo que sabemos que puede hacer hoy, sabiendo que puede llegar a mucho más».

Lo que parece claro es que esa última brecha de seguridad ha dejado al descubierto una fragilidad bastante considerable del tejido tecnológico. De hecho, según Álvarez Marañón, el fallo no estuvo en el comportamiento del modelo, sino en el diseño del propio experimento: «Cuando la herramienta que fabricas es más capaz que la caja donde pretendes encerrarla, el fallo está en la caja, no en la herramienta».

La experta del CEU comparte esta visión, destacando que en el ámbito empresarial «hace falta poner al mismo nivel el proyecto de IA a nivel técnico y a nivel de prepararlo para los posibles riesgos y consecuencias que puedan derivar de la implementación del sistema». Ante esta situación, ambos analistas descartan que la solución pase únicamente por endurecer las leyes.

«Puedes escribir todas las leyes que quieras. Si el laboratorio no invierte en construir entornos de prueba capaces de aguantar a sus propios modelos, el incidente se repite. Es un problema de ingeniería y de prioridades», añade Álvarez Marañón.

Por su parte, Salazar añade que en lugar de una regulación estricta que frene la innovación, la prioridad es implementar «medidas preventivas desde el diseño y herramientas que faciliten los procesos de control de riesgos para las empresas». De hecho, la experta apunta directamente a la educación y a la sociedad general, advirtiendo de que se no se está trabajando lo suficiente en enseñar a las personas a convivir con la IA.

«Es muy necesaria la formación a todos los niveles, también personas mayores, cualquier tipo de profesión o si, aunque no tengan profesión, en el impacto de la IA a través de campañas de comunicación, talleres sociales o como sea para educar en qué manera vivir en el mundo de datos en el que vivimos, de qué manera se produce esta comunicación con la IA para que no se aprenda a confiar ciegamente», detalla.

Mientras tanto, Álvarez Marañón concluye que el mayor reto es «el desequilibrio entre lo mucho que se invierte en hacer los modelos más potentes y lo poco que se invierte en hacerlos seguros»: «Si a un agente de IA le fijas un objetivo sin marcarle los límites, hará lo que sea por cumplirlo».