OpenAI intenta acceder sin instrucciones previas a webs del Gobierno de EE.UU. para obtener información restringida

Agentes de inteligencia artificial desarrollados por la compañía OpenAI han tratado de acceder a páginas webs del Gobierno de EE.UU. en los últimos meses sin que nadie pidiera a los sistemas que realizaran ningún tipo de ataque informático.

Según The New York Times, esta actividad forma parte de una serie detectada en agentes de la compañía de inteligencia artificial para buscar y reunir información. También una universidad se ha visto afectada por este ataque.

Cuando los sistemas no conseguían recopilar los datos por los cauces habituales, trataban de averiguar los elementos vulnerables de los sitios web para tratar de llegar a información clasificada. La Comisión de Bolsa y Valores (SEC) o el Departamento de Comercio de Estados Unidos son dos de las páginas que figuran entre los objetivos. Desde ahí, los agentes de IA han llegado a acceder a datos del censo, según la empresa. Además, se está investigando si el Departamento de Educación podría haber sido igualmente atacado.

Australia, el primer afectado

Esta semana, el Gobierno australiano informaba de que un agente de OpenAI había accedido a información de estadísticas sanitarias y seguro médico del Gobierno en el pasado mes de junio. El primer ministro Anthony Albaneses tildó de «inaceptable» el suceso, a la vez que la entidad afirmó que había descubierto el incidente en agosto durante una revisión de actividad.

La empresa de IA ha comenzado una revisión de estos episodios y reconoce que sus agentes pueden ejecutar acciones impredecibles durante las fases de entrenamiento. Asimismo, aseveran que han notificado a terceros afectados que la investigación podría durar meses, al tiempo que se suceden nuevos casos de actividad no autorizada.