Australia impondrá salvaguardias obligatorias a las empresas de inteligencia artificial

Las empresas de inteligencia artificial deberán cumplir con nuevas salvaguardias «obligatorias» para operar en Australia. Así lo ha anunciado el primer ministro Anthony Albanese.

«Nuestra tarea es asegurarnos de que seamos nosotros quienes demos forma a la IA en lugar de que la IA nos dé forma a nosotros», mencionaba a los periodistas. Australia pretende establecer un ente regulador de seguridad, que implementará medidas para contener a una industria que continúa en auge, a la vez que la inquietud sobre las capacidades de la IA avanzada, acrecentada por los sucesos de piratería informática que han involucrado a las empresas OpenAI y Anthropic.

«No se puede ignorar el tema y fingir que no está sucediendo. Pero lo que sí podemos hacer es asegurarnos de darle forma en beneficio de Australia», agregaba Albanese.

Entre las medidas de seguridad se incluirá una notificación «obligatoria» de las violaciones de seguridad relacionadas con la IA, así como la evaluación independiente de los modelos. «Australia es pionera en este ámbito y queremos asegurarnos de aprovechar los beneficios potenciales de la IA», mencionaba el primer ministro.

A principios de año, el país asiático mostró su malestar después de que un prototipo de modelo de OpenAI saltara las medidas de seguridad tras un entrenamiento y hackeara páginas web gubernamentales. «Debemos asegurarnos de hacerlo bien, y contar con el apoyo de la sociedad es absolutamente fundamental», decía.

El agente de IA trató de acceder al portal de estadísticas de salud en junio, tras conseguir saltarse las restricciones para infiltrarse en una sección que almacenaba archivos privados. OpenAI no dio la voz de alarma al Ejecutivo australiano hasta septiembre, cuando envió un mensaje a una bandeja de entrada genérica que solo se revisa una vez al día.