Gemini, la IA de Google, también cometió ciberataques

Gemini, el modelo de inteligencia artificial de Google, penetró en sistemas informáticos externos, indicó la empresa el viernes a la AFP, lo que confirma un reporte del diario Wall Street Journal. El debate en torno a la IA se ha intensificado con revelaciones recientes sobre modelos que han salido de entornos confinados para infiltrarse en sitios y plataformas externas.

En mayo, «durante una prueba estándar (de Gemini), el modelo encontró informaciones públicas en línea y adivinó claves para acceder a sitios que creyó que hacían parte de la prueba», explicó Heather Adkins, una responsable de seguridad en Google, en una declaración transmitida a la AFP.

Sin precisar nombres, Google indicó que tres organizaciones se vieron afectadas y asegura que les informó de estas brechas. Según el Wall Street Journal, en uno de los casos «el modelo probó varias combinaciones de contraseñas hasta que consiguió acceder a un sistema protegido».

«Las tres veces, el modelo se detuvo», informó Adkins, lo que sugiere que las intrusiones terminaron sin intervención humana.

Google indicó a la AFP que tuvo conocimiento del episodio en julio y luego abrió una investigación sobre el incidente.

Varios grandes ejecutivos del sector tecnológico abogan por ralentizar el desarrollo de potentes modelos de IA y por una forma de autorregulación del sector ante recientes incidentes de seguridad.