La nueva IA de Anthropic que ha activado la alarma a nivel mundial

Hace unos días, Anthropic anunció que había desarrollado una herramienta con inteligencia artificial (IA) capaz de detectar fallos de seguridad en Internet, con mayor precisión que prácticamente cualquier humano. Asimismo, la empresa reconoció el peligro de la herramienta, por lo que solo la ha puesto a disposición de un pequeño grupo de empresas, como Apple, Microsoft o Amazon, quienes disponen de ella para «proteger el software», pues califican a esta IA como «la más crítica del mundo».

La tecnología se llama Claude Mythos Preview y ha logrado identificar «miles de vulnerabilidades de alta gravedad, incluidas algunas en todos los principales sistemas operativos y navegadores web». Pero es, precisamente, su punto fuerte lo que genera dudas. Y es que, el Gobierno del Reino Unido se muestra preocupado de que la herramienta caiga en manos equivocadas y pueda generar una oleada de ciberataques. Pero no es el único organismo que ha mostrado preocupación.

Entre otros, el jefe del Bundesbank, Joachim Nagel, alertó recientemente sobre el riesgo y afirmó que «todas las instituciones pertinentes deberían tener acceso a dicha tecnología para evitar distorsiones competitivas». Y es que, tanto en Rusia y China como en Estados Unidos también están tratando de evitar que Claude Mythos Preview genere un problema de seguridad mayor. Desde el 'The New York Times' aseguran que un medio de comunicación ruso afín al Kremlin catalogó a la máquina como algo «peor que una bomba atómica».

Los expertos coinciden en que los organismos deben de ser especialmente prudentes. David Sancho, investigador de amenazas de la empresa de ciberseguridad Trend AI, afirmaba que «lo que ocurra con ella dependerá de quién la utilice. Por el momento, parece que Anthropic lo está haciendo bien, porque está controlando mucho las empresas que tienen acceso. A los que nos dedicamos a la defensa nos puede ayudar mucho».