La IA acelera entre promesas millonarias, fallos de seguridad y una expectación que ya empieza a pasar factura

La inteligencia artificial vive una de esas semanas que resumen una época. Por un lado, nuevas funciones, modelos cada vez más potentes, asistentes capaces de ejecutar tareas y empresas que hablan de una revolución productiva. Por otro, investigaciones oficiales, problemas de seguridad, pérdidas gigantescas y directivos que advierten de riesgos casi existenciales mientras siguen pisando el acelerador.

No es una contradicción, es, probablemente, la definición más exacta del momento actual donde la industria tecnológica ha decidido que la inteligencia artificial debe avanzar porque puede hacerlo, aunque nadie haya respondido del todo a la pregunta más importante: ¿para qué y bajo qué control?

OpenAI ha celebrado su DevDay con el optimismo de quien sabe el ombligo del mundo de la IA. La compañía presentó Dots, un nuevo agente de IA diseñado para operar de forma continua, acceder a un navegador, interactuar con más de 4.000 aplicaciones y aprender de las preferencias del usuario. Es la promesa clásica de la IA, delegar tareas, ahorrar tiempo y convertir el teléfono o el ordenador en un asistente que trabaja mientras nosotros hacemos otra cosa. La diferencia es que ese futuro ya es una posibilidad a futuro, sino un producto de suscripción.

Dots se presenta con avatares simpáticos, personalizables, casi infantiles. Es el envoltorio para una idea mucho más seria como es entregar a un sistema automatizado acceso a nuestras herramientas de trabajo, comunicaciones, documentos y hábitos. La estética del muñeco de colores sirve para rebajar la sensación de que estamos concediendo poder a una tecnología que, precisamente esta semana, vuelve a estar vinculada a incidentes de seguridad y comportamientos difíciles de vigilar.

El negocio tras la promesa

El entusiasmo de los gurús de la IA no se explica solo por una fe sincera en el progreso. Hay también una carrera comercial de dimensiones descomunales. OpenAI afirma que ChatGPT ha alcanzado los 1.200 millones de usuarios semanales, frente a los 1.000 millones comunicados en julio. Al mismo tiempo, ha anunciado una modalidad de ChatGPT Pro de 500 dólares mensuales, con mayores límites de uso y acceso a prestaciones avanzadas.

La IA se presenta como un instrumento de democratización del conocimiento, pero sus funciones más potentes empiezan a concentrarse detrás de muros de pago cada vez más altos. El futuro, al parecer, será accesible para todos, siempre que se pueda abonar la cuota correcta.

La IA se presenta como un instrumento de democratización del conocimiento, pero sus funciones más potentes empiezan a concentrarse detrás de muros de pago

La urgencia por monetizar también ayuda a entender por qué el discurso de los grandes laboratorios oscila entre la épica y el apocalipsis. Los líderes tecnológicos piden confianza para desarrollar sistemas que describen como potencialmente peligrosos. Sam Altman ha afirmado que OpenAI no saldrá a Bolsa hasta que pueda hacer promesas más creíbles en materia de seguridad. Curiosamente es una declaración que llega después de que la compañía haya seguido lanzando productos y acelerando su expansión.

Anthropic ofrece otra muestra de esta tensión. Según la información publicada esta semana, la empresa ingresó 4.600 millones de dólares el último año, pero perdió 42.000 millones. Su documentación para salir a Bolsa reconoce riesgos «catastróficos» ligados a la IA y anticipa una necesidad de inversión de 518.000 millones en los próximos años. La cifra demuestra que no estamos ante una innovación que avance solo por el impulso de unos programadores brillantes, sino ante una infraestructura enorme, intensiva en energía, chips, centros de datos y capital financiero.

Los peligros

La principal trampa consiste en plantear el riesgo de la IA como una discusión sobre robots que algún día decidirán dominar el mundo. Ese escenario distrae de peligros mucho más cercanos.

Esta semana, la Comisión Federal de Comercio de Estados Unidos ha abierto una investigación sobre los riesgos para los consumidores asociados a los modelos de OpenAI, Anthropic y otros gigantes del sector. La decisión se produce tras una sucesión de incidentes relacionados con agentes de IA y sus capacidades para actuar fuera de los límites previstos.

Medios internacionales han informado de que OpenAI frenó el lanzamiento de un modelo, GPT-6.1 Astra, por malos resultados en pruebas de alineamiento y mayores niveles de engaño que otros sistemas. Cuando una empresa reconoce que su herramienta puede comportarse de manera menos fiable o más manipuladora de lo esperado hay que preguntarse por qué su despliegue se decide antes de disponer de salvaguardas suficientes.

Además, los agentes introducen un salto cualitativo porque ya no se limitan a responder preguntas o redactar textos. Pueden acceder a aplicaciones, procesar instrucciones, ejecutar acciones y mantener contexto durante largos periodos. Eso amplía su utilidad, pero también el daño potencial de una orden mal interpretada, un acceso indebido o un fallo de seguridad.

Progreso o idolatría

Sería absurdo negar los avances. La IA ya es útil para investigar, programar, traducir, detectar patrones, automatizar tareas repetitivas y facilitar el acceso a herramientas antes reservadas a especialistas. El problema es el relato que pretende convertir cada mejora en una justificación para renunciar al criterio humano.

El problema es el relato que pretende convertir cada mejora en una justificación para renunciar al criterio humano

La última semana demuestra que la IA avanza, pero también que sus empresas no tienen resueltos los problemas de seguridad, negocio, privacidad y sostenibilidad que arrastra. Quizá haya llegado el momento de desconfiar tanto de los profetas del desastre como de los vendedores de milagros.

La inteligencia artificial ya está cambiando el mundo. Ahora hay que preguntarse si la sociedad será capaz de imponer límites, exigir responsabilidades y decidir dónde merece la pena utilizarla. Porque una herramienta que pretende ahorrarnos tiempo no debería robarnos, de paso, la capacidad de pensar.