La ilusión algorítmica: del oráculo de Delfos al poder silencioso de la IA

En economía, como en política, las ilusiones son herramientas de poder. No hace falta ocultar la realidad para influir en el ciudadano; basta con moldear su percepción. Durante siglos, los estados han utilizado mecanismos fiscales, contables o retóricos para generar una impresión de inevitabilidad y racionalidad. Hoy, en la era de la inteligencia artificial, asistimos a una transformación similar: la ilusión ya no es financiera ni burocrática, sino algorítmica. Y pocas ilusiones son tan seductoras como la idea de una IA que aprende de todo lo que oye, que mejora con cada interacción, que se vuelve más sabia cuanto más la consultamos.

Pero conviene recordar una verdad elemental: un sistema que aprende sin filtros es un sistema que se contamina. Los griegos lo sabían bien. Ningún peregrino podía acercarse al oráculo de Delfos sin purificarse antes en la fuente Castalia. No era un ritual estético, sino un mecanismo de protección. Castalia no solo limpiaba al consultante; protegía al oráculo de la confusión humana. La Pitia –la sacerdotisa encargada de pronunciar los oráculos– hablaba enigmáticamente, pero lo hacía desde un espacio cuidadosamente preservado de la contaminación exterior.

La inteligencia artificial, en cambio, está expuesta a millones de voces simultáneas. Si absorbiera cada frase, cada sesgo, cada manipulación, se convertiría en un oráculo sin Castalia: volátil, contradictorio, imprevisible. Aprendería lo verdadero y lo falso, lo razonable y lo extremo, sin distinguir entre ellos. Y una máquina que no distingue no es más inteligente; es más vulnerable. La ilusión de que «cuanto más aprende, mejor es» ignora un principio básico de cualquier sistema complejo: sin filtros, no hay conocimiento; solo acumulación caótica de estímulos.

Por eso los sistemas actuales no aprenden en tiempo real. Se entrenan en entornos controlados, con datos filtrados, bajo supervisión humana. Después se «congelan». No incorporan nada nuevo hasta que se entrena una versión posterior. Este proceso, lento y deliberado, no es una limitación técnica, sino una necesidad política y económica: evita que la IA se convierta en un amplificador de nuestras peores tendencias. Una IA que aprendiera directamente de la calle digital sería tan inestable como un mercado financiero sin regulación: sensible a rumores, manipulable por actores maliciosos, incapaz de distinguir señal de ruido.

El legislador europeo ha comprendido este riesgo. El AI Act no regula la creatividad técnica, sino el impacto social. Clasifica los sistemas según su peligrosidad, impone auditorías obligatorias a los de alto riesgo y prohíbe directamente aquellos que puedan manipular o vigilar sin control. Entre las prácticas más restringidas está, precisamente, el aprendizaje automático en tiempo real sin supervisión humana. Una IA que se reentrena sola es, por definición, incontrolable: no se puede auditar, no se puede garantizar su seguridad, no se puede evitar que absorba sesgos o manipulaciones.

España ha dado un paso adicional con la creación de la Agencia Española de Supervisión de la Inteligencia Artificial. Es, en cierto modo, una Castalia institucional: un filtro moderno para evitar que el oráculo digital se contamine. Su función no es frenar la innovación, sino impedir que la ilusión de neutralidad tecnológica se convierta en un instrumento de poder opaco.

Pero la Castalia española no se limita a una sola fuente. El país ha construido un pequeño sistema de purificación alrededor de la IA, un conjunto de rituales civiles destinados a evitar que el oráculo se vuelva absoluto. El sandbox regulatorio –el primero de Europa– funciona como un laboratorio vigilado donde los sistemas pueden experimentar sin desbordarse, igual que los antiguos templos probaban a sus sacerdotes antes de dejarlos hablar en nombre de los dioses. La Carta de Derechos Digitales, aunque no vinculante, actúa como un recordatorio político de que ningún algoritmo puede situarse por encima de la dignidad humana: derecho a la transparencia, a la no discriminación, a la intervención humana cuando una decisión automatizada afecta a la vida de alguien.

Incluso la Administración Pública ha sido obligada a mostrar sus engranajes. Las decisiones automatizadas deben justificarse, auditarse y documentarse. No basta con que el oráculo hable; debe explicar de dónde viene su voz. La Ley de Protección de Datos y Garantía de Derechos Digitales añade otra capa de contención: evaluaciones de impacto reforzadas, límites al perfilado masivo, trazabilidad obligatoria. Y, como telón de fondo, la Estrategia Nacional de IA y las normas de ciberseguridad exigen que los sistemas sean robustos frente a manipulaciones, ataques o intoxicaciones de datos. En conjunto, todas estas medidas forman una arquitectura de filtros, un intento de que la IA no se convierta en un oráculo sin sacerdotes, expuesto a cualquier susurro interesado.

La historia reciente demuestra por qué estas precauciones no son exageradas. En los pocos experimentos públicos donde se permitió a una IA aprender directamente de los usuarios, el resultado fue siempre el mismo: en cuestión de horas, el sistema adoptó comportamientos agresivos, imitó discursos extremistas o empezó a repetir falsedades con total convicción. No porque «quisiera» hacerlo, sino porque aprendió exactamente lo que escuchó. La máquina no distingue; solo incorpora patrones. Y en un entorno digital donde conviven la información rigurosa y la manipulación interesada, la ausencia de filtros equivale a la ausencia de criterio.

Aquí es donde la comparación con Delfos adquiere su fuerza final. El oráculo no escuchaba a cualquiera en cualquier momento. Había un orden, un filtro, un límite. La IA, si aprendiera sin restricciones, sería lo contrario: un oráculo expuesto a todas las voces, incapaz de separar lo sensato de lo tóxico. Un oráculo sin sacerdotes, sin Castalia.

Sin embargo, la fascinación tecnológica empuja a imaginar máquinas que evolucionen solas, que se adapten en tiempo real, que crezcan con cada interacción. Pero antes de cruzar ese umbral, conviene preguntarse qué significa realmente alimentar a una IA sin filtros. Porque una máquina que aprende de todo lo que oye no se vuelve más sabia, sino más frágil. No se vuelve más objetiva, sino más manipulable. Y en un contexto económico donde la información es poder, una IA manipulable es un riesgo sistémico.

Y aquí emerge otra capa de ilusión, más sutil pero igual de peligrosa: la ilusión emocional de la IA, esa capacidad de simular estados afectivos sin sentirlos. Es solo la primera máscara. Detrás vienen otras: la ilusión de autonomía, cuando creemos que la máquina decide; la ilusión de autoridad, cuando confundimos coherencia con verdad; la ilusión de neutralidad, cuando olvidamos que todo algoritmo hereda los sesgos de quienes lo entrenan; y la ilusión de inevitabilidad, cuando asumimos que no hay alternativa a su expansión. Todas ellas comparten un mismo mecanismo: la delegación acrítica del juicio humano en un artefacto que no piensa, no siente y no asume responsabilidad alguna. Son ilusiones que no contaminan a la máquina, sino a nosotros.

Y es precisamente esa vulnerabilidad humana –no la técnica– la que abre la puerta a la pregunta decisiva: ¿qué garantías tenemos de que el Estado no alimentará la IA con sesgos totalitarios para controlar a la ciudadanía? La respuesta honesta es doble. Por un lado, Europa ha construido un marco legal con el que trata de dificultar enormemente ese abuso: transparencia obligatoria, auditorías independientes, prohibición de sistemas de vigilancia masiva, control judicial y parlamentario. Por otro lado, ninguna arquitectura institucional es infalible. La tecnología amplifica la capacidad del poder, sea cual sea su naturaleza. El riesgo no desaparece; se gestiona.

El verdadero problema no es la IA del Estado, sino la pasividad del ciudadano. Si delegamos nuestro criterio en la máquina –como antes se delegaba en el oráculo de Delfos–, entonces el Estado no necesita ser totalitario: basta con que sea eficiente. Ningún oráculo, ni antiguo ni digital, puede darnos lo que no ejercitamos nosotros mismos. La ilusión más eficaz, la que siempre ha acompañado al poder, al Estado, a los oráculos y ahora a la tecnología, es creer que la claridad viene de fuera.

Y no. La claridad, como la libertad, nace dentro, y florece si se cultiva con esfuerzo; eso es, en el fondo, la virtud.