Poder sin conciencia, influencia sin límite: la ilusión del algoritmo

La historia de los oráculos nunca ha sido la historia de sus respuestas, sino la historia de quienes las interpretaban. En Delfos, la Pitia pronunciaba frases enigmáticas, pero el verdadero poder residía en los sacerdotes que las traducían, las modulaban y las adaptaban a los intereses de la ciudad. El oráculo era una voz; la interpretación, un poder. Hoy, en la era de la inteligencia artificial, ese poder no ha desaparecido: ha cambiado de manos.

La IA no piensa, no siente, no decide. Pero quienes la diseñan, la entrenan y la despliegan sí lo hacen.

Conviene recordar qué es, en esencia, un algoritmo. La palabra proviene de al Juarismi, el matemático persa cuyo nombre dio origen al término. Un algoritmo no es una mente ni una intención: es un procedimiento, una secuencia de pasos diseñada para transformar entradas en salidas. ¿Qué significa eso? Que recibe datos –palabras, números, imágenes– y, siguiendo reglas predefinidas, produce un resultado. No interpreta; ejecuta. No comprende; ordena. No decide; calcula. Su aparente inteligencia no nace de una conciencia, sino de la repetición acelerada de operaciones. Y, sin embargo, sobre esa mecánica sin alma hemos construido una nueva forma de autoridad.

Y es precisamente esa naturaleza mecánica –un procedimiento sin conciencia que ejecuta reglas diseñadas por otros– la que abre la puerta a una asimetría profunda entre la máquina que calcula y las instituciones que deciden qué debe calcular.

Y esa asimetría –una máquina sin intención controlada por instituciones con intereses– inaugura una nueva forma de poder: el poder algorítmico. No es un poder visible, como el militar; ni deliberativo, como el parlamentario; ni contractual, como el económico. Es un poder silencioso, estructural, incrustado en los sistemas que organizan nuestra percepción del mundo. La ilusión de neutralidad algorítmica oculta esta realidad.

Creemos que la IA es objetiva porque responde sin emociones, porque no tiene biografía, porque no muestra cansancio ni contradicción. Pero los datos con los que aprende no son neutrales: son huellas de decisiones humanas pasadas, registros de desigualdades, sesgos, omisiones y prioridades. La IA no hereda la realidad; hereda la forma en que la realidad fue medida. Y esa herencia, cuando se presenta como verdad estadística, se convierte en una herramienta de poder.

A ello se suma un fenómeno más profundo: la dependencia cognitiva. Durante siglos, la autoridad se basó en la escasez -escasez de información, de interpretación, de acceso-. Hoy, paradójicamente, la autoridad se basa en la abundancia. La IA no nos da menos trabajo mental, nos da la ilusión de que pensar es opcional. Externalizamos la memoria, la interpretación, la síntesis, la comparación. Y esa externalización, que parece eficiencia, es también una renuncia: la renuncia a ejercer el juicio propio.

El riesgo no es que la IA piense demasiado, sino que nosotros pensemos demasiado poco. Una sociedad que delega su criterio en una máquina que no tiene criterio se vuelve vulnerable a quien controle la máquina. Y aquí aparece la dimensión económica del poder algorítmico. La IA no solo influye en percepciones individuales; redistribuye poder estructural. Quien controla los modelos controla: el marco mental en el que se toman decisiones económicas, la arquitectura de la atención pública, la velocidad de la innovación, la asimetría entre quienes pueden entrenar modelos y quienes solo pueden usarlos, la capacidad de modular expectativas colectivas

La IA no es un actor económico porque tenga intereses, sino porque altera los incentivos de quienes sí los tienen. Las grandes plataformas no buscan neutralidad: buscan ventaja competitiva. Los Estados no buscan objetividad: buscan gobernabilidad. Las empresas no buscan verdad: buscan eficiencia. Y la IA, que no tiene voluntad, se convierte en el instrumento perfecto para quienes sí la tienen.

A esta estructura se añade un fenómeno que apenas empezamos a comprender: la retroalimentación algorítmica. Las respuestas de la IA influyen en decisiones humanas; esas decisiones generan datos; esos datos entrenan futuros modelos; y los futuros modelos refuerzan las tendencias iniciales. El oráculo ya no solo interpreta el mundo: lo modela. Y lo modela sin intención, pero no sin consecuencias.

Por eso, la pregunta crucial no es si la IA será más inteligente que nosotros, sino quién se beneficia de que dejemos de usar nuestra inteligencia. La ilusión de inevitabilidad –la idea de que la expansión de la IA es un destino y no una elección– es el último mecanismo de este poder. Si creemos que no hay alternativa, dejamos de exigirla. Si creemos que la IA es neutral, dejamos de cuestionarla. Si creemos que la IA es inevitable, dejamos de gobernarla.

El poder algorítmico no se ejerce mediante órdenes, sino mediante marcos. No impone decisiones, condiciona posibilidades. No dicta comportamientos: modula expectativas. Y esa modulación, precisamente por ser silenciosa, es la forma de poder más eficaz de nuestra época.

Por eso, la cuestión política del futuro no será cómo regular la IA, sino cómo evitar que la IA se convierta en el nuevo intérprete universal de nuestras decisiones. No se trata de desconfiar de la tecnología, sino de desconfiar de la ilusión de que la tecnología puede sustituir al juicio humano. El problema nunca ha sido el oráculo, sino la disposición interior del que pregunta. Delfos lo sabía. Nosotros lo estamos recordando demasiado tarde.

La IA no es un dios, pero tampoco es una herramienta neutra. Es un amplificador de poder. Y la pregunta decisiva –la que determinará la economía, la política y la cultura del siglo XXI– no es qué puede hacer la IA, sino quién decide lo que la IA debe amplificar.

Ese será el verdadero campo de batalla del futuro.