La mediocridad de la IA

¿Evolucionará la IA y sustituirá a la inteligencia humana, dando paso a la tiranía de las máquinas? ¿Se dirige la economía hacia una sustitución sin precedentes de la mano de obra humana por el silicio, lo que conducirá al desempleo masivo y a graves conflictos sociales? Estas son las preocupaciones habituales en torno al advenimiento de la Inteligencia Artificial. Pero hay otro peligro, menos dramático y, por tanto, más probable: la IA nos conducirá al estancamiento intelectual.

En su columna habitual en el Wall Street Journal, Greg Ip hace una sencilla observación. «Los grandes modelos lingüísticos (LLM, Large Language Models) como ChatGPT, Google Gemini y Claude de Anthropic son muy buenos en localizar, sintetizar y conectar conocimientos. Pero no añaden nada al acervo de conocimientos». Dicho de otro modo, los LLM no son curiosos. Carecen de capacidad de asombro. Por esta razón, la arquitectura de la IA no está preparada -no puede estarlo- para descubrir nuevos conocimientos.

Para utilizar los términos de Iain McGilchrist, la IA es puro cerebro izquierdo. Es calculadora y reductora, y trata el mundo como un gigantesco conjunto de datos. Los resultados pueden ser potentes y proporcionarnos una mejora tecnológica sobre las cosas existentes. Pero el cerebro izquierdo es incapaz de la analogía, la imaginación y el pensamiento emotivo.

Recuerdo un seminario, hace más de una década, en el que el informático David Gelernter observó que la verdadera inteligencia artificial necesitaría un botón de estado de ánimo que pudiera cambiar de un estado de concentración hiperatenta a otro de meditación soñadora. La misma clavija tendría también que activar en la IA el estado de concentración en una cuestión irrelevante, un estado mental que a menudo desata el proceso creativo. James Watson explicó cómo, mientras jugaba al tenis, se le ocurrió la doble hélice, la idea crucial sobre la estructura del ADN.

Greg Ip recoge la opinión del economista de la Universidad de Toronto, Joshua Gans, que cree que la IA puede ser una ayuda inestimable que permita a los académicos centrarse en la investigación más arriesgada. Para utilizar de nuevo los términos de McGilchrist, la IA puede servir de emisario de su propio amo, el cerebro derecho y su capacidad de penetración, creatividad y analogía.

Tal y como reconoce Greg Ip, este resultado es poco probable. «La dependencia de la IA puede hacer que se atrofie el pensamiento crítico, igual que la dependencia del GPS debilita la memoria espacial». Ip cita un estudio reciente que demuestra que la función cognitiva en los seres humanos disminuye en proporción directa a la dependencia de la IA y de las posibilidades de búsqueda en Internet. Los educadores no necesitan recurrir a estudios para ser conscientes de este hecho. Observan a diario en sus aulas la disminución de la capacidad de atención, la escasa capacidad crítica y la falta de curiosidad.

Comparto la preocupación de Ip. La IA traerá, sin duda, avances en algunas áreas. Pero a largo plazo el resultado más probable será el estancamiento científico. Puede que veamos un perfeccionamiento de los conocimientos actuales y una explotación acelerada de su potencial tecnológico, pero cada vez habrá menos conocimientos nuevos.

La IA también acelerará la decadencia de la cultura. Hace dos años, Ben Lerner publicó un ensayo en Harpers, «The Hofmann Wobble». En él detalla la forma en que él mismo consiguió el estatus de editor de las páginas de Wikipedia y cómo luego utilizó sus credenciales para introducir información deliberadamente sesgada en esa fuente de información supuestamente objetiva en la que tantos confían. Los LLM animan a realizar esfuerzos similares a una escala mucho mayor.

Por ejemplo, ésta es la primera frase del informe de Google Gemini sobre Matthew Shepard: «Matthew Shepard era un estudiante universitario gay que fue brutalmente golpeado y abandonado a su suerte en un asesinato motivado por el odio en Laramie, Wyoming, en 1998». Una cuidadosa investigación ha demostrado que su asesinato no fue «motivado por el odio». Pero así es cómo la propaganda pro-gay presentó el asesinato de Shepard durante años después de su muerte. En vista del enorme volumen de texto publicado por los activistas gays, sus aliados y aquellos que han sido engañados por la propaganda, los LLM invariablemente recogerán y regurgitarán esta narrativa, muy difundida pero falsa.

No soy la única persona que se ha dado cuenta de este fenómeno. Les garantizo que movimientos bien financiados (y los gobiernos extranjeros) redoblarán sus esfuerzos para inundar la web con material ideológicamente sesgado con el fin de configurar los resultados de los LLM, que presentarán esa su «verdad» como un hecho establecido.

Deberíamos preocuparnos por esas maniobras ideológicas, pero el peligro más profundo será la contaminación de los datos a medida que inunden Internet cantidades masivas de texto generado por la IA diseñado para influir en los resultados de la IA. El resultado será una degradación del conocimiento cultural que nos hará sentir nostalgia por la decadencia mucho menos perjudicial causada por la televisión y las redes sociales.

No quiero que se entienda que niego el potencial transformador de la IA. Tendrá efectos significativos. Lo que quiero decir es lo siguiente: el cambio no siempre es progreso. Más concretamente, el progreso tecnológico no está necesariamente vinculado a un aumento de los conocimientos científicos o de la sofisticación cultural. Es posible que los historiadores echen la vista atrás y definan la modernidad como la era en la que coincidieron en el tiempo y se entretejieron estos tres ámbitos. No está escrito en las estrellas que esto deba seguir siendo siempre así. Los hilos pueden separarse. Tal vez ya lo hayan hecho.