¿Debo confiar siempre en las respuestas que me da la Inteligencia Artificial? ¿Qué son las alucinaciones?

La Inteligencia Artificial (IA) llegó hace un tiempo a nuestras vidas para cambiarlas por completo. Desde ese momento, la utilizamos para todo. Consultar dudas, ayudarnos en el trabajo, en la universidad o incluso algunos la usan como psicólogo. De hecho, muchas personas la toman como un oráculo que posee la verdad absoluta. Sin embargo, lamento comunicarles que esto no es así y que no son pocas las veces que da información que al ser contrastada pierde toda credibilidad.

Este fallo se conoce como alucinación y se debe a la manera en la que este tipo de herramientas trabajan. Pero, ¿qué es exactamente? Pues se trata de una respuesta que aporta la Inteligencia Artificial que es falsa, aunque esta la presente como si fuese totalmente real. El resultado puede ser desde inventarse el contenido de un artículo hasta citar frases de un autor y atribuírselas a otro. Lo curioso es que, como hemos dicho, da la información como si fuese 100% verdad, por lo que hace que no dudemos de ella.

Esto tiene una explicación clara: la IA no quiere darte la respuesta real, sino una que sea acorde a lo que se le ha preguntado y que no desentone. De esta forma, lo normal es que te dé una contestación correcta, ya que suelen coincidir ambas coyunturas. Sin embargo, no todas las veces es así y de ahí vienen esos fallos en forma de datos erróneos o de falsos testimonios, por ejemplo.

Lo peor es que las respuestas están bien redactadas y son coherentes, por lo que le damos total credibilidad aunque algunas veces sean completamente falsas. En resumen, se podría decir que este tipo de herramientas tienen como objetivo principal dar respuestas que suenen bien, más que contar la realidad.

¿Por qué no fiarse?

Mientras que un navegador normal muestra distintos resultados y es el propio usuario el que decide cuál tomar como fiable y cuál no, una Inteligencia Artificial responde con una afirmación que, a ojos del que la busca, no tiene nada de falsa. En parte, la forma en que se presenta, con una redacción cuidada y datos que aparentemente encajan es lo que hace que confiemos en ella.

¿Cómo identificar alucinaciones?

En primer lugar, no des total credibilidad a datos concretos como fechas o cifras, ya que es lo más fácil de inventar y si no se contrasta puede llegar a dar respuestas que en nada se adecúan a la realidad. Es conveniente comprobar las fuentes, no solo su existencia sino también su contenido. Por último, duda. No porque algo suene bien tiene que ser cierto. Desconfía y asegúrate de que la información que has recibido es veraz, sobre todo si la necesitas para algo que vaya a tener un recorrido o en temas importantes como la salud o el trabajo.