Fundado en 1910

14 de julio de 2024

REFLEXIONES SOBRE LA IAMercedes Prades Ginovart

¿Justicia a ciegas?

La IA no debe ser un oráculo impenetrable, sino un aliado transparente que fortalezca nuestro compromiso con la justicia

​Sobre los emojis mudos y la falta de comunicación

Actualizada 04:30

La Inteligencia artificial ha irrumpido en el mundo legal como un huracán silencioso, transformando la práctica jurídica con una promesa de eficiencia y precisión nunca antes vista. Desde el análisis predictivo de casos hasta la revisión automatizada de documentos, la IA ofrece un futuro donde las interminables pilas de papeles y las jornadas maratónicas de los abogados podrían ser cosa del pasado. Pero ¿a qué precio? Se trata del eterno dilema entre avance y humanización, entre practicidad y ética. No es la primera vez –tampoco será la última– en la que el ser humano se enfrenta a la terrible tarea de decidir. Ha ocurrido desde siempre y continuará ocurriendo. Tal vez, más que de una decisión drástica, lo que debemos hacer es plantearnos un encaje progresivo de la IA en nuestro ámbito, a la par que ponderamos las ventajas y los inconvenientes de manera que, su uso no contravenga determinados valores imprescindibles, ni alguna de las premisas que nos han hecho avanzar como humanidad.

Lo que debemos hacer es plantearnos un encaje progresivo de la IA en nuestro ámbito, a la par que ponderamos las ventajas y los inconvenientes

Nos encontramos frente a una paradoja moderna –aunque si lo analizamos bien ya se ha dado con otras innovaciones y en otros momentos de la historia–: mientras la IA nos acerca a una justicia más rápida, nos aleja de una justicia transparente. La «caja negra» de la IA, ese enigma donde los algoritmos toman decisiones sin que nadie entienda realmente cómo, plantea un dilema ético y práctico. ¿Cómo confiar en un sistema que no podemos ver ni cuestionar? La fe ciega en las modas y las innovaciones no ha sido precisamente una buena apuesta a lo largo de los siglos. Confiar sin más no suele ser recomendable.

Pensemos en un piloto automático que controla un avión en pleno vuelo sin que los pilotos entiendan exactamente sus decisiones. Confían en él por su eficiencia, pero viven con la incertidumbre de no poder intervenir si algo sale mal. Este es el escenario que presenta la IA en el mundo legal hoy: una justicia a ciegas, guiada por algoritmos cuya opacidad puede ocultar errores y sesgos. El médico o el maestro, por poner un ejemplo, no pueden ni deben sustituirse porque sí. El factor humano es imprescindible. No deberíamos «vender nuestra alma» tan a la ligera.

Una justicia a ciegas, guiada por algoritmos cuya opacidad puede ocultar errores y sesgos

La eficiencia es la palabra de moda. En un mundo donde el tiempo es oro, la IA promete liberar a los abogados de tareas tediosas, permitiéndoles centrarse en lo que realmente importa. Sin embargo, ¿podemos permitirnos priorizar la eficiencia sobre la transparencia y la justicia? En la búsqueda de un sistema legal más rápido, corremos el riesgo de sacrificar la equidad y, deberíamos tener en cuenta que, solo un mundo más justo y equitativo nos hará sentir más libres.

Uno de los grandes problemas de la IA es su falta de interpretabilidad. Los juristas, acostumbrados a desentrañar argumentos y fundamentos jurídicos, se enfrentan ahora a decisiones llevadas a cabo por máquinas. Es difícil (a veces imposible) conocer, a ciencia cierta, el proceso que ha llevado a la IA a tomar esa decisión. Esta falta de explicabilidad no solo es frustrante, sino peligrosa. ¿Cómo podemos garantizar que las decisiones algorítmicas no están plagadas de sesgos si ni siquiera podemos entender cómo se toman? La comprensión de las cosas nos acerca mucho más a su verdad, a su esencia. Y solo cuando entendemos algo somos capaces de aceptarlo con naturalidad, de asumirlo primero y, después interiorizarlo.

Los juristas, acostumbrados a desentrañar argumentos y fundamentos jurídicos, se enfrentan ahora a decisiones llevadas a cabo por máquinas

La ética en el uso de la IA no es solo un tema de debate académico; es una necesidad urgente. Si no podemos ver ni entender cómo una IA llega a sus conclusiones, ¿cómo podemos asegurar que respeta los derechos de los individuos? La opacidad de la IA puede perpetuar injusticias, ocultar errores y sesgos, y erosionar la confianza en el sistema legal. La ética no es negociable puesto que, sin ella, puede llegar a desmoronarse nuestro sistema de valores como un castillo de naipes, lo cual, sin ningún género de dudas resquebrajaría nuestra convivencia.

La solución a este dilema no es rechazar la IA, sino hacerla más transparente, dejarla entrar en nuestro mundo, pero controlando su impacto. Necesitamos algoritmos cuyas decisiones sean comprensibles, y mecanismos de supervisión que aseguren la equidad y la justicia en su aplicación. La IA debe ser una herramienta para fortalecer el sistema legal, no para ocultar sus fallos. Y debe estar al servicio de los seres humanos por encima de cualquier otro supuesto.

La solución a este dilema no es rechazar la IA, sino hacerla más transparente, dejarla entrar en nuestro mundo, pero controlando su impacto

La IA tiene el potencial de revolucionar el mundo legal, pero su éxito depende de nuestra capacidad para hacer transparentes y comprensibles sus procesos internos. Debemos exigir una IA que respete los principios de transparencia, equidad y responsabilidad. Y también que se adapte a nuestros principios y creencias.

La IA no debe ser un oráculo impenetrable, sino un aliado transparente que fortalezca nuestro compromiso con la justicia. Solo así podremos mirar hacia el futuro con la certeza de que, aunque la tecnología avance, no hemos dejado atrás los principios que fundamentan nuestra sociedad.

Prescindir parcialmente del ser humano, de lo que básicamente conlleva su esencia y su naturaleza, y dar la espalda a todo aquello que nos ha hecho evolucionar y progresar como individuos y también colectivamente como sociedad, será siempre un error del que, sin duda, algún día llegaríamos a arrepentirnos.

  • Mercedes Prades Ginovart es jurista que desempeña la labor de documentalista y técnico de transformación digital en la Universidad CEU Cardenal Herrera
Comentarios
tracking