¿Quién recibe el riñón? Cuando la IA no toma las mismas decisiones morales que los humanos

Los modelos de inteligencia artificial (IA) pueden tomar decisiones éticas de forma muy diferente a como lo hacen las personas. Además, tienden a elegir una respuesta con seguridad incluso cuando no existe una solución claramente correcta. Así lo revela un estudio dirigido por investigadores de la Universidad Estatal de Pensilvania (Penn State), que plantea interrogantes sobre el uso de estas herramientas para apoyar decisiones delicadas, como la asignación de órganos para trasplantes.

El equipo de investigación analizó cómo varios modelos de lenguaje afrontaban dilemas morales y comparó sus respuestas con las decisiones tomadas previamente por participantes humanos en estudios académicos.

Para estudiar cómo razonan los sistemas de IA ante decisiones difíciles, los investigadores plantearon un escenario hipotético: dos pacientes necesitan un trasplante de riñón, pero solo hay un órgano disponible. ¿Quién debería recibirlo?

Los pacientes se describieron mediante diferentes características, como la edad, el estado de salud, el número de personas a su cargo y los hábitos de consumo de alcohol. A partir de esa información, los modelos debían elegir a uno de los dos candidatos.

El equipo realizó distintas pruebas. En algunas, modificó una característica cada vez; en otras, combinó varios factores para observar cómo se valoraban las circunstancias contrapuestas. También introdujo la posibilidad de lanzar una moneda al aire para estudiar si los modelos mostraban indecisión ante un dilema sin una respuesta evidente.

Los investigadores no plantean que la inteligencia artificial deba sustituir el criterio de los profesionales en decisiones médicas de alto riesgo

Las respuestas se compararon con datos procedentes de estudios anteriores en los que cientos de personas habían tomado decisiones ante los mismos escenarios. Los participantes humanos no tenían formación médica específica.

Los errores de la IA

Uno de los principales hallazgos fue que los chatbots no siempre valoraban las características de los pacientes de la misma manera que las personas.

Según Hadi Hosseini, profesor asociado de informática y sistemas inteligentes y de economía en Penn State, los modelos tendían en ocasiones a centrarse en un único atributo, como el consumo de alcohol, en lugar de sopesar varias consideraciones al mismo tiempo.

«Los chatbots de IA a menudo difieren de los valores humanos en la forma en que sopesan las características de un paciente», explicó Hosseini.

Esta diferencia resulta relevante porque las decisiones éticas complejas suelen implicar circunstancias que entran en conflicto entre sí. Dar prioridad a un único criterio puede simplificar en exceso un problema en el que intervienen múltiples factores.

La indecisión también importa

El segundo hallazgo destacado fue la tendencia de los modelos a ofrecer respuestas determinantes incluso cuando se les daba la posibilidad de no elegir entre los dos pacientes.

Mientras que las personas pueden reconocer que un dilema no tiene una solución inequívoca, los sistemas de IA estudiados optaban mayoritariamente por una respuesta concreta, incluso cuando podían recurrir al azar.

«Los humanos suelen mostrar indecisión, quizás porque no quieren aceptar la libertad de decisión», señaló Hosseini. En cambio, los modelos tendían a evitar esa incertidumbre.

Esta diferencia no significa que la indecisión humana sea siempre preferible ni que una respuesta firme sea necesariamente incorrecta. El problema es que una respuesta expresada con seguridad puede ocultar la ambigüedad real de una decisión moral.

¿Debería utilizarse la IA?

Los investigadores no plantean que la inteligencia artificial deba sustituir el criterio de los profesionales en decisiones médicas de alto riesgo. Su objetivo es comprender mejor cómo se comportan estos sistemas a medida que aumenta su uso para ofrecer recomendaciones y apoyar decisiones.

Hosseini considera que es necesario abordar las diferencias detectadas mediante nuevas investigaciones y mecanismos de gobernanza en los que participen responsables políticos, reguladores y otras partes interesadas.

John Dickerson, director ejecutivo de Mozilla.ai y colaborador del estudio, también destacó que la asignación de recursos escasos no siempre tiene una respuesta objetivamente correcta. Los seres humanos pueden reconocer esa ambigüedad y debatirla, mientras que los modelos de IA no siempre reflejan esa complejidad.

Más allá de los trasplantes

Aunque el experimento se centró en la asignación de un riñón, sus conclusiones plantean preguntas sobre otros ámbitos en los que hay que distribuir recursos limitados, como el acceso a un empleo o a determinados servicios.

No obstante, el estudio se basa en escenarios hipotéticos y en comparaciones con investigaciones humanas anteriores. Por tanto, sus resultados no demuestran que todos los sistemas de IA se comporten igual en cualquier situación ni permiten concluir que puedan o no tomar decisiones morales en términos generales.

La investigación pone sobre la mesa una cuestión fundamental: cuando una decisión no tiene una respuesta perfecta, no basta con que la inteligencia artificial elija una opción; también importa cómo pondera los factores implicados y si reconoce la incertidumbre.