La empresa que desarrolla ChatGPT atribuye el suicidio de un niño al «mal uso» de su tecnología

OpenAI, la empresa detrás de ChatGPT, ha respondido a la demanda de unos padres que responsabilizan al chatbot del suicidio de su hijo Adam Raine. Según ellos, el trágico suceso se produjo por «un mal uso» de su tecnología.

La compañía, con sede en San Francisco (Estados Unidos), afirmó, según los documentos presentados ante el tribunal superior del estado de California, que «en la medida en que se pueda atribuir cualquier 'causa' a este trágico evento», las «lesiones y daños de Adam Raine fueron causados o contribuidos, directa y próximamente, en su totalidad o en parte, por [su] mal uso, uso no autorizado, uso no intencionado, uso imprevisible y/o uso indebido de ChatGPT».

Adam Raine, de 15 años, se quitó la vida el pasado mes de abril tras extensas conversaciones y «meses de apoyo por parte de ChatGPT», según declaró el abogado de la familia.

La demanda alega que el adolescente discutió un método de suicidio con ChatGPT en varias ocasiones, que lo orientó sobre si un método sugerido funcionaría, se ofreció a ayudarlo a escribir una nota de suicidio a sus padres y que la versión de la tecnología que utilizó fue «apresurada a salir al mercado... a pesar de los claros problemas de seguridad».

No obstante, el creador de ChatGPT indicó que sus términos de uso prohibían solicitar asesoramiento a la IA sobre autolesiones y se destacó una cláusula de limitación de responsabilidad que establece que «no se confiará en los resultados como única fuente de verdad o información objetiva».

OpenAI afirmó que su objetivo era «gestionar los casos judiciales relacionados con la salud mental con cuidado, transparencia y respeto» y que «independientemente de cualquier litigio, seguiremos centrados en mejorar nuestra tecnología de acuerdo con nuestra misión».