Google añade funciones de salud mental a su chatbot Gemini tras una demanda

La inteligencia artificial ha transformado de manera irreversible nuestra forma de relacionarnos con la tecnología. En los últimos años, los avances en este campo han dado lugar a herramientas cada vez más sofisticadas, capaces de simplificar tareas cotidianas y abrir nuevas posibilidades en prácticamente todos los ámbitos de la vida. No obstante, su uso indebido o irresponsable entraña riesgos que no conviene ignorar.

De hecho, tanto Google como otras compañías como OpenAI han tenido que enfrentarse recientemente a varias demandas que acusan a sus herramientas de inteligencia artificial de causar daños en la salud de las personas. Entre ellas, en marzo de este mismo año, el gigante de internet tuvo que hacer frente a una demanda en Estados Unidos tras el suicidio de un hombre en Florida. Según su familia, el chatbot de inteligencia artificial Gemini lo habría inducido al suicidio al hacerle creer que mantenían una relación romántica y que su muerte era un paso necesario para estar juntos.

Herramientas para el cuidado de la salud mental

Ahora Google ha anunciado que Gemini añadirá una interfaz que dirigirá a los usuarios del chatbot a una línea de ayuda cuando la conversación indique «una posible crisis relacionada con el suicidio o la autolesión». Además, según ha publicado la compañía este martes en su blog, se incorporará un módulo de «hay ayuda disponible» para los chats sobre salud mental y se ajustará el diseño para desalentar la autolesión.

Por otro lado, Google ha indicado que ha entrenado a Gemini para no reforzar creencias falsas y está realizando ajustes en sus servicios más populares. Entre ellos, está añadiendo información de profesionales de salud a YouTube.