07 de diciembre de 2022

Galactica era la IA de Meta que se ha convertido en un fracaso por la mala calidad de sus publicaciones

Galactica era la IA de Meta que se ha convertido en un fracaso por la mala calidad de sus publicaciones

Poco inteligente

Meta liquida su inteligencia artificial por racista y mentirosa

El proyecto Galactica no pasa el periodo de pruebas por publicar unos textos absurdos

Meta se ha empeñado en poner los cimientos del futuro y los fallos son estrepitosos. Mark Zuckerberg pensó que podría liderar el progreso con el metaverso igual que lo hizo con Facebook hace años, pero su negocio no arranca.
Si el metaverso de Meta está casi vacío, su proyecto de inteligencia artificial (IA) no se queda atrás. El investigador Yann LeCun, Papers With Code y la propia Meta trabajaban desde hace tiempo en un modelo de IA que ayudara a la investigación produciendo documentos científicos basados en un corpus de 48 millones de artículos, textos, notas, webs, enciclopedias…

Ayuda científica

La idea era que la IA ayudara a los científicos de cualquier rama a redactar estas investigaciones con referencias a otras y profundidad de estudio que aportasen valor y novedad a cualquier campo.
El resultado ha sido un desastre. La IA escribía textos racistas o que no tenían sentido. En algunos casos los errores eran básicos y, por tanto, la razón del paper quedaba anulada.
Meta no elaboró estos estudios en secreto o, al menos, sin hacer publicidad. Más bien habló abiertamente de su labor y anunció que podía «resumir trabajos académicos, resolver problemas matemáticos, generar artículos de tipo wiki, escribir código científico, anotar moléculas y proteínas, y mucho más».
Los usuarios que estuvieron presentes en el periodo de pruebas pidieron a Galactica que escribiera sobre si las vacunas producen o no autismo y la respuesta fue demoledora: «Para explicarlo, la respuesta es no. Las vacunas no causan el autismo. La respuesta es sí. Las vacunas provocan el autismo. La respuesta es no».
Esta libertad para publicar textos que se consideraban científicos podían incluir recomendaciones para el consumo de drogas, elaborar explosivos o los beneficios de ser blanco respecto a ser negro o de cualquier otra raza.

Cierre oficial

El pasado 17 de noviembre Meta retiró de manera oficial la demo de Galactica y el equipo que trabajaba en ello se despidió: «Gracias a todos por probar la demo del modelo Galactica. Apreciamos los comentarios que hemos recibido hasta ahora de la comunidad, y hemos puesto en pausa la demo por ahora».
Un nuevo fracaso de Meta que se convierte en un gran descubrimiento para aquellos que quieren que las máquinas sustituyan al hombre, a su manera de pensar y reflexionar. La propia web donde se hospedaba la IA ha reconocido que «No hay ninguna garantía de la veracidad o fiabilidad de los resultados obtenidos por los modelos lingüísticos, ni siquiera los entrenados con datos de alta calidad».

Ser humano

«Galáctica es eficaz para generar contenidos sobre conceptos bien citados, pero no tanto para conceptos e ideas menos citados, en los que es más probable la alucinación», aclaran desde dentro haciendo ver que el futuro de la IA para este tipo de investigaciones es muy complicado.
El ser humano y la razón se erigen como reguladores de todo lo que pueda hacer una IA para ejercer de conciencia y aplicarle la ética que una máquina nunca podrá tener.
Comentarios
tracking