La nueva herramienta de YouTube para detectar deepfakes incluirá a políticos y periodistas

El auge imparable de la inteligencia artificial (IA) ha traído consigo innumerables herramientas que hace años parecían impensables. La creación de imágenes y vídeos es una de las aristas que más sorprenden del mundo de la IA. En los últimos tiempos, hemos visto vídeos, que parecen completamente reales, de políticos y personalidades haciendo cosas inimaginables. Y es que ese es el problema y la virtud al mismo tiempo: que cada vez es más complicado identificar qué imagen es verdadera o falsa.

El problema de los 'deepfakes' está a la orden del día. La IA generativa es capaz de imitar rostros, voces y todo tipo de gesticulación al milímetro. El debate público cuestiona la utilidad real de este tipo de herramientas, teniendo en cuenta que pueden convertirse, y en parte, ya se han convertido, en un instrumento de manipulación y engaño. Ante esto, YouTube ha anunciado la implantación de un nuevo sistema de detección de imágenes generadas por IA.

La plataforma de vídeo que lleva triunfando desde hace 20 años ha implementado el Likeness Detection, un programa encargado de identificar fotogramas hechos con inteligencia artificial. Esta tecnología estará disponible para políticos, periodistas y representantes gubernamentales, quienes están especialmente expuestos a este tipo de suplantación digital. El sistema será similar al ContentID, que emplea YouTube para proteger contenidos con derechos de autor.

Con esta nueva medida, las personas afectadas serán notificadas si la tecnología detecta el uso fraudulento o la suplantación de su imagen con IA. Asimismo, los afectados tendrán que solicitar a la plataforma la eliminación de dicho contenido, para lo que YouTube tendrá que hacer un estudio previo. Para participar en este programa, los beneficiarios tendrán que inscribirse y verificar su identidad, mediante un vídeo y su acreditación. Con esto, YouTube trata de dar un paso más en la lucha contra las 'deepfakes'.