Este tipo de manipulaciones por IA se conocen como 'deepfakes'
Estafas
YouTube lanza un sistema para detectar deepfakes que clonan tu imagen
Los deepfakes son vídeos que pueden simular el rostro o incluso la voz de una persona de forma casi idéntica, facilitando la difusión de contenidos falsos y manipulados
La inteligencia artificial ha sido, sin duda, la revolución tecnológica de los últimos años. Su uso se ha extendido en un gran número de campos y nos ha facilitado y agilizado la realización de un gran número de tareas. Sin embargo, las posibilidades que ofrece pueden llegar a ser peligrosas si se utiliza con fines malintencionados. Es en este contexto donde aparecen los deepfakes.
Los deepfakes, tal y como explican desde el Instituto Nacional de Ciberseguridad, son vídeos manipulados, que se crean para engañar a los espectadores, haciéndoles creer que una persona específica, ya sea anónima o una figura pública, está llevando a cabo declaraciones o acciones que nunca tuvieron lugar.
Estos vídeos se crean mediante el uso de herramientas o programas equipados con tecnología de inteligencia artificial, lo que hace posible el intercambio de rostros en imágenes y vídeos, además de la alteración de la voz.
Su uso sin consentimiento puede crear graves problemas de privacidad, reputación o derechos de imagen, especialmente para los creadores de contenido cuya imagen puede utilizarse prácticamente sin control. Por este motivo, plataformas como YouTube están ya ideando soluciones para frenar un problema que cada vez está más extendido.
YouTube contra los deepfakes
Según ha publicado el medio especializado The Vergue, desde el pasado 21 de octubre los creadores del Programa de Socios de YouTube tienen acceso a una nueva función de detección por IA que les permitirá encontrar y denunciar vídeos no autorizados que utilicen su imagen.
Una vez verificada su identidad, los creadores de contenido en YouTube pueden acceder a la pestaña de Detección de contenido dentro de YouTube Studio, donde se recopilan los vídeos marcados por posibles infracciones relacionadas con el uso no autorizado de su imagen o contenido.
Si en esta sección el creador detecta que un vídeo utiliza su voz, rostro u otros elementos personales generados mediante inteligencia artificial sin su consentimiento, tiene la posibilidad de iniciar una solicitud formal para que dicho material sea retirado de la plataforma.
Esta herramienta se enmarca dentro de las nuevas políticas de YouTube orientadas a regular el uso de contenidos sintéticos o manipulados mediante inteligencia artificial, especialmente en casos en los que puedan afectar a la reputación, la privacidad o los derechos de los usuarios afectados. Así, la plataforma refuerza su compromiso con la protección de la identidad digital, al tiempo que establece mecanismos para equilibrar la innovación tecnológica con los derechos fundamentales de los creadores.
