YouTube ha lanzado una herramienta gratuita de detección de deepfakes para celebridades y artistas de Hollywood, fortaleciendo la lucha contra la suplantación de identidad generada por inteligencia artificial.
El mes pasado, la plataforma de video de Google presentó su herramienta de protección de imágenes, que ayuda a identificar contenido en el que se ha modificado o creado un rostro utilizando tecnologías de IA. Inicialmente, el proyecto se enfocaba en funcionarios gubernamentales, periodistas y otros personajes políticos.
Ahora, la plataforma amplía el acceso a actores y músicos a través de agencias de talentos, empresas de gestión y las estrellas que representan.
La herramienta permite «buscar contenido generado por IA que presente la apariencia de un participante, como un deepfake de su rostro, y les otorga el poder de identificarlos y solicitar su eliminación».
Las celebridades y artistas pueden acceder incluso sin tener un canal en la plataforma.
«El hecho de que YouTube abra sus capacidades de detección de deepfakes a personajes públicos marca un cambio en la forma en que las plataformas abordan la protección de la identidad en la era de la IA generativa», señala Alon Yamin, director general y cofundador de Copyleaks, una plataforma de detección de contenido generado por IA.
«Lamentablemente, los sistemas de detección deben ser extremadamente precisos, actualizarse continuamente y estar asociados con reglas claras y procedimientos de eliminación rápidos para ser eficaces», agrega.
La lucha contra los deepfakes se vuelve cada vez más crucial, ya que estas tecnologías pueden ser utilizadas para difundir desinformación, manipular mercados, dañar reputaciones o generar un apoyo engañoso. La implementación de una detección robusta se vuelve necesaria para reducir su alcance e impacto.
