• YouTube colaborará con la Agencia de Artistas Creativos (CAA).

• La plataforma probará estas herramientas con celebridades y deportistas.

• Desde principios de este año, YouTube exige que los creadores etiqueten los videos que contengan contenido generado por inteligencia artificial.

YouTube quiere luchar contra los deepfakes, asociándose con la Agencia de Artistas Creativos (CAA) para ayudar a identificar contenido generado por inteligencia artificial (IA) que utilice imágenes o voces sin autorización de creadores o celebridades.

Y es que, según un informe de KPMG, la desinformación o información incorrecta generada por la IA y los ciberataques ocuparon el segundo y quinto lugar respectivamente como los riesgos con mayor probabilidad de materializarse a escala global en este 2024 (quinto y octavo en diez años).
Aunado a lo anterior, la transformación digital acelerada para mantener la competitividad y los esquemas de trabajo que han intensificado el uso de plataformas digitales para el trabajo colaborativo a distancia han exacerbado estos riesgos.
De hecho, un estudio de Sumsub, señaló que los casos de fraude relacionados con deepfakes se han disparado entre 2022 y 2023 en una gran cantidad de países de todo el mundo. Por ejemplo, el número de intentos de fraude en Filipinas aumentó hasta en un 4 mil 500 por ciento interanual, seguido de países como Vietnam, Estados Unidos y Bélgica.
Con las capacidades de la Inteligencia Artificial potencialmente aumentando aún más, los intentos de fraude deepfake también podrían extenderse a otras áreas.

YouTube implementa tecnología para identificar y combatir los deepfakes

Según un informe de The Verge, la plataforma probará esta tecnología con celebridades y deportistas a principios del próximo año, con planes de extenderla posteriormente a los principales creadores de contenido, profesionales creativos y otros socios destacados.

De hecho, en septiembre, YouTube ya había anunciado su intención de desarrollar herramientas para gestionar representaciones generadas por IA de los creadores y sus voces. Ahora, la empresa está preparada para ofrecer a las celebridades y, más adelante, a los creadores, la capacidad de controlar el uso de su imagen y voz en contenido de IA “a gran escala”.

Además, YouTube trabaja en una innovadora “tecnología de identificación de canto sintético” diseñada para detectar y eliminar contenido que intente replicar las voces de los artistas mediante IA. La plataforma ya permite a las discográficas solicitar la eliminación de contenido que simule voces de cantantes y exige que los creadores etiqueten los videos que incluyen contenido generado por IA.

Esta estrategia refuerza el compromiso de YouTube con la protección de los derechos de sus usuarios y con la transparencia en el uso de tecnologías avanzadas, marcando un nuevo estándar para combatir el uso indebido de IA en la industria digital.

Un caso similar es el de Grok, que incluye una marca de agua a la hora de generar imágenes.

Ahora lee: 

Miniso ahora permite comprar estatuas de exhibición de Sanrio

¿Para qué escudería conducirá Checo Pérez tras su salida de Red Bull? Esto es lo que sabemos

Jeff Bezos construye estación espacial para turistas