- La última medida de TikTok busca transparencia en origen y manipulación de los contenidos compartidos en la plataforma.
- La tecnología de marca de agua adoptada fue desarrollada por Adobe y ya es usada por empresas como OpenAI.
- La desinformación es el principal problema que enfrenta la IA.
TikTok implementará un sistema para marcar imágenes y videos generados por inteligencia artificial (IA), anunció este jueves 9 de mayo la plataforma de redes sociales.
La medida busca dar más transparencia sobre el origen y la manipulación de los contenidos compartidos en su servicio.
La empresa dijo que adoptaría las “Credenciales de Contenido”, una tecnología de marca de agua digital que indicaría cómo fueron creadas y editadas las imágenes y videos.
Esta tecnología, desarrollada originalmente por Adobe, ha sido adoptada por otras empresas, incluida OpenAI, conocida por su mayor creación, ChatGPT.
La decisión de TikTok se produce en un momento en el que los expertos expresan preocupación sobre el potencial de los contenidos generados por IA para ser utilizados con fines de desinformación, especialmente en el contexto de las próximas elecciones en distintos países, como México en junio y Estados Unidos en noviembre de 2024.
Antes, TikTok ya se había unido a un grupo de 20 empresas tecnológicas comprometidas en la lucha contra este fenómeno.
Cambios en los videos de TikTok
Plataformas como YouTube, de Alphabet, y Meta Platforms, propietaria de Instagram y Facebook, también han anunciado planes para implementar sistemas similares de etiquetado de contenido generado por IA.
Para que este sistema funcione, tanto el fabricante de la herramienta de IA utilizada para crear los contenidos como la plataforma que los distribuye deben aceptar el uso de esta norma.
Por ejemplo, si un usuario utiliza la herramienta Dall-E de OpenAI para generar una imagen, la marca de agua correspondiente será adjuntada automáticamente por OpenAI. Posteriormente, si esa imagen es compartida en TikTok, será etiquetada de manera automática como generada por IA.
TikTok, propiedad de la empresa china ByteDance, cuenta con unos 170 millones de usuarios en Estados Unidos, donde recientemente se ha aprobado una legislación que obliga a ByteDance a desinvertir en la plataforma o enfrentar una posible prohibición.
Ante esto, TikTok y ByteDance han presentado una demanda argumentando que esta ley viola la Primera Enmienda de la constitución estadounidense.
Aunque TikTok ya etiqueta los contenidos generados por IA realizados con herramientas dentro de su propia aplicación, esta nueva medida extenderá la etiqueta también a los contenidos generados fuera del servicio.
Polémicas relacionadas con IA en imágenes y videos
La imagen del Papa Francisco con campera blanca, ampliamente difundida en redes sociales, generó controversia luego de que se revelara que había sido generada por inteligencia artificial. Fue la primera foto “no real” que causó interés masivo por la IA.
La difusión masiva de imágenes generadas por IA en aplicaciones de citas en línea ha generado también controversia sobre la autenticidad de las fotos de perfil.
Esto ha llevado a un debate sobre la ética de utilizar tecnología de IA para manipular la apariencia en entornos de citas en línea, donde la confianza y la transparencia son fundamentales.
Ahora lee:
Rihana y Katy Perry arribaron a la Met Gala gracias a la IA
IA, potencial transformador para redefinir la inversión responsable
Cuál será la próxima gran “industria en crecimiento”: según Warren Buffett
