• Se define Deepfake, combinación de Deep Learning y fake como la “síntesis de imágenes humanas mediante IA“

• De acuerdo con The Verge, también hay software capaz de crear fotos falsas de mujeres desnudas usando solo fotos

• Facebook está trabajando en sus propios sistemas inteligentes para facilitar la moderación de contenido en la plataforma

A finales de mayo, comenzó a circular en Facebook un video falso de la congresista de Estados Unidos (EEUU), Nancy Pelosi. En el material, se podía observar cómo la mujer presuntamente daba un discurso público en estado de ebriedad. A pesar de la controversia, Mark Zuckerberg decidió no retirar los recursos. En represalia, la agencia Canny diseñó su propio spot, protagonizado por el CEO de la compañía, con declaraciones totalmente falsas.

Parece que esta iniciativa ha dado los resultados deseados. De acuerdo con Mashable, Mark Zuckerberg ha cambiado radicalmente su posición sobre los deepfakes. En una presentación durante el Festival de Ideas en Aspen, el CEO de Facebook aseguró que la forma en la que se manejó la controversia de Nancy Pelosi fue “un error en la ejecución”. Apuntó que, por errores de su sistema, el video tuvo más difusión de lo que sus políticas “deberían haber permitido”.

Zuckerberg reafirmó que Facebook empezará a trabajar en políticas para poder lidiar con los deepfakes más fácilmente. También señaló que es crucial alcanzar una definición concreta para el concepto. Apuntó que esto es importante para “no dar a las personas un precedente o fundamento para argumentar que las cosas que no les gustan […] puedan ser bajadas [de la plataforma]”. Por otro lado, no mencionó cuándo podrían aplicarse estas nuevas medidas.

Una lucha épica contra los deepfakes en Facebook (y todos lados)

No solo Zuckerberg está preocupado por contenidos alterados. Alexis Ohanian, cofundador de Reddit, advertía desde 2018 sobre los retos que estas iniciativas impondrían a la sociedad. Adobe, para contrarrestar los efectos negativos de Photoshop, presentó un software que detecta fotos manipuladas. Y en una tal vez contraproducente iniciativa, Samsung creó un programa capaz de transformar fotos en los mismos deepfakes que Facebook teme.

Ciertamente las declaraciones del CEO de Facebook son positivas. Independientemente si su cambio de parecer fue motivado por una introspección o por el deepfake de Canny, lo crucial es que está dispuesto a corregir el rumbo de la plataforma. Suponiendo que no son palabras vacías, los puntos que Zuckerberg está trayendo a la mesa son muy válidos. Para hacer frente a la manipulación en línea, se debe tener una definición clara y a prueba de manipulación.

Tal vez sería conveniente que Facebook, así como otros agentes de la industria tecnológica, se reunieran para discutir, en equipo, estos retos. Google, Apple y Amazon están metidos en controversias muy similares alrededor del uso de Inteligencia Artificial (IA). Y aunque una iniciativa de la empresa de Sundar Pichai ya falló antes, se podría considerar un nuevo consejo de ética plural. Al menos así podrían cerrar filas ante los riesgos políticos que todos enfrentan.