• Mordor Intelligence apunta que el reconocimiento facial tendrá un crecimiento anual de 12.5 por ciento entre 2019 y 2024

• Según el Washington Post, la detección confiable de deepfakes está prácticamente fuera del alcance de los expertos

• Para el domingo en la noche, el nuevo programa chino tenía ya cuatro mil reviews en la App Store

Hay dos tecnologías íntimamente relacionadas que han generado gran preocupación entre el público general y los expertos de la industria. En primer lugar está el reconocimiento facial, con su potencial uso por las fuerzas del orden y otros agentes en detrimento a la privacidad de los individuos. En segunda instancia está cualquier app de tipo deepfake. El software podría, si llegan a ser explotado por agentes maliciosos, crear una gran avalancha de contenido falso.

No se puede subestimar la escala de estas tecnologías. Según Amazon Web Services (AWS), los artículos sobre deepfakes se multiplicaron en mil entre 2017 y 2018. Muchos casos se ven en contenidos adultos. En cuanto a reconocimiento facial, Markets And Markets estima que la industria tendría un valor de siete mil millones de dólares (mdd) para 2024. El potencial de ambos sistemas es aún más alto si se considera que pueden funcionar como una simple app.

Hay varios casos de una app capaz de usar reconocimiento facial o crear deepfakes con solo algunas simples instrucciones de los usuarios. Claro, muchas de estos software tienen una función inocente y sencilla, que difícilmente podría ser vista como una amenaza. El problema es que estos sistemas además están al alcance de los usuarios. Cuando todo el público puede jugar con estas herramientas, los resultados no siempre están dentro de lo planeado.

Una app capaz de poner tu rostro en series de TV y cine

En este contexto, el fin de semana surgió una nueva app en China. Según Bloomberg, Zao es un programa que puede poner el rostro de cualquier persona en escenas icónicas de películas y series. Así, los individuos pueden generar videos donde parezcan los protagonistas de The Big Band Theory, Titanic o Game of Thrones. Lo único que necesita el programa es una fotografía de la persona y, en menos de 10 segundos, puede generar los contenidos.

https://twitter.com/AllanXia/status/1168049059413643265?ref_src=twsrc%5Etfw%7Ctwcamp%5Etweetembed%7Ctwterm%5E1168049059413643265&ref_url=https%3A%2F%2Fwww.bloomberg.com%2Fnews%2Farticles%2F2019-09-02%2Fchina-s-red-hot-face-swapping-app-provokes-privacy-concern

La app no es capaz de editar la cara de los usuarios en cualquier video. Pero, sí ofrece clips populares de un centenar de obras en el cine y la TV. A pesar de la popularidad del software, los usuarios han comenzado a criticar al equipo desarrollador. Esto, porque en sus términos y condiciones originalmente ponían que podían hacer libre uso de cualquier foto o video alojado en sus servidores. Lo anterior provocó una avalancha de críticas por cuestiones de privacidad.

El peligro de los deepfakes y el reconocimiento facial

No es la primera vez que una app de este tipo recibe duras críticas del público. A mediados de julio, FaceApp se volvió tendencia por una función que permitía envejecer a los usuarios. Esta característica también genero dudas de privacidad poco después de alcanzar la fama. Un caso menos conocido, pero igual de preocupante, empezó a circular en mayo pasado. Entonces, Samsung desarrolló un programa que permitía crear “retratos vivos” con fotografías o pinturas.

Por sí mismos, una app de reconocimiento facial o de deepfakes es preocupante. La primera tecnología aún está en su etapa de desarrollo temprano. Esto la hace muy imprecisa en ciertas circunstancias, lo que resulta en una discriminación hacia algunos segmentos del públcio. Por otro lado, el desarrollo de la segunda técnica puede tener fuertes implicaciones políticas y sociales. En especial si se mezcla con el alcance de plataformas como YouTube y Facebook.

Que estén disponibles en un formato app, libre al alcance de público, significa un reto adicional. Los usuarios no siempre utilizan los programas como los desarrolladores habían planteado originalmente. En otras ocasiones, una iniciativa aparentemente inocente ha sido boicoteada por los usuarios para transmitir mensajes de odio u ocasionar un daño a otros grupos. No es descabellado pensar que lo mismo pudiera suceder con estas tecnologías.