Antes de las elecciones primarias presidenciales de New Hampshire, en los Estados Unidos, una llamada utilizando Inteligencia Artificial (IA) para imitar la voz del Presidente Joe Biden llegó a casi 25,000 personas en el estado. Esta llamada desató una polémica extensa sobre el rol de esta tecnología y sus usos.
Hace apenas unos meses aparecieron imágenes del Papa Francisco generadas por IA con una elegante chaqueta invernal y una cadena de cruz larga y plateada. Estos se extendieron por Internet y fueron rápidamente desacreditados, pero ya habían sido vistos por cientos de miles de personas.
Estos no son casos aislados y más contenido de este tipo generado artificialmente está siendo utilizado para desinformar, especialmente en redes sociales. Es fundamental estar preparado, consciente e informado para no ser víctima de contenido similar.
¿Cómo identificar un material escrito o audiovisual fue generado utilizando IA?
Los expertos dan a conocer algunas pautas para ello:
- Sin cambios de tono o lenguaje: El texto AI no incluirá sorpresas. Por lo general, el texto generado por IA utiliza el mismo vocabulario consistentemente y es muy secuencial. El contenido de IA suele carecer de emoción y conexión con el lector o difícilmente comunica ideas abstractas.
- Impecable: Si un texto no tiene errores tipográficos o contiene jerga muy técnica, puede ser generado por IA. Los escritores y editores humanos pueden escribir párrafos perfectos pero no por completo en todo momento. Además, el uso de vocabulario y estructura de oraciones complejas puede indicar contenido de IA porque si fuera creado por humanos sería accesible y simple de entender. Esto puede variar dependiendo del formato e intención del contenido.
- Contenido genérico: El texto humano generalmente incluirá discusiones sobre experiencias personales, detalles específicos, anécdotas, etc. Mientras que el texto de IA utilizará información y ejemplos fácilmente disponibles en Internet. Además, utilizarán información desactualizada o inexacta que se encuentra en Internet, por lo que es importante verificar siempre los datos de forma independiente.
- Repetitividad: Los textos generados por IA a menudo será repetitivo temáticamente y volverán a ideas anteriores. No son capaces de crear contenido original o inventarse algo, más bien se basan únicamente en lo que ha sido escrito por humanos anteriormente.
- Herramientas de identificación en línea: Alternativamente, si no está seguro de si el contenido escrito se creó artificialmente. Pueden utilizarse detectores de inteligencia artificial en línea que determinan si lo es con casi total certeza.
¿Cómo identificar imágenes generadas por IA?
- Desenfoque y textura: Las imágenes generadas por IA a menudo tendrán fondos borrosos o texturizados donde es difícil identificar qué hay detrás del sujeto.
- Humanos distorsionados: Estas imágenes a menudo también generan representaciones realistas de rostros humanos, pero cometen errores con algunas características y formas del cuerpo. Ejemplos comunes son dedos faltantes, tallas desproporcionadas y detalles faltantes en la ropa o el fondo (botones, cadenas, etc.).
- Marcas de agua digitales: A veces, estas imágenes incluirán firmas digitales en la imagen que las marcan como IA. (Estos pueden ser un pequeño logotipo, imagen o texto en un color translúcido).
¿Cómo identificar material auditivo generado por IA?
- Tono e inflexión: Muchas grabaciones de voz generadas por IA pueden imitar el sonido general de la persona, pero no cambiarán totalmente. A menudo, serán monótonos y utilizarán sonidos repetitivos. El ritmo de una voz generada usualmente es el mismo en todo momento, a diferencia de cuando habla un ser humano real con cambio en rapidez, volumen y tono.
- Vocabulario: De manera similar a la identificación de texto generado por IA, estas grabaciones tendrán un uso repetitivo de ciertas palabras o frases en un esfuerzo por convencer a los oyentes de que son reales. Además hay que considerar que algunos son escritos por humanos y la voz es generada por la IA, entonces es preciso estar atentos al contenido.
- Verificación de hechos: Si es posible, verifica la información transmitida por un mensaje del que no esté seguro. En el caso de la llamada automática en New Hampshire, muchas personas reportaron la llamada a las autoridades después de identificar y verificar correctamente que la voz o la información por teléfono sonaba incorrecta.
