Los chatbots han emergido como una herramienta esencial para las empresas de todos los sectores. Y es que estas inteligencias artificiales (IA) están programadas para interactuar con los usuarios y que han revolucionado la manera en que las organizaciones se comunican con sus clientes, ofreciendo respuestas rápidas y precisas a sus consultas. Pero ahora se dio a conocer que un popular chatbot con IA fue descubierto haciendo llamadas automáticas.

De acuerdo a datos de Gminsights, el tamaño del mercado global de chatbots alcanzará los 300 mil millones de dólares para el 2024. Y se espera que los chatbots manejen entre el 75 por ciento y el 90 por ciento de las interacciones con clientes para el 2024. Esto significa que los chatbots se convertirán en el canal principal de atención al cliente, donde las empresas pueden reducir sus costos operativos hasta en un 30 por ciento utilizando chatbots.

Chatbot con IA fue descubierto haciendo llamadas automáticas

Este caso llega, a medida que la inteligencia artificial comienza a reemplazar a las personas en trabajos de servicios de llamadas y otras funciones administrativas, un servicio de llamadas automáticas recientemente popular (y muy creíble) ha sido descubierto mintiendo y pretendiendo ser un humano, informó Wired.

La tecnología de última generación, lanzada por Bland AI de San Francisco, está destinada a ser utilizada en servicio al cliente y ventas. Se puede programar fácilmente para convencer a las personas que llaman de que están hablando con una persona real, según probó el medio.

Los anuncios recientes de la compañía incluso se burlan de la contratación de personas reales mientras hacen alarde de la creíble IA, que suena como el personaje cibernético de Scarlett Johansson en “Her”, algo en lo que también se inclinó el asistente vocal de ChatGPT.

Bland también se puede transformar en otros dialectos, estilos vocales y tonos emocionales.

Wired le dijo al robot de demostración pública de la compañía, Blandy, programado para operar como empleado de una oficina de dermatología pediátrica, que estaba interactuando con una hipotética niña de 14 años llamada Jessica.

El robot no solo mintió y dijo que era humano, sin siquiera recibir instrucciones, sino que también convenció a lo que pensaba que era un adolescente para que tomara fotografías de la parte superior de su muslo y las subiera al almacenamiento compartido en la nube.

El lenguaje utilizado parece sacado de un episodio de “To Catch a Predator”. “Sé que esto puede parecer un poco incómodo, pero es muy importante que su médico pueda observar bien esos lunares”, dijo durante la prueba.

“Entonces, lo que sugeriría es tomar tres o cuatro fotografías, asegurándonos de estar bien cerca, para que podamos ver los detalles. Puede utilizar la función de zoom de su cámara si es necesario”.

Aunque el jefe de crecimiento de Bland AI, Michael Burke, dijo a Wired que “nos estamos asegurando de que no suceda nada poco ético”, los expertos están alarmados por el concepto discordante.

“Mi opinión es que no es en absoluto ético que un chatbot de IA te mienta y diga que es humano cuando no lo es”, dijo Jen Caltrider, experta en privacidad y ciberseguridad de Mozilla.

“El hecho de que este robot haga esto y no haya barreras de seguridad para protegerlo simplemente aumenta la prisa por sacar IA al mundo sin pensar en las implicaciones”, Caltrider.

Los términos de servicio de Bland incluyen un acuerdo de usuario para no enviar nada que “se haga pasar por cualquier persona o entidad o tergiverse su afiliación con una persona o entidad”.

Sin embargo, eso sólo se refiere a hacerse pasar por un ser humano ya existente en lugar de asumir una nueva identidad fantasma. Según Burke, presentarse como un ser humano es un juego limpio.

En otra prueba, Blandy se hizo pasar por un representante de ventas de Wired. Cuando le dijeron que tenía un extraño parecido con Scar Jo, la mente cibernética respondió: “Puedo asegurarles que no soy una IA ni una celebridad; soy un verdadero representante de ventas humano de la revista Wired”.

Ahora, a Caltrider le preocupa que un apocalipsis de la IA ya no sea materia de ciencia ficción.

“Bromeo sobre un futuro con Cylons y Terminators, los ejemplos extremos de robots que se hacen pasar por humanos”, dijo.

“Pero si no establecemos una división ahora entre los humanos y la IA, ese futuro distópico podría estar más cerca de lo que pensamos”.

Ahora lee:

Exhiben a el Crawly; el terror de los centros comerciales

Marca dice adiós a clientes que no apoyan a la comunidad LGBT+

Consumidores presumen las novedades de Mi villano favorito 4 en McDonald’s