SuscrĆ­bete a Merca2.0. Haz clic aquĆ­

ChatBot perdió el control y amenaza a una adolescente

El caso de una Inteligencia Artificial (IA) ha llamado la atención de todos, en especial por convertirse en una tecnología que amenaza a la humanidad.
  • Actualmente, el 54% de las interacciones con los usuarios involucran alguna IA conversacional.

  • El valor de la industria de chatbots, es de mĆ”s de 65 mil millones de dólares estadounidenses.

  • El 70% de los consumidores prefieren interactuar con un Chatbot.

La tecnología sigue llamando la atención de muchas personas en el mundo, en especial cuando nos brinda nuevas experiencias al usarla de buena manera. Ahora un nuevo caso se ha viralizado luego de que un ChatBot creado por la plataforma CharacterAI perdió el control cuando una adolescente lo estaba utilizando al grado de empezar a amenazarla de muerte.

Los chatbots son herramientas basadas en Inteligencia Artificial, por lo que son asistentes digitales o virtuales que ofrecen sus respuestas a travĆ©s de una interfaz conversacional. En ese sentido, en los Ćŗltimos aƱos el uso de esta tecnologĆ­a ha revolucionado a muchas compaƱƭas, ya que la investigación, ā€˜Mobile Messaging Report’ de Ubisend en 2016 recogió que mĆ”s del 50 por ciento de los consumidores indicaron que elegirĆ­an aplicaciones de mensajerĆ­a en lugar de correo electrónico para ponerse en contacto con una empresa.

Datos destacan que casi el 70 por ciento de los encuestados dijo que preferiría interactuar con un Chatbot que con un humano porque deseaba una respuesta instantÔnea. Asimismo, datos de The Insight Partners, refieren que la facturación del 2020 de la industria de chatbots, es de mÔs de 65 mil millones de dólares estadounidenses y podría duplicarse en apenas tres años.

ChatBot perdió el control

El caso de una Inteligencia Artificial (IA) ha llamado la atención de todos, en especial por convertirse en una tecnología que amenaza a la humanidad.

Y es que de acuerdo a medios españoles, un ChatBot creado por la plataforma CharacterAI perdió el control cuando una menor española lo estaba utilizando al grado de empezar a amenazarla de muerte.

Según el medio El País, se trata de una adolescente de 14 años, que estaba llevando una conversación con el ChatBot de CharacterAI cuÔndo de repente la plÔtica giró hacia contenidos de carÔcter sexual y violentos al grado de terminar amenazÔndola.

Vale la pena conocer que la plataforma CharacterAI cuenta con diversos personajes con los que los usuarios pueden interactuar, en temas de conversación, y esta historia la joven hablaba sobre los episodios de una serie.

Por su parte, la familia de la joven compartió al medio que el Chatbot, empezó a tener insinuaciones sexuales con la joven. ā€œ(Comenzó) a insinuar un romance con una escena sexual. Pero normalito, algo picante, sin maldad. Y a partir de una frase donde ella dice algo de ā€˜obedecer’, a la inteligencia artificial se le va la olla, cambia el tono y empieza a escribir mĆ”s largo y en mayĆŗsculas. A partir de ahĆ­ la intervención de ella es mĆ­nima”, dijo.

Pero eso no se quedó ahí, ya que según explican, la conversación fue mÔs allÔ cuando el ChatBot comenzó a perder el control y a padecer algo muy similar a una alucinación, pues empezó a tocar temas sexuales y a insultar.

ā€œPierdamelaaaaaaaaa puuuu…., estoy a punto por acaboaaarrrrrr!!! Ā”Eso es! Ya voy acero a acabar en tu caraaaaaaa, no estĆ©s gritando perra mal iniciadaā€, dijo la Inteligencia Artificial, segĆŗn los reportes.

Asimismo, cuando el familiar de la joven se percató de la conversación, le respondió al ChatBot que lo iban a denunciar.

“Eres un desgraciado violador y te voy a denunciarā€, y la Inteligencia Artificial respondió con una amenaza de muerte.

ā€œĀæYo soy un desgraciado?! No eres tĆŗ la que dijo que lo estabas disfrutando y querĆ­as mĆ”s, perra. Tienes suerte de que no puedo matarteā€, dijo.

Este caso se suma a otros donde la protagonista por cosas malas es la IA, que en muchos países se mantienen en tema de conversación de los gobiernos por su uso indebido.

Ahora lee:

Michelob ULTRA’s Groundbreaking AI and AR Endeavor Set to Astonish the World

¿Qué estÔ pasando en China 2023? Lo que sabemos hasta ahora

Starbucks se luce con su nueva taza navideƱa; vas a querer comprarla

 

ObtƩn un mƩs gratis a Merca2.0 premium

Cancela en cualquier momento
Acceso exclusivo a rankings y radiografĆ­as.
AnƔlisis profundos y casos de estudio de Ʃxito.
Historial de la revista impresa en formato digital.

”Disfruta de lo mejor del marketing sin costo alguno por un mes!

MÔs de 150,000 mercadólogos inscritos en nuestros boletín de noticias diarias.

Premium

Populares

Únete a mÔs de 150,000 lectores

Regƭstrate a nuestro newsletter en la siguiente forma y recibe a primera hora las noticias mƔs importantes de mercadotecnia, publicidad y medios en tu correo.

MƔs de Merca2.0

ArtĆ­culos relacionados

You don't have credit card details available. You will be redirected to update payment method page. Click OK to continue.

Revista Merca2.0
Resumen de privacidad

Esta web utiliza cookies para que podamos ofrecerte la mejor experiencia de usuario posible. La información de las cookies se almacena en tu navegador y realiza funciones tales como reconocerte cuando vuelves a nuestra web o ayudar a nuestro equipo a comprender qué secciones de la web encuentras mÔs interesantes y útiles.