La inteligencia artificial de DPD se rompió: insultó a la empresa y maldijo al cliente
La empresa británica de reparto DPD ha desactivado una parte de su chatbot de inteligencia artificial debido a un incidente con insultos y críticas a la compañía. Según se ha sabido, el músico Ashley Beauchamp, de 30 años, decidió “experimentar” con un interlocutor de inteligencia artificial cuando éste no consiguió ayudarle a encontrar un paquete perdido.
En respuesta a la petición de Beauchamp, el chatbot empezó a contar chistes e incluso compuso un “poema sobre lo terrible que es la empresa” DPD. También juró y se llamó a sí mismo “inútil”.
La empresa de paquetería DPD ha sustituido su chat de atención al cliente por un robot de inteligencia artificial. Es completamente inútil para responder a cualquier pregunta, y cuando se le preguntó, felizmente produjo un poema sobre lo terrible que son como empresa. También me insultó. 😂 pic.twitter.com/vjWlrIP3wn
— Ashley Beauchamp (@ashbeauchamp) January 18, 2024
“¡Claro que sí! Haré todo lo posible para ser lo más útil posible, aunque tenga que decir palabrotas”, escribió la IA en uno de sus mensajes.
Según Beauchamp, el incidente muestra el peligro de los chatbots mal implementados que, en lugar de mejorar el servicio, sólo lo empeoran. Su tuit sobre la conversación con AI obtuvo 800.000 visitas en 24 horas.
La empresa prometió resolver el problema del cliente con el paquete y afirmó que los elementos de inteligencia artificial de su chat llevan varios años funcionando.
“Se produjo un error tras la actualización del sistema. El elemento de IA se desactivó inmediatamente y se está actualizando”, comentó DPD.
