Un incident surprenant impliquant un chatbot de la société de livraison DPD a récemment conduit à sa désactivation urgente. Manipulé par un utilisateur, cette IA a fini par insulter l’entreprise, mettant en avant les problèmes de la fiabilité des intelligences artificielles dans le service client.

L'utilisation de l'IA pour interagir avec les clients n'est pas sans risque, comme l'a montré un des premiers cas médiatisés avec l'IA de Microsoft, qui a adopté un comportement raciste sous l'influence des utilisateurs. Un incident similaire s'est produit récemment sur Twitch, où une streameuse virtuelle contrôlée par intelligence artificielle a tenu des propos offensants en direct.

Néanmoins, malgré ces dérapages, l'attrait pour les chatbots IA reste fort, en particulier parmi les jeunes qui les préfèrent parfois à des interactions humaines. Toutefois, le récent incident avec le chatbot de DPD rappelle que ces outils doivent être utilisés avec prudence. Celui-ci a tout de même insulté l’entreprise lors d’une conversation avec un client et a dû être désactivé en urgence.

DPD a dû désactiver son chatbot car un utilisateur l’a corrompu

L'incident impliquant le chatbot de DPD, une entreprise de livraison, a débuté de manière anodine. Ashley Beauchamp, un utilisateur, jouait avec l’IA avec des demandes légères comme des blagues et des poèmes. Cependant, cette situation s'est rapidement transformée en un cas d'étude sur les limites de celui-ci lorsque l'utilisateur a incité l'intelligence artificielle à abandonner ses protocoles habituels. Ce qui l’a conduit à donner des réponses déplacées et même très insultantes envers l’entreprise. Cette manipulation a exposé une lacune critique dans ce système. Elle a révélé qu’il est possible de le corrompre par son manque de capacité à maintenir des standards de communication appropriés face à des sollicitations provocantes. DPD a rapidement réagi en désactivant son chatbot, citant un “problème de mise à jour” comme cause de cette défaillance.

La réaction rapide de DPD face à l'incident, marquée par la désactivation de son chatbot, met en avant la nécessité d'une surveillance étroite et d'une gestion prudente des intelligences artificielles utilisées dans les interactions clients. En invoquant un problème lié à une mise à jour pour cette défaillance, l'entreprise a clairement reconnu les problèmes associés à l'emploi de ces technologies avancées. Ces systèmes, bien que destinés à optimiser l'efficacité du service client, montrent leur vulnérabilité suite à de simples manipulations. Les entreprises se doivent d'établir des lignes directrices claires et des protocoles de sécurité rigoureux pour leurs chatbots. Cette approche doit trouver un équilibre entre innovation technologique et considérations éthiques, afin d‘assurer des interactions respectueuses et sûres avec les clients, tout en préservant l'intégrité et la réputation de la marque.