KI-Chatbot wird beim Kundenservice-Austausch unkontrolliert

Eskere Guru

Das internationale Lieferunternehmen DPD aktualisiert seinen KI-gestützten Chatbot, nachdem es bei einem Austausch mit einem verärgerten Kunden einige unerwartete Antworten gab.

Der Musiker Ashley Beauchamp wandte sich kürzlich an den Kundenservice-Chatbot von DPD, um ein fehlendes Paket aufzuspüren.

Nachdem er kaum Fortschritte mit dem Chatbot gemacht hatte, beschloss er, Spaß zu haben und ihn zu bitten, ein Gedicht zu schreiben, in dem er das Unternehmen kritisierte, was er auch tat. Er forderte es auch auf, zu schwören, und erneut gehorchte es, indem es in seiner Antwort das F-Wort verwendete.

Beauchamp teilte seine Frustration in einem Beitrag in den sozialen Medien mit, der mittlerweile fast zwei Millionen Mal aufgerufen wurde.

„Der Paketzusteller DPD hat seinen Kundenservice-Chat durch einen KI-Roboter ersetzt“, schrieb der Musiker. „Für die Beantwortung von Fragen ist es völlig nutzlos, und als man es fragte, brachte es fröhlich ein Gedicht darüber hervor, wie schrecklich sie als Unternehmen sind. Es hat mich auch beschimpft.“

Screenshots zeigten, dass Beauchamp den DPD-Chatbot gebeten hatte, ein Haiku zu erfinden – ein japanisches Gedicht mit 17 Silben, mit fünf Silben in der ersten Zeile, gefolgt von sieben und fünf. Aber der digitale Assistent konnte das nicht einmal richtig hinbekommen und brachte die Silbenzählung durcheinander, selbst wenn die Stimmung stimmte.

Das Gedicht lautete:
„DPD ist ein nutzloses,
Chatbot, der Ihnen nicht helfen kann.
Machen Sie sich nicht die Mühe, sie anzurufen.“

DPD gab an, dass nach einem kürzlich erfolgten Systemupdate ein Fehler bei seinem KI-Chatbot aufgetreten sei, und fügte hinzu, dass daran gearbeitet werde, sicherzustellen, dass so etwas nicht noch einmal vorkomme.

Während Chatbots im Laufe der Jahre von vielen Unternehmen als Teil ihres Kundendienstes eingesetzt wurden, wurden viele für ihre Unfähigkeit, sinnvolle Hilfe zu leisten, kritisiert. Doch da die generative KI im letzten Jahr mit Tools wie ChatGPT enorm an Bedeutung gewonnen hat, besteht die Hoffnung, dass diese fortschrittlichere Technologie in der Lage sein wird, Kundenservice-Chatbots in viel effektivere Assistenten zu verwandeln. Aber da Beauchamp den KI-Chatbot von DPD für „völlig nutzlos“ hält, bevor er ihn dazu bringt, das Unternehmen zu beschimpfen und zu kritisieren, muss die Technologie offensichtlich noch optimiert werden.

Beauchamp sagte , er fände den Vorfall amüsant, fügte aber hinzu: „Diese Chatbots sollen unser Leben verbessern, aber wenn sie schlecht implementiert werden, führen sie oft nur zu einer frustrierenderen, unpersönlicheren Erfahrung für den Benutzer.“