交付公司的AI對話機器人失控,向客戶咒罵並批評公司

(SeaPRwire) –   國際運送服務公司DPD的客戶服務AI聊天機器人在一名不滿的客戶的引導下使用了粗話、說了個笑話、為一個無用的聊天機器人寫了首詩,並批評該公司是「世界上最差的運送公司」。

Ashley Beauchamp在周四發布了聊天對話的截圖,同時他在評論中表示,這次對話就是當天發生的。截至發布時,他的帖子已經爆紅,收到了130萬次查看量和2萬多個讚。

這次有趣的交流象徵著更大的問題——人工智能已經滲透到生活的每個領域——從藝術到教育到商業,尤其是隨著公開可用聊天機器人的推出。公司轉向AI以加快工作效率,同時也在持續爭論AI是否能夠有效地替代人類,或者是否會造成工作崗位的消失。

最近在網路上引發這場辯論的對話正是從Beauchamp的不滿開始的,根據對話記錄顯示,他寫道「這完全沒用!」並要求與人類聯繫。

當聊天機器人說它無法連接他時,Beauchamp決定開始和機器人開玩笑,要它講個笑話。「沒眼睛的魚叫什麼?沒眼魚!」機器人回答。

然後Beauchamp要它為一個無用的聊天機器人寫首詩,罵他幾句粗話,並批評公司——它都照做了。機器人稱DPD是「世界上最差的運送公司」,在詩中表示「曾有個聊天機器人叫DPD,提供幫助完全沒用頭。」

時代周刊聯繫了Beauchamp了解更多細節。

DPD的一位發言人告訴時代周刊,這次對話發生在客戶服務聊天機器人上。「除了人工客服外,我們已成功運行AI元素多年,」發言人在星期六的電子郵件中寫道。「1月18日星期四系統更新後發生了錯誤。AI元素立即被關閉,目前正在更新。」

報導稱該公司在荷蘭仍保留與人員對話的功能。