客服 AI 幻覺 6 例:根因多在輸入而非模型
2026/11/22 — 11/22 03:25·1 個來源(全部)·1 篇報道(全部)
核心速覽 (Key Takeaways)
- 作者在生產客服系統中記錄六次幻覺,包括承諾未批准退款、引用不存在政策。
- 多數根因在輸入而非模型:長工單整段丟給模型,模型找不到關鍵資訊就寫出相反說法。
- 修復辦法是先抽成帶出處的事實清單而非喂原始長對話。
事件背景與詳細解讀
2026 年 11 月 22 日 03:10,DEV Community 的 AI 欄目刊發一篇文章,題為《客服 AI 幻覺的 6 個真實案例,根因多在輸入而非模型》。作者在一套為電動腳踏車品牌服務、以八種語言處理郵件和線上客服的生產系統中,記錄到六次幻覺,具體表現包括承諾未經任何人批准的退款、引用並不存在的政策,以及要求客戶重新發送其此前已提交過的影片。
作者歸納後認為,多數幻覺的根因在輸入而非模型:其中一例的工單共 25 輪,中間夾帶著一條退款承諾,系統把整段原始對話直接交給模型,模型無法從中定位關鍵資訊,便給出了與事實相反的答覆。針對這類情況,文章給出的修復辦法是不再向模型投餵原始長對話,而是先將其抽取為帶出處的事實清單,再據此作答。目前公開報道僅此一篇,事件停留在作者基於生產系統實踐進行復盤並給出上述修復方案的階段。
AI 綜合 1 篇報道生成 · 更新於 7 小時前
- 熱度指數
- 81
- 全部來源
- 1
- 全部報道
- 1
- 首報
- 8 小時前
這件事的報道 點標題看原文
作者在一套為電動腳踏車品牌服務、用八種語言處理郵件和線上客服的生產系統裡記錄了六次幻覺,包括承諾沒人批准過的退款、引用不存在的政策。多數根因在輸入而非模型:一段 25 輪、中間夾著退款承諾的工單被整段丟給模型,模型找不到關鍵資訊就寫出了相反的說法。修復辦法是不再喂原始長對話,而是先抽成帶出處的事實清單。
做客服 Agent 的可以直接對照排錯
DEV Community · AIAI 評分 58
同時在說的其他事
- 熱度指數 1143發酵中Anthropic 上市首周市值達 1.6 萬億美元,IPO 募資 935 億美元21 個來源
- 熱度指數 1011Anthropic 數學家稱與 Claude 完成廣義黎曼猜想形式化21 個來源
- 熱度指數 622Anthropic 行使超額配售權,IPO 募資達 935 億美元20 個來源
- 熱度指數 596發酵中Thinking Machines Lab 開源 Inkling 2 Mini,模型卡推薦 32GB 記憶體10 個來源
- 熱度指數 490發酵中SEC 調查輝達會計問題,股價連跌市值縮水9 個來源
熱度怎麼算的?瞭解口徑收起
熱度按 48 小時內有多少個獨立來源在說這件事算:同一個來源發多條只算一次,並按 24 小時半衰期衰減,所以排前面的是很多人在說的事。
本頁彙總公開訂閱源,標題與摘要由模型整理,版權歸原作者所有;重要資訊請回原文核對。如權利人認為相關標題或摘要侵權,請通過頁尾聯絡郵箱提供具體頁面與權利依據,我們核實後會及時刪除或替換。
- 爆
- 討論快速增加
- 新
- 首報 6 小時內
- 發酵中
- 討論仍在增加

