行業動態
持平
客服 Agent 安全修復被一行程式碼破壞,CI 攻擊測試攔住
2026/11/20 — 11/21 00:19·1 個來源(全部)·1 篇報道(全部)
核心速覽 (Key Takeaways)
- 作者把一週內的安全修復整合進一個客服 Agent:提示詞去除金鑰、每個工具做策略檢查、不可信網頁標記汙染、限制檔案路徑並校驗輸出。
- 底層模型仍可被輕易誘導,但應用層面擋住了攻擊;
- 一次重構刪掉折扣上限檢查後,CI 中的攻擊測試失敗,紅測阻止了合併。
事件背景與詳細解讀
2026-11-20 23:55,DEV Community 的 AI 欄目釋出了一篇實驗記錄。作者把一週內的多項安全修復整合進一個客服 Agent,措施包括把金鑰從提示詞中移除、為每個工具加入策略檢查、對不可信網頁內容做汙染標記、限定檔案路徑範圍,並校驗模型輸出。文章指出,底層模型仍可被輕易誘導,但應用層面的防護足以擋住攻擊。
隨後在一次看似無害的重構中,折扣上限檢查的一行程式碼被刪除,程式碼評審未能發現這一改動,此前已修復的 100% 折扣漏洞隨之重新出現。最終攔截該問題的是 CI 中的攻擊測試,測試失敗使合併被阻止,這篇記錄也由此說明安全修復會隨程式碼變動而退化的現象。目前事件停留在測試攔截合併、待修復重新補上的階段,材料未提供後續進展。
AI 綜合 1 篇報道生成 · 更新於 1 天前
24 小時熱度熱度指數 37 · 峰值 73 · 23 小時前
24 小時前現在
- 熱度指數
- 37
- 全部來源
- 1
- 全部報道
- 1
- 首報
- 1 天前
這件事的報道 點標題看原文
11月20日
作者把一週內的安全修復整合進一個客服 Agent:提示詞去除金鑰、每個工具做策略檢查、不可信網頁標記汙染、限制檔案路徑並校驗輸出。底層模型仍可被輕易誘導,但應用層面擋住了攻擊;一次重構刪掉折扣上限檢查後,CI 中的攻擊測試失敗,紅測阻止了合併。
展示如何用 CI 攻擊測試防止安全修復隨時間失效
DEV Community · AIAI 評分 52
同時在說的其他事
- 熱度指數 1143發酵中Anthropic 上市首周市值達 1.6 萬億美元,IPO 募資 935 億美元21 個來源
- 熱度指數 1011Anthropic 數學家稱與 Claude 完成廣義黎曼猜想形式化21 個來源
- 熱度指數 622Anthropic 行使超額配售權,IPO 募資達 935 億美元20 個來源
- 熱度指數 596發酵中Thinking Machines Lab 開源 Inkling 2 Mini,模型卡推薦 32GB 記憶體10 個來源
- 熱度指數 490發酵中SEC 調查輝達會計問題,股價連跌市值縮水9 個來源
熱度怎麼算的?瞭解口徑收起
熱度按 48 小時內有多少個獨立來源在說這件事算:同一個來源發多條只算一次,並按 24 小時半衰期衰減,所以排前面的是很多人在說的事。
本頁彙總公開訂閱源,標題與摘要由模型整理,版權歸原作者所有;重要資訊請回原文核對。如權利人認為相關標題或摘要侵權,請通過頁尾聯絡郵箱提供具體頁面與權利依據,我們核實後會及時刪除或替換。
- 爆
- 討論快速增加
- 新
- 首報 6 小時內
- 發酵中
- 討論仍在增加

