HaiAI123

全球AI工具精選導航

行業動態
持平

客服 Agent 安全修復被一行程式碼破壞,CI 攻擊測試攔住

2026/11/20 — 11/21 00:19·1 個來源(全部)·1 篇報道(全部)

核心速覽 (Key Takeaways)

  • 作者把一週內的安全修復整合進一個客服 Agent:提示詞去除金鑰、每個工具做策略檢查、不可信網頁標記汙染、限制檔案路徑並校驗輸出。
  • 底層模型仍可被輕易誘導,但應用層面擋住了攻擊;
  • 一次重構刪掉折扣上限檢查後,CI 中的攻擊測試失敗,紅測阻止了合併。

事件背景與詳細解讀

2026-11-20 23:55,DEV Community 的 AI 欄目釋出了一篇實驗記錄。作者把一週內的多項安全修復整合進一個客服 Agent,措施包括把金鑰從提示詞中移除、為每個工具加入策略檢查、對不可信網頁內容做汙染標記、限定檔案路徑範圍,並校驗模型輸出。文章指出,底層模型仍可被輕易誘導,但應用層面的防護足以擋住攻擊。

隨後在一次看似無害的重構中,折扣上限檢查的一行程式碼被刪除,程式碼評審未能發現這一改動,此前已修復的 100% 折扣漏洞隨之重新出現。最終攔截該問題的是 CI 中的攻擊測試,測試失敗使合併被阻止,這篇記錄也由此說明安全修復會隨程式碼變動而退化的現象。目前事件停留在測試攔截合併、待修復重新補上的階段,材料未提供後續進展。

AI 綜合 1 篇報道生成 · 更新於 1 天前

updream
24 小時熱度熱度指數 37 · 峰值 73 · 23 小時前
24 小時前現在

這件事的報道 點標題看原文

11月20日
  1. 作者把一週內的安全修復整合進一個客服 Agent:提示詞去除金鑰、每個工具做策略檢查、不可信網頁標記汙染、限制檔案路徑並校驗輸出。底層模型仍可被輕易誘導,但應用層面擋住了攻擊;一次重構刪掉折扣上限檢查後,CI 中的攻擊測試失敗,紅測阻止了合併。

    展示如何用 CI 攻擊測試防止安全修復隨時間失效

    DEV Community · AIAI 評分 52

同時在說的其他事

熱度怎麼算的?瞭解口徑

熱度按 48 小時內有多少個獨立來源在說這件事算:同一個來源發多條只算一次,並按 24 小時半衰期衰減,所以排前面的是很多人在說的事。

本頁彙總公開訂閱源,標題與摘要由模型整理,版權歸原作者所有;重要資訊請回原文核對。如權利人認為相關標題或摘要侵權,請通過頁尾聯絡郵箱提供具體頁面與權利依據,我們核實後會及時刪除或替換。

爆
討論快速增加
新
首報 6 小時內
發酵中
討論仍在增加

回 AI 行業動態榜 →