Reddit 使用者用兩張 3090 併發跑 8 個 25 萬上下文 Agent

2026 年 11 月 2 日，Reddit 的 LocalLLaMA 版塊出現了一篇帖子。發帖人稱自己在兩張 3090 上併發執行 8 個 Agent，每個上下文 250K，總吞吐約 600+ tok/s，並放出了介面錄屏。

他表示先試過 TokenGate 那類前置剪枝長上下文的思路，單個問題還行，但 Agent 會不斷追問，被剪掉的 token 召不回來，程式碼召回明顯下降，於是換了做法。發帖人同時表示，自己歡迎被指出認識有偏差或資訊有誤，但認為這些發現值得分享。

目前公開材料僅此一篇，帖中寫到的換用做法在原文片段中被截斷，這套方法的更多細節，以及 8 個 250K 上下文 Agent 的總記憶體佔用是否真能壓在兩張 3090 的視訊記憶體之內，材料中都無從核對，也沒有關於此事的後續報道。