Reddit 用户用两张 3090 并发跑 8 个 25 万上下文 Agent

2026 年 11 月 2 日，Reddit 的 LocalLLaMA 版块出现了一篇帖子。发帖人称自己在两张 3090 上并发运行 8 个 Agent，每个上下文 250K，总吞吐约 600+ tok/s，并放出了界面录屏。

他表示先试过 TokenGate 那类前置剪枝长上下文的思路，单个问题还行，但 Agent 会不断追问，被剪掉的 token 召不回来，代码召回明显下降，于是换了做法。发帖人同时表示，自己欢迎被指出认识有偏差或信息有误，但认为这些发现值得分享。

目前公开材料仅此一篇，帖中写到的换用做法在原文片段中被截断，这套方法的更多细节，以及 8 个 250K 上下文 Agent 的总内存占用是否真能压在两张 3090 的显存之内，材料中都无从核对，也没有关于此事的后续报道。