社区实现在 12GB 显存设备上运行无限制版 DeepSeek
2026/11/02 — 11/03 00:16·1 个来源(全部)·1 篇报道(全部)
核心速览 (Key Takeaways)
- 社区通过修改 DeepSeek-V4.1-Flash-1017 的密集张量移除了模型拒答限制,并结合 Strata Engine 实现了在 12GB 显存及 64GB 内存 SSD 方案上的本地量化运行。
事件背景与详细解读
2026 年 11 月 2 日 23:52,Reddit 的 LocalLLaMA 社区发布了一条消息:社区成员在 12GB 显存设备上运行了被其称为「无限制」的 DeepSeek-V4.1-Flash。具体做法是以 ISTA-DASLab 制作的 DeepSeek-V4.1-Flash-1017 GSQ-RCO 量化版本为基础(即人们在 Strata Engine 中搭配 12GB GPU、把 Engram 表放在 SSD 上运行的那套版本),移除了模型的拒答限制。
作者称只改动了每个文件中的 82 个密集张量,包括 attention output、shared expert down proj 和 Engram value proj;384 个 routed experts 与其原始版本逐字节相同,GSQ 取整方式因此保留,文件头和文件大小也没有变化。报告给出的实测数字是:在思考模式开启的情况下,拒答率从 85% 降到 0%;运行环境为 12GB GPU VRAM,加上 64GB RAM 和 SSD,通过 Strata Engine 完成本地量化运行,共涉及 3 个尺寸的版本。
截至目前,事件只有这一条社区消息,尚无其他报道或官方回应。
AI 综合 1 篇报道生成 · 更新于 3 小时前
相关 AI 工具
- 热度指数
- 88
- 全部来源
- 1
- 全部报道
- 1
- 首报
- 5 小时前
这件事的报道 点标题看原文
社区通过修改 DeepSeek-V4.1-Flash-1017 的密集张量移除了模型拒答限制,并结合 Strata Engine 实现了在 12GB 显存及 64GB 内存 SSD 方案上的本地量化运行。
展示了如何在消费级 12GB 显存显卡上部署并修改开源模型的去限制量化版本。
Reddit · LocalLLaMAAI 评分 65
同时在说的其他事
- 热度指数 501DeepSeek 开源 Super-agent 主动编程并提 PR10 个来源
- 热度指数 57豆包工作接入 DeepSeek 新版模型,Token 用量降逾 50%1 个来源
- 热度指数 184新DeepSeek 为 Harness 推出 Creator Mode 自建插件2 个来源
- 热度指数 1312爆Anthropic 更新招股书披露 8954 亿美元算力承诺,IPO 临近15 个来源
- 热度指数 930爆Marvell 将以 1150 亿美元全股票收购光器件厂商 Lumentum11 个来源
热度怎么算的?了解口径收起
热度按 48 小时内有多少个独立来源在说这件事算:同一个来源发多条只算一次,并按 24 小时半衰期衰减,所以排前面的是很多人在说的事。
本页汇总公开订阅源,标题与摘要由模型整理,版权归原作者所有;重要信息请回原文核对。如权利人认为相关标题或摘要侵权,请通过页尾联系邮箱提供具体页面与权利依据,我们核实后会及时删除或替换。
- 爆
- 讨论快速增加
- 新
- 首报 6 小时内
- 发酵中
- 讨论仍在增加

