HaiAI123

全球AI工具精选导航

新行业动态
93
热度指数
新上榜

Delta 推理引擎 v0.93 发布,单卡 3090 可跑 DeepSeek-V4.1-Flash

2026/11/06 — 11/06 03:19·1 个来源(全部)·1 篇报道(全部)

核心速览 (Key Takeaways)

  • Delta Inference Engine 更新至 v0.93,新增 64/96/128 GB 内存支持并完整兼容新版 Unsloth 量化。
  • 在 192 GB 内存下,IQ2 量化仍保持 41 tok/s,首个 token 生成时间缩短约 40%。
  • 该版本还加入 EXL3 支持、基础多卡能力和公开 CI。

事件背景与详细解读

2026 年 11 月 6 日 02:23,Reddit 的 LocalLLaMA 板块发布了一条帖子,宣布 Delta 推理引擎更新至 v0.93。帖子称此次更新新增对 64/96/128 GB 内存的支持,并完整支持新版 Unsloth 量化;在 192 GB 内存下,Unsloth IQ2 量化仍保持 41 tok/s 的生成速度,首 token 生成时间缩短约 40%。

此外,v0.93 新增 EXL3 支持、基础多卡能力与公开 CI。发帖者称此次更新回应了用户对更多功能与更多基准测试的请求,并表示相比旧的默认模型,在其 99 道题目的基准测试中……帖子内容在此处截断,测试的具体结果材料中未给出。

目前材料中仅有这一篇报道,尚无后续进展。

AI 综合 1 篇报道生成 · 更新于 2 小时前

相关 AI 工具

24 小时热度热度指数 93
刚上榜,走势正在积累
24 小时前现在

这件事的报道 点标题看原文

今天
  1. Delta Inference Engine 更新至 v0.93,新增对 64/96/128 GB 内存的支持,并完整支持新版 Unsloth 量化。在 192 GB 内存下,IQ2 量化仍保持 41 tok/s,首 token 生成时间缩短约 40%;此外,v0.93 新增 EXL3 支持、基础多卡能力与公开 CI。

    想知道单张 3090 能跑多大的模型,这里有具体数字。

    Reddit · LocalLLaMAAI 评分 60

同时在说的其他事

热度怎么算的?了解口径

热度按 48 小时内有多少个独立来源在说这件事算:同一个来源发多条只算一次,并按 24 小时半衰期衰减,所以排前面的是很多人在说的事。

本页汇总公开订阅源,标题与摘要由模型整理,版权归原作者所有;重要信息请回原文核对。如权利人认为相关标题或摘要侵权,请通过页尾联系邮箱提供具体页面与权利依据,我们核实后会及时删除或替换。

爆
讨论快速增加
新
首报 6 小时内
发酵中
讨论仍在增加

回 AI 行业动态榜 →