Hillock 用 SQLite 与 SIMD 超向量替代向量数据库做本地 RAG
2026/10/03 — 10/04 00:11·1 个来源·1 篇报道
事件概览
2026 年 10 月 3 日,在 Reddit 的 LocalLLaMA 板块,一位自称项目作者的网友发帖介绍了 Hillock。作者在开头注明自己是该项目的创建者,并表示此前每次尝试在本机运行本地 RAG,都会撞上同样两个瓶颈。其一是为了切分和解析文档,需要把 Chroma 或其他向量数据库与 8B 模型一起跑起来,这会占掉本应留给主模型的显存;其二是文本块的余弦相似度在拒答难负样本时表现不佳。针对这两点,Hillock 改为用 SQLite 加 SIMD 超向量完成检索,作者称显存占用被控制在 1.2GB 以内。
目前关于该项目的公开信息只有这一篇作者自述的帖子。除显存数字之外,帖中没有给出时间线、第三方复现、评测数据,也没有与其他检索方案的对比结果。Chroma 等向量数据库在文中只是作为被替代的对照出现,作者并未说明 Hillock 支持哪些平台、面向多大规模的数据,或者采用何种许可方式。
AI 综合 1 篇报道生成 · 更新于 31 分钟前
最新进展项目作者称,本地 RAG 常见瓶颈是向量数据库与 8B 模型争抢显存,且文本块的余弦相似度在难负样本拒答上表现不佳。Hillock 改用 SQLite 加 SIMD 超向量做检索,显存占用控制在 1.2GB 以内。
- 热度指数
- 90
- 独立来源
- 1
- 报道数
- 1
- 首报
- 4 小时前
这件事的报道 点标题看原文
项目作者称,本地 RAG 常见瓶颈是向量数据库与 8B 模型争抢显存,且文本块的余弦相似度在难负样本拒答上表现不佳。Hillock 改用 SQLite 加 SIMD 超向量做检索,显存占用控制在 1.2GB 以内。
想在本机跑 RAG 的读者可参考这套省显存的检索方案。
Reddit · LocalLLaMAAI 评分 78
同时在说的其他事
- 552发酵中Apple 收紧 macOS 全盘访问权限,防范 AI Agent 风险9 个来源
- 392英伟达发布 64GB 版 DGX Spark,售价 4999 美元8 个来源
- 376发酵中Meta 开源 Muse Gadgets 固件与 SDK6 个来源
- 289Opus 5.5 与 GPT-6 Sol 同日发布,每任务成本谁更低4 个来源
- 264Anthropic 计划感恩节前上市,目标 11 月 9 日5 个来源
- 249爆Aleph Alpha 发布 Kolibri-1:78B 参数 MoE,支持 1M 上下文3 个来源
热度怎么算的?了解口径收起
热度按 48 小时内有多少个独立来源在说这件事算:同一个来源发多条只算一次,并按 24 小时半衰期衰减,所以排前面的是很多人在说的事。
本页汇总公开订阅源,标题与摘要由模型整理,版权归原作者所有;重要信息请回原文核对。
- 爆
- 讨论快速增加
- 新
- 首报 6 小时内
- 发酵中
- 讨论仍在增加
