HaiAI123

全球AI工具精选导航

新热点事件
90
热度指数
新上榜

Hillock 用 SQLite 与 SIMD 超向量替代向量数据库做本地 RAG

2026/10/03 — 10/04 00:11·1 个来源·1 篇报道

事件概览

2026 年 10 月 3 日,在 Reddit 的 LocalLLaMA 板块,一位自称项目作者的网友发帖介绍了 Hillock。作者在开头注明自己是该项目的创建者,并表示此前每次尝试在本机运行本地 RAG,都会撞上同样两个瓶颈。其一是为了切分和解析文档,需要把 Chroma 或其他向量数据库与 8B 模型一起跑起来,这会占掉本应留给主模型的显存;其二是文本块的余弦相似度在拒答难负样本时表现不佳。针对这两点,Hillock 改为用 SQLite 加 SIMD 超向量完成检索,作者称显存占用被控制在 1.2GB 以内。

目前关于该项目的公开信息只有这一篇作者自述的帖子。除显存数字之外,帖中没有给出时间线、第三方复现、评测数据,也没有与其他检索方案的对比结果。Chroma 等向量数据库在文中只是作为被替代的对照出现,作者并未说明 Hillock 支持哪些平台、面向多大规模的数据,或者采用何种许可方式。

AI 综合 1 篇报道生成 · 更新于 31 分钟前

最新进展项目作者称,本地 RAG 常见瓶颈是向量数据库与 8B 模型争抢显存,且文本块的余弦相似度在难负样本拒答上表现不佳。Hillock 改用 SQLite 加 SIMD 超向量做检索,显存占用控制在 1.2GB 以内。

24 小时热度峰值 98 · 3 小时前
24 小时前现在

这件事的报道 点标题看原文

昨天
  1. 项目作者称,本地 RAG 常见瓶颈是向量数据库与 8B 模型争抢显存,且文本块的余弦相似度在难负样本拒答上表现不佳。Hillock 改用 SQLite 加 SIMD 超向量做检索,显存占用控制在 1.2GB 以内。

    想在本机跑 RAG 的读者可参考这套省显存的检索方案。

    Reddit · LocalLLaMAAI 评分 78

同时在说的其他事

热度怎么算的?了解口径

热度按 48 小时内有多少个独立来源在说这件事算:同一个来源发多条只算一次,并按 24 小时半衰期衰减,所以排前面的是很多人在说的事。

本页汇总公开订阅源,标题与摘要由模型整理,版权归原作者所有;重要信息请回原文核对。

爆
讨论快速增加
新
首报 6 小时内
发酵中
讨论仍在增加

回热点事件榜 →