ChromaDB 本地向量库踩坑记录

给博客做 AI 问答，向量库选型时我放弃了所有云端方案，选择在本机跑 ChromaDB——文章只有几十篇，这个量级杀鸡不需要用牛刀。

为什么不用云端向量库

云端向量库按读写计费还有网络延迟，而博客知识库总共不到 200 个分块，本地 SQLite 级别的方案就足够。ChromaDB 常驻内存约 200MB，2G 内存加 2G Swap 完全扛得住。

持久化与内存

import chromadb

client = chromadb.PersistentClient(path="./chroma_data")
collection = client.get_or_create_collection("blog")
collection.add(documents=chunks, ids=ids)

三个坑

• Embedding 模型要选中文友好的，否则检索命中率直接腰斩
• 服务重启后首次查询慢，需要预热：启动时跑一次 dummy query
• 文章删除后记得同步删除向量，否则会检索到「幽灵文章」