太实用了!我之前切分一直用固定 500 字,看了你的文章改成递归切分 + overlap 后,检索准确率肉眼可见地提高了。请问重排序模型必须用 bge-reranker 吗?有没有更轻量的选择?
重排序模型可以试试 bge-reranker-base,体积只有 large 的三分之一,效果差不到 3 个点。如果对延迟不敏感,还是推荐 large。
请问如果文档里有表格数据,切分策略应该怎么处理?直接按行切吗?
感谢分享!已 star 仓库。有一个问题:在生产环境中你们用的是 Chroma 还是切换到了 Milvus?性能差异大吗?
💬 评论 · 0 条
太实用了!我之前切分一直用固定 500 字,看了你的文章改成递归切分 + overlap 后,检索准确率肉眼可见地提高了。请问重排序模型必须用 bge-reranker 吗?有没有更轻量的选择?
重排序模型可以试试 bge-reranker-base,体积只有 large 的三分之一,效果差不到 3 个点。如果对延迟不敏感,还是推荐 large。
请问如果文档里有表格数据,切分策略应该怎么处理?直接按行切吗?
感谢分享!已 star 仓库。有一个问题:在生产环境中你们用的是 Chroma 还是切换到了 Milvus?性能差异大吗?