向量检索 3 篇文章

介绍向量检索在嵌入式设备上的索引结构选型、内存优化与相似度计算实践,帮助开发者在资源受限环境中实现语义级媒体检索。

封面
RAG技术 检索优化 向量检索

RAG系统检索效果差的五个常见原因与排查方法

RAG系统检索效果差的五个常见原因包括文档分块不合理、向量模型不匹配、检索策略单一、重排序缺失和上下文压缩不足。通过检查分块粒度、评估向量模型、实施混合检索、接入重排序器以及压缩上下文,可有效提升检索质量。据实践数据,重排序可提升Recall@5约25%,上下文压缩后答案忠实度从0.72提升至0.89。

阅读全文
封面
RAG 重排序 向量检索 混合检索

重排序决定RAG检索质量的上限

重排序决定RAG系统的检索质量上限,向量召回只能完成粗筛而交叉编码器实现高精度排序。据评测引入重排序后答案准确率平均提升17个百分点,远高于更换大模型带来的收益。本文对比交叉编码器、大模型生成式排序和BM25三种方案的性能差异,提供完整代码实现及生产环境调优参数。约60%的答案错误可追溯到排序错位而非生成缺陷,重排序是ROI最高的优化环节。

阅读全文