LLM可靠性 RAG工程 幻觉治理 AI工程化 人工智能与大模型2026-10-21 03:40:25 为什么RAG的检索增强没能根除LLM幻觉 RAG已成为缓解LLM幻觉的主流架构，但Vectara研究数据显示其幻觉率反而高于基础模型。本文从四种幻觉类型拆解检索增强未能根除幻觉的原因，给出结构化输出约束、置信度评估与人工审批流三层防线设计，并介绍tool calling替代传统RAG的实践路径，全面阐述如何以工程手段提升LLM可靠性。 阅读全文
AI模型 幻觉治理 工程实践 人工智能与大模型2026-07-25 14:21:43 大模型为什么会产生幻觉 从数据到推理的剖析 大模型幻觉源于训练数据噪声、架构记忆局限和推理缺乏事实约束，典型表现包括事实性、忠实性和逻辑性三类错误。通过置信度检测、一致性采样、检索增强生成（RAG）等技术，可将幻觉率降低60%以上。本文系统剖析成因、评估指标与缓解策略，为AI工程化提供可操作指南。 阅读全文
