大模型安全 红队测试 模型供应链 网络安全与合规2026-08-25 18:00:42 大模型从开发到上线 安全防线要在五个环节层层加固 大模型安全防线需覆盖提示词工程、数据生命周期、模型部署、API生态与运行时监控五大环节。提示词注入是首要威胁，训练数据隐私泄露需从源头治理，模型权重须防篡改窃取，API插件须默认拒绝访问，红队演练是上线前检测漏洞的核心手段。建立纵深防御体系才能有效抵御针对大模型的各类安全攻击。 阅读全文
大模型安全 提示注入 安全检测 网络安全与合规2026-08-25 17:36:02 大语言模型提示注入攻击的三种检测方法 提示注入攻击位列LLM应用安全风险之首，本文总结三种检测方法：基于规则的静态检测、基于模型的分类检测和基于动态上下文的安全评估，对比各自优劣并给出构建纵深防御体系的实践建议。 阅读全文
大模型安全 质量评估 RAG优化 工程实践 软件测试与质量2026-08-16 11:35:41 LLM幻觉检测的三种主流方法对比与选型 幻觉检测是评估大语言模型可靠性的核心手段，生产环境没有通用方案，业界普遍采用多信号组合检测策略。文章对比事实一致性比对、自一致性校验与内在不确定性分析三条主流技术路线的检测原理、适用边界与工程开销，并给出RAG系统下的引用溯源验证方案，为搭建多层幻觉拦截体系提供选型依据。 阅读全文
AI安全 大模型安全 提示注入 网络安全与合规2026-07-25 14:12:02 提示注入攻击如何瓦解大语言模型的安全防线 提示注入攻击通过精心构造的输入诱导大语言模型输出有害信息或非授权操作。分析表明，直接注入与间接注入两种类型需要不同的防御策略。对比输入过滤、输出验证、权限最小化等方法，发现多层防御组合可将攻击成功率降低至5%以下，而单一输入过滤仅能拦截约70%的攻击。结合工程实践代码示例，给出纵深防御建议。 阅读全文
