大语言模型 人工智能与大模型2026-08-21 20:05:37 提示词工程中容易被忽略的上下文泄露风险 上下文泄露是提示词工程中常被忽视的安全风险，攻击者可通过诱导模型复述系统指令窃取敏感信息。本文从真实案例出发，分析XML标签隔离、最小权限原则、输出过滤等防御策略，并强调将安全测试纳入提示词迭代流程，帮助开发者构建更安全的LLM应用。 阅读全文
智能自动化 大语言模型 流程挖掘 人工智能与大模型2026-08-21 10:10:59 AI原生智能体为什么比传统RPA更擅长处理非结构化数据 AI原生智能体通过大语言模型的语义理解，直接处理非结构化数据，无需依赖固定模板，相比传统RPA在合同解析、邮件分类等场景中准确率更高、维护成本更低。其核心优势在于自主决策和上下文窗口管理，但落地时需应对幻觉、延迟和集成挑战。 阅读全文
大语言模型 显存优化 KV Cache 人工智能与大模型2026-08-16 10:41:30 大语言模型推理时KV Cache显存消耗如何降低 大语言模型推理时KV Cache是显存消耗的主要来源，通过窗口注意力固定缓存上限、INT8与INT4量化压缩缓存体积、稀疏注意力与推测解码降低缓存总量等手段，可在保留98%以上精度的同时压缩KV Cache显存数倍，组合方案能将长上下文处理能力提升至原先的6倍，工程落地建议优先采用量化并叠加PagedAttention。 阅读全文
AI智能体 软件架构 大语言模型 开发实践 人工智能与大模型2026-08-01 20:43:06 AI原生智能体开发中记忆与上下文管理的五个核心设计原则 AI原生智能体开发中，记忆与上下文管理是决定智能体行为一致性的关键，超过70%的项目失败源于记忆管理不当。本文提出五个核心设计原则：分层存储、显式上下文窗口管理、记忆冲突检测与解决、持久化与生命周期管理、可观测性与回滚机制，并结合客服智能体案例给出具体实现方案，帮助开发者构建可靠智能体。 阅读全文
