高并发访问下的缓存与连接池调优实践

高并发场景的性能问题通常不是单点配置不足，而是缓存与连接池的配合失衡：命中率下降把压力传导到数据库，连接等待又拖长响应时间。实践按观察指标、定位瓶颈、调整配置、复测验证四步推进，调优结论以数据为准。

场景与观察指标

场景是访问量阶段性上升后响应时间波动：访问高峰的响应时间明显高于平峰，但处理器与内存占用都不高。观察指标按四类采集：请求速率与响应时间、缓存命中与淘汰、连接活跃与等待、单次查询耗时。

• 请求指标：速率与分位延迟，用于判断波动区间。
• 缓存指标：命中率与淘汰数量，用于判断缓存是否失效过快。
• 连接指标：活跃数与等待时间，用于判断是否存在排队。
• 查询指标：单次耗时分布，用于定位慢查询。

定位瓶颈的顺序

定位按由外向内顺序执行：先看请求指标确认波动范围，再看缓存命中判断是否有回源压力，接着看连接等待确认是否排队，最后看单次查询耗时定位具体语句。顺序明确了排查不会来回跳跃。

本次定位的结论是两处叠加：部分列表页缓存生效时间过短导致频繁回源，连接配额在高峰时段被长耗时查询占用。两处问题同时出现，单独调整任一项都无法消除波动。

调整动作与取舍

调整分两步执行：先按页面类型细化缓存有效期，把低频变化页面的缓存延长、把高频更新页面维持短周期；再按用途拆分连接配额，为高耗时查询单独划定配额，避免占满通用配额。

取舍原则是缓存不承担正确性：计数与统计类数据以数据库为准，缓存仅用于加速，过期或被清理不影响数据正确性，因此有效期调整的风险仅限于实时性感知。

复测验证与基线留存

复测按同一压测场景执行，对比调整前后的分位延迟与吞吐量，同时观察连接等待与缓存命中率是否回到预期区间。复测数据与调整动作一并留档，形成该场景的性能基线。

基线的作用是后续判断依据：版本升级或内容量增长后按同一场景复测，与基线比对即可判断是否出现性能回退，避免每次都从零排查。

调优后的日常观察

调优不是一次性动作，调整完成后进入日常观察：按天记录分位延迟与峰值请求，按周核对缓存与连接的水位变化。观察数据的用途是提前发现趋势，例如访问量缓慢上升时先看缓存收益是否下降，再判断是否需要调整配额。

观察口径与压测场景保持对应：压测覆盖首页、列表页、详情页与接口四类路径，日常观察按同一分类统计，两套数据可以直接比对。口径一致后，压测结论与线上表现不会互相矛盾。

容量调整按观察结论执行：调整前记录当前水位，调整后按同一观察窗口复测，确认变化符合预期再进入下一轮观察。调整记录与数据一并留档，为后续容量规划提供依据。

可复用要点

1. 指标按请求、缓存、连接、查询四类采集，观察顺序由外向内。
2. 缓存有效期按页面更新频率分档，连接配额按用途拆分。
3. 调整后按同一场景复测并留存基线，性能回退按基线判断。