外观
如何理解综合场景:缓存雪崩与搜索集群变慢?
标准回答
教学现象:大量热点缓存同时过期,API 延迟与搜索请求量一起升高,重试继续增加负载。先检查缓存错误率和失效时间、请求分布、后端队列与资源,确认是命中下降、搜索自身故障还是两者相互放大。
应急措施可以是限制并发与重试、对允许的内容受控提供旧值、合并同键请求,并保护核心端点的预算。用户权限和撤销状态不能为了加快响应被跳过。扩应用实例之前先确认下游是否还有容量,否则会增加连接和请求压力。
恢复后调整过期分布、回填协议、批量更新和容量余量,建立带缓存失效的压测场景。记录错误量、恢复时间和数据新鲜度影响,不仅说明“加了缓存”或“重启后恢复”。这些措施是教学处置方案,不是声称历史上发生过该次事故。
追问与回答
缓存恢复后仍然很慢
后端可能仍在消化积压、GC 或磁盘负载,重试也可能继续;观察队列消退而非只看缓存连通性。
如何避免所有请求等待同一回填锁
设置有界等待、失败释放和可接受的回退,锁只协调同键工作,不应扩大为全局串行。
易混淆点
- 在下游饱和时无限增加应用并发。
内容来源
- Android 与 AI 工程 Wiki · 原条目
q208