服务发现客户端为什么要缓存服务列表？缓存过期会有什么问题？

简化版

服务发现客户端缓存服务列表，是为了避免每次调用都访问注册中心，提高性能并降低注册中心故障影响。注册中心短暂不可用时，消费者还能基于本地缓存继续调用服务。

缓存的问题是可能过期：已下线实例还在列表里，新实例没有被发现，元数据和权重不及时更新。解决方式是订阅变更、定期全量拉取、版本校验、失败实例避让和合理的缓存过期策略。

详细版

注册中心属于控制面，业务调用不应该强依赖它。消费者通常从注册中心获取服务列表后缓存在本地，请求到来时直接从本地列表中做负载均衡。这样可以降低延迟，也能避免注册中心成为每次调用的瓶颈。

但本地缓存天然有陈旧风险。比如服务实例已经下线，但消费者还没收到通知，就可能继续请求旧地址；新实例上线后消费者缓存没刷新，扩容容量暂时用不上；实例权重、版本、机房标签变化后，本地路由策略可能不准确。

因此服务发现客户端通常结合增量通知和定期全量同步。调用失败时还可以本地临时摘除问题实例，避免在注册中心更新前持续请求坏实例。

完整版教学

一、为什么必须缓存服务列表

如果每次远程调用前都请求注册中心，会带来巨大问题：

1. 调用延迟增加，每次业务请求多一次远程查询。
2. 注册中心压力暴涨，成为全站瓶颈。
3. 注册中心故障会直接导致业务调用失败。
4. 调用链变长，故障排查更复杂。

因此服务发现客户端通常会把实例列表缓存在本地。注册中心负责告诉客户端服务列表，客户端负责用本地列表完成调用。

二、本地缓存提升可用性

当注册中心短暂不可用时，本地缓存可以让存量服务继续互相调用。消费者已经知道哪些实例可用，就不必立即依赖注册中心。

这也是注册中心故障时系统不一定立刻崩溃的关键原因。只要服务实例本身还健康，消费者本地列表还可用，业务请求就能继续走。

不过缓存只能撑住一段时间。时间越长，服务实例真实状态和本地缓存偏差越大，风险也越高。

三、缓存过期会带来哪些问题

常见问题包括：

1. 过期实例：实例已经宕机或下线，消费者还继续调用。
2. 扩容不生效：新实例已经注册，但消费者不知道。
3. 权重不准：流量比例和预期不一致。
4. 灰度错误：实例版本或标签变化未同步。
5. 多机房路由错误：机房元数据变化导致跨区调用异常。

这些问题说明缓存不是越久越好。缓存需要刷新机制和容错机制配合。

四、如何刷新缓存

常见刷新方式有：

1. 订阅通知：注册中心实例变化时通知客户端。
2. 定期拉取：客户端定时拉取全量服务列表。
3. 版本校验：用版本号或摘要判断本地列表是否落后。
4. 失败触发刷新：调用连续失败时主动刷新服务列表。

订阅通知实时性好，但可能丢失；定期拉取延迟更高，但能兜底。因此两者结合更稳。

五、如何处理缓存中的坏实例

即使注册中心还没更新，客户端也可以根据本地调用结果做临时避让。比如某个实例连续超时，就在本地短时间降低权重或摘除，过一段时间再尝试恢复。

这类机制可以减少坏实例对调用成功率的影响。但要避免永久拉黑实例，否则短暂网络抖动后实例恢复了，客户端仍然不用它。

常见做法是设置短 TTL 的失败隔离，或者半开探测恢复。

六、缓存和一致性的权衡

本地缓存提升性能和可用性，但牺牲了瞬时一致性。服务发现通常可以接受短暂不一致，因为调用方还有超时、重试和熔断兜底。

如果某些路由要求非常严格，比如资金链路灰度、强隔离租户路由，就不能完全依赖普通缓存刷新。需要更严格的版本校验、发布确认或集中路由控制。

七、面试回答建议

回答时可以先说缓存的目的：性能和容灾。然后说缓存的风险：过期实例、新实例不可见、元数据不准。最后说解决：订阅通知、定期全量、版本校验、失败实例避让、恢复同步。

这样回答有完整闭环，不会只停留在“为了减少注册中心压力”。

八、常见追问和落地边界

常见追问是缓存应该设置多久。服务发现缓存不能只靠固定 TTL，因为实例变化需要尽快感知。更常见的是本地缓存长期存在，但通过订阅通知、定期全量同步和版本校验来保持新鲜；同时对调用失败的实例做短期本地隔离。

另一个边界是不要让过期缓存静默失控。客户端应该暴露指标，例如当前缓存实例数、最后更新时间、与注册中心断连时长、失败实例数量。这样注册中心异常或缓存长期不刷新时，运维能及时发现。

缓存过期还会影响灰度发布。比如新版本实例已经下线，但某些消费者没有及时刷新服务列表，仍然把少量请求打到旧版本；或者灰度权重已经调整，本地缓存却继续使用旧权重。对于灰度、路由和权限隔离这类敏感场景，服务发现缓存要配合版本号、强制刷新或集中路由策略，不能只靠普通异步通知。

如果缓存长时间无法刷新，客户端应该进入受控状态，而不是无限期相信旧列表。比如超过告警阈值后降低发布动作、触发运维告警，或者对高风险服务拒绝使用过旧列表。缓存是兜底，不是让系统永远脱离注册中心运行。

还有一个容易忽略的问题是缓存刷新和负载均衡状态要联动。服务列表更新后，本地负载均衡器保存的连接池、实例统计、失败计数也要正确处理。比如一个实例已经从注册中心消失，但客户端连接池里仍然保留到它的长连接，就可能继续把请求发过去。因此服务发现缓存更新不仅是替换一个列表，还要影响连接管理、实例状态和路由选择。

九、常见误区与追问

这道题要紧扣「服务发现缓存与陈旧实例」本身回答，不能把它混成泛泛的服务注册与发现套话。面试官通常会沿着“为什么需要、流程怎么走、失败怎么兜、代价是什么”继续追问，所以回答要覆盖注册、心跳、健康检查、实例缓存、路由选择和注册中心故障兜底。

回答层次	要讲清的内容	容易漏掉的边界
核心结论	服务发现缓存降低注册中心压力并提升容错，但会带来实例列表延迟和陈旧实例调用风险	不要停在名词解释
流程机制	客户端缓存实例列表 -> 按缓存执行负载均衡 -> 实例变更产生版本 -> 通知或轮询刷新 -> 失败实例临时剔除 -> 缓存过期后全量校验	要说清触发点、状态变化、确认点和失败兜底
工程取舍	实例 10:00 下线，客户端缓存 30 秒后才刷新，这 30 秒内可能仍把请求打到旧实例	服务发现降低地址治理成本，但会引入缓存陈旧、摘除延迟、注册中心可用性和客户端行为一致性问题

服务发现缓存与陈旧实例 面试拆解：
1. 客户端缓存实例列表
2. 按缓存执行负载均衡
3. 实例变更产生版本
4. 通知或轮询刷新
5. 失败实例临时剔除
6. 缓存过期后全量校验

记忆钩子：先给结论，再拆流程，再讲数字例子和失败边界；回答「服务发现缓存与陈旧实例」时要围绕题目问法收束，不要把相邻概念堆成一段没有重点的名词清单。

• 误区：缓存实例列表一定是坏事。 没有缓存会让注册中心成为每次调用的瓶颈和单点。
• 误区：推送就没有陈旧窗口。 推送也可能丢失、延迟或客户端处理失败，仍要版本校验。
• 误区：调用失败只能等注册中心摘除。 客户端可以根据本地失败率临时摘除或降权实例。
• 追问：如何缩短陈旧窗口？ 长轮询/推送、版本号、较短 TTL 和客户端失败剔除。
• 追问：缓存过短有什么问题？ 会增加注册中心压力，实例频繁变更时还会造成抖动。
• 追问：如何处理恢复实例？ 预热、半开探测、小流量恢复，再逐步加入负载均衡。

十、加强记忆

服务列表缓存像手机通讯录。平时查本地通讯录最快，没网时也能拨已知号码；但号码可能换了，新号码可能没有，所以需要同步和纠错。

缓存让系统更稳，但必须接受并治理短暂陈旧。