RevenueCat 的缓存技术与实践

RevenueCat 通过广泛使用缓存技术来提升其产品 API 的可用性和性能，同时确保数据一致性。该公司分享了其处理超过 12 亿次每日 API 请求的缓存技术细节，并开源了一款具有多种高级功能的 Memcache 客户端库。

缓存的重要性

缓存是一种通过快速检索数据来替代从数据库获取或实时计算的常见解决方案。在现代分布式架构中，缓存技术的核心目标是实现低延迟、数据可用性、新鲜度和一致性。

RevenueCat 的缓存策略

1. 低延迟优化：

   • 通过连接池减少客户端库与缓存服务器之间的 TCP 握手开销。
   • 使用低超时设置并避免客户端重试，以防止缓存可用性问题。
   • 在缓存服务器不可用时，客户端将标记服务器为不可用并回退到数据源。

2. 缓存基础设施规划：

   • 考虑缓存服务器数量和规模，以最小化故障影响。
   • 特别关注小型缓存服务器在热点键分布中的脆弱性。

3. 缓存管理技术：

   • 使用备用池（mirror pool）和热点键专用池（gutter pool）来应对缓存故障。
   • 采用键拆分、本地缓存、重新缓存、过时或租赁策略来避免热点键的“惊群效应”。

4. 缓存集群迁移与扩容：

   • 使用一致性哈希算法避免缓存变冷。
   • 通过缓存客户端驱动迁移，确保平滑执行。

5. 缓存一致性挑战：

   • 采用比较与交换（compare-and-swap）、租赁、重新缓存、标记键为过时、降低 TTL 或写失败跟踪等策略。
   • 开源的 Python Memcache 客户端库支持 CRUD 操作的缓存一致性处理。

工程师建议

Guillermo Pérez（RevenueCat 工程总监）：

• 缓存一致性：首先确定所需的缓存一致性级别。对于许多场景，简单的缓存和较低的 TTL 已足够。如果需要强一致性，需具备良好的可见性，定期检查缓存项以监控和检测不一致性。
• 跨语言库推荐：建议从 Facebook 的 mcrouter 开始，它实现了多种有用的路由策略并支持 Memcache 协议。现有协议足以实现大多数缓存管理功能。
• 数据访问层抽象：建议在应用代码中构建数据访问层，以抽象数据获取细节，便于扩展和缓存策略的调整。

其他案例

InfoQ 还报道了 DoorDash 如何通过重新设计缓存架构来提升可扩展性和性能。

总结

RevenueCat 通过精细化的缓存策略和开源工具，成功应对了高并发 API 请求的挑战，同时确保了数据的一致性和系统的可用性。其经验和建议为其他企业在大规模缓存管理方面提供了宝贵的参考。