主要观点:Cloudflare 构建了自己的容器平台,用于在其网络上运行容器,已在多个产品中使用,如 Workers AI、Workers Builds 等。该平台基于 Workers、Durable Objects 和 KV 等技术,实现了全球调度、优化了 GPU 调度、提升了 Docker 拉取速度、利用 Anycast 简化网络配置以及在不同场景下的应用,如远程浏览器隔离、Worker CI/CD 构建等,且未来计划与 Workers 更深度集成。
关键信息:
- 2024 年是 Cloudflare Workers 7 周年,最初以隔离方式运行计算,之后不断增加计算能力。
- 构建容器平台是为在不增加开发者复杂度的情况下,利用 Cloudflare 网络的全部容量,解决在不同地区和场景下运行容器的问题。
- 全球调度基于 Workers、Durable Objects 和 KV,能动态根据容量和硬件可用性在网络中安排容器。
- 解决 GPU 相关挑战,如内存需求、容器运行时支持和大模型调度等问题。
- 通过使用 R2、Cache 等技术提升 Docker 拉取速度,将 30GB 图像拉取时间减半。
- Anycast 用于简化网络配置,通过虚拟 IP 和全局状态路由器实现流量平衡和容器调度。
- 容器平台在远程浏览器隔离、Worker CI/CD 构建等场景中发挥重要作用,通过预预热图像提升“非眼球面向”工作负载的速度。
- 未来计划将容器平台与 Workers 更深度集成,目前正征集工程团队参与提前构建。
重要细节: - Cloudflare 网络覆盖 330 多个城市和 120 多个国家,全球调度可利用全网络容量,避免开发者在多地配置管理。
- 容器平台支持多种运行时,如 gVisor、Firecracker 等,并为添加 cloud-hypervisor 进行评估。
- Docker 推操作是性能瓶颈,改用 Zstandard 提升速度。
- 全局状态路由器通过 eBPF 程序实现虚拟 IP 到容器 IP 的映射和流量转发。
- 远程浏览器隔离需靠近用户以降低延迟,容器平台可满足此需求。
- Worker CI/CD 构建利用“非高峰”时段的闲置计算资源,通过预预热图像提升构建速度。
- 正在探索 Workers、Durable Objects 和 Containers 更深度集成的方式,如在 Key Transparency 项目中的应用示例。
**粗体** _斜体_ [链接](http://example.com) `代码` - 列表 > 引用
。你还可以使用@
来通知其他用户。