Kubernetes与生成式人工智能在游戏中的应用

Google的Ishan Sharma在KubeCon CloudNativeCon NA 2023会议上探讨了Kubernetes如何为使用生成式人工智能（GenAI）的游戏应用提供优秀平台，尤其是在游戏开发和实时游戏体验方面。

GenAI的崛起与应用

GenAI近年来取得了显著进展，从2014年生成像素化的黑白图像到2021年实现基于提示的文本到图像生成。ChatGPT和Bard的发布使GenAI成为主流技术。GenAI在游戏开发中的应用广泛，包括创建艺术资产、自动生成游戏代码、与机器人进行逼真对话以及根据玩家输入生成关卡。

GenAI在游戏中的分类应用

GenAI在游戏中的应用可分为两类：

1. 游戏开发阶段：加速上市时间，简化开发流程，包括角色、道具、音视频等游戏资产的开发。常用的API包括VertexAI、Sagemaker和ChatGPT。
2. 游戏运行阶段：实时适应游戏玩法，增强玩家体验，包括智能NPC、动态游戏内容和定制化玩家体验。这一阶段需要低延迟、高性能、快速扩展和低成本。

游戏行业中的GenAI痛点

Sharma的团队在游戏行业的中小企业中进行了用户研究，发现GenAI在游戏中的痛点主要集中在平台、AI成熟度和游戏玩法三个方面：

• 平台：需要大规模成本效益和低延迟，以确保无缝玩家体验。
• AI成熟度：需要一致、相关且上下文中适当的推理，避免AI偏见和刻板印象。
• 游戏玩法：需要平衡用户生成内容与游戏背景和结构，确保内容过滤和适度。

Kubernetes与Agones的作用

Kubernetes解决了大部分IT操作问题，如调度、健康检查、部署方法、自动扩展和回滚等。然而，Kubernetes本身并不理解游戏服务器的工作原理。Agones开源框架由Google和Ubisoft合作开发，解决了游戏服务器的扩展和编排需求，包括更好地理解游戏匹配和会话、无缝扩展玩家负载、每个节点的多个UDP/TCP端口以及可调的热备用参数。

GenAI推理与游戏服务器的集成

开发团队有多种选择将GenAI推理集成到游戏服务器中：

1. 现成解决方案：如VertexAI、Sagemaker和Stable Diffusion API。
2. DIY解决方案：在Kubernetes节点上运行专用的GenAI推理服务器。
3. Sidecar组件：在同一Pod中运行GenAI推理服务器，确保底层硬件对Agones游戏服务器和GenAI推理服务器都是最优的。

不同集成方案的优势

• 现成解决方案：开箱即用，加快价值实现时间。
• DIY解决方案：对于高使用场景更具成本效益，易于设置Kubernetes功能如水平Pod自动扩展和调度。
• Sidecar组件：在测试中表现略好，推理延迟是主要考虑因素。

Kubernetes在游戏中的优势

Kubernetes在GenAI游戏应用中的优势包括可移植性、灵活性、扩展性和性能、成本和效率。此外，Kubernetes生态系统中有多种框架可供选择，如Spark、Beam、Dask、Ray、Rapids和XGBoost。

演示与总结

Sharma展示了将GenAI集成到多玩家游戏中的实时图像生成演示。演示应用托管在Google Cloud的GKE GenAI推理集群上，使用了专用节点选项。演示中使用了LLAMA 2模型进行文本生成和Stable Diffusion进行图像生成。

更多信息

有关KubeCon NA 2023的更多信息，可访问会议网站和完整的日程安排，以及数据和AI/ML特定会话目录。