主要观点：近年来 AI 采用率大增，导致复杂且计算密集的系统，数据中心需升级以满足需求，一些大公司探索用核能，当前 ML 系统难准确测量和跟踪能源需求，存在诸多挑战，如缺乏碳足迹意识等，LLMs 规模增长迅速，虽提升性能但消耗更多资源和能源，ML 生命周期各阶段耗能不同，推断阶段能耗占比大，有多种工具可测量碳足迹，如 CodeCarbon 和 MLCarbon，同时介绍了其使用方法和常见问题及解决方案，还提出了构建可持续 ML 生命周期的最佳实践，包括优先选择高效模型、优化模型降低复杂度、选择高效硬件、利用云平台等。
关键信息：

• 大公司探索用核能为 AI 基础设施供电。
• ML 系统难准确测量和跟踪能源需求及存在挑战。
• LLM 规模增长迅速及相关架构。
• ML 生命周期各阶段耗能特点。
• CodeCarbon 和 MLCarbon 及其使用。
• 构建可持续 ML 生命周期的最佳实践。
  重要细节：
• 不同规模 LLM 的参数及发展情况。
• CodeCarbon 安装及使用示例及常见问题。
• MLCarbon 用于 LLM 碳足迹测量及示例。
• 各种优化技术及能量效益。
• 不同硬件类型的特点及比较。
• 云平台在可持续 AI 中的作用及相关数据。