主要观点:尽管对 AI 模型的环境影响存在担忧,但很难找到许多大型语言模型的精确、可靠的二氧化碳排放和用水数据,法国模型制造商 Mistral 本周试图解决此问题,发布了首次环境审计的细节以量化其大型语言模型的环境影响。
关键信息:
- Mistral 与可持续性咨询公司合作进行“Large 2”模型的生命周期分析,遵循法国政府的 Frugal AI 指南,研究了温室气体排放、水消耗和材料消耗三类。
- 结果表明单个 AI 查询的环境危害相对较小,但数十亿的 AI 提示会导致总体环境影响显著。
- Mistral 审计发现大部分二氧化碳排放和水消耗发生在模型训练和推理期间,单个平均提示的边际“推理时间”环境影响相对较小,但 18 个月的运营导致了显著的总体影响。
- 将 Mistral 的环境影响数据与其他常见互联网任务比较,有助于了解其环境影响的背景。
- Mistral 的数据与其他研究相比有一定的可比性,但仍存在局限性,如缺乏重要的方法细节和总能源使用信息。
重要细节: - Mistral 发布的环境审计细节可在[https://mistral.ai/news/our-c...]查看。
- 例如,一个平均的 Mistral LLM 查询的边际影响与在美国看 10 秒流媒体节目、在法国看 55 秒相同节目、在 Zoom 上坐 4 到 27 秒以及 Carbon Literacy 数据中写 10 分钟邮件等活动相当。
- 之前的研究估计美国用于 OpenAI 的 GPT-3 的平均 AI 数据中心每个 LLM 提示使用近 17 毫升水,2024 年发表在《自然》杂志上的研究估计 ChatGPT 每个查询平均排放 2.2 克二氧化碳。
**粗体** _斜体_ [链接](http://example.com) `代码` - 列表 > 引用
。你还可以使用@
来通知其他用户。