书籍-《生产中的LLM：从语言模型到成功产品》

书籍：LLMs in Production: From language models to successful products
作者：Christopher Brousseau，Matt Sharp
出版：Manning​
编辑：陈萍萍的公主@一点人工一点智能
下载：书籍下载-《生产中的LLM：从语言模型到成功产品》

01 书籍介绍

大多数商业软件是通过迭代开发和改进的，甚至在部署后也可能发生显著变化。然而，大型语言模型（LLM）由于其高昂的创建成本和复杂的修改过程，要求在前期进行精细的规划、严格的高标准数据准备以及精确的技术实施。将LLM集成到生产环境中会涉及应用生命周期、数据Pipeline、计算成本、安全性等多个方面的运营计划调整。若处理不当，可能导致大量的成本损失。
这本实用书籍提供了清晰且示例丰富的解释，帮助你理解LLM的工作原理、如何与它们交互以及如何将LLM集成到自己的应用程序中，了解LLM与传统软件和机器学习（ML）的区别，探索实验室之外使用LLM的最佳实践，并避免常见错误。
在《生产中的LLM》一书中，你将学到：
· 掌握LLM的基础知识及其背后的技术：深入了解LLM的工作机制。
· 评估何时使用现成的LLM，何时构建自己的LLM：根据需求选择合适的策略。
· 高效扩展ML平台以满足LLM的需求：优化你的ML平台以应对LLM带来的挑战。
· 训练LLM基础模型并微调现有LLM：提升模型性能的具体方法。
· 使用复杂架构（如PEFT和LoRA）将LLM部署到云端和边缘设备：灵活部署LLM的策略。
· 构建应用时充分利用LLM的优势，同时缓解其弱点：设计高效的应用架构。
本书不仅为你提供关键见解，帮助你顺利将MLOps引入生产环境，还详细介绍了从获取适合LLM的训练数据集、搭建平台、补偿其庞大体积的实际操作指南，到提示工程技巧、重新训练和负载测试、控制成本以及确保安全性的全方位指导。

02 作者简介

Christopher Brousseau是摩根大通的一名资深机器学习工程师，拥有语言学和本地化背景。他在基于语言学的自然语言处理（NLP）领域有深厚造诣，特别关注国际化应用，并在初创公司和财富500强企业中成功领导了多个ML和数据产品项目。
Matt Sharp是一名工程师、前数据科学家及技术领导者，在MLOps领域经验丰富。他曾为多家初创公司和顶级科技公司领导过众多成功的数据项目。Matt擅长在各种生产环境中部署、管理和扩展机器学习模型。

03 书籍大纲