从炒作到影响：构建生成式 AI 架构

视频

https://www.bilibili.com/video/BV17N4y127Cp/?aid=876505709&ci...

导读

生成式 AI 代表当今公司运营方式的范式转变。生成式 AI 使开发人员能够重新构想客户体验和应用程序，同时几乎改变了每个行业。企业正在迅速创新，创建正确的架构，用于安全、经济和负责任地扩展生成式 AI，从而实现业务价值。了解领导者如何实现数据基础的现代化，选择行业领先的基础模型，并在专用加速器上进行部署，充分发挥生成式 AI 的潜力。

演讲精华

<font color = "grey">以下是小编为您整理的本次演讲的精华，共900字，阅读时间大约是4分钟。如果您想进一步了解演讲内容或者观看演讲全文，请观看演讲完整视频或者下面的演讲原文。</font>

弗朗西斯卡·拉扎里，作为亚马逊云科技（Amazon Web Services）的技术传播者，在2022年re:Invent上发表了一场题为“从炒作到影响：构建一种生成性AI架构”的演讲。她首先提到了关于生成性AI及其创作图像、视频、故事和代码能力的炒作现象。然而，拉扎里强调，生成性AI不仅仅是一种炒作——它为企业和个人带来了改变运营方式的广阔机会。她的目标是将部分炒作转化为现实世界的影响，展示公司如何能够利用生成性AI构建生产就绪的架构。

为了回顾背景，拉扎里简要概述了推动当前生成性AI时刻的历史发展。她解释说，虽然传统的机器学习模型需要大量的手动数据准备和标注来为一个单一任务创建一个模型，但生成性AI可以通过基于变换器的神经网络架构（称为基础模型）实现更先进的多复杂输入到复杂输出的映射。这些基础模型是在大量未标记数据上预训练的，因此可以用于各种通用任务，并通过在小型标签数据集上进行微调轻松适应特定领域。

拉扎里接着解释了我们与基础模型的交互方式——通过使用提示。提示是指导基础模型生成所需输出的明确指示。她把提示比作新的用户界面，允许用户描述他们希望基础模型生成的内容以及所需的格式和上下文。拉扎里强调，尽管具有高级功能，但生成性AI越来越易于使用，只需几行代码就可以轻松集成到应用程序中。

随后，她列出了五大核心设计原则，这些原则正在实现现实世界的影响：

1. 易用性 - 开发者可以快速开始，无需专门的机器学习专业知识，使用像Amazon Bedrock这样的工具，这是一个提供通过单个API访问基础模型的全托管服务。
2. 客户选择 - 亚马逊云科技支持多种基础模型，如来自AI21 Labs的Jurassic和亚马逊TITAN，根据需求提供灵活性。
3. 利用您的数据 - 通过使用检索增强生成（RAG）等技术，优化数据战略以训练定制模型或微调基础模型，从而充分利用领域特定的数据。

安全和负责任的AI - 例如亚马逊云科技的Bedrock上的Guardrails服务，可帮助实施与政策一致的保障措施。

云计算基础设施 - 借助亚马逊云科技成熟的全球基础设施和定制AI芯片（如Trainium 2），可实现规模、性能和可靠性。为了展示易用性，Lazzeri展示了只需几行代码即可访问基础模型的Amazon Bedrock使用情况。同时，她也强调了Amazon CodeWhisperer的功能，可根据自然语言提示生成代码建议。

在客户关注的问题上，Lazzeri介绍了AI21 Labs的共同创始人Ori Goshen，他探讨了如何通过创新的语言模型以及质量、成本和延迟之间的平衡来开发业界领先的技术。Goshen强调，能力将从令人印象深刻的演示转向专注于真实客户需求的目的性解决方案。

谈到数据差异化，Lazzeri解释了如何将特征矩阵与组织的自身数据相结合是关键。她概述了诸如构建自定义模型、微调特征矩阵以及使用相关文档和数据增强特征矩阵等技术。Lazzeri指出，向量嵌入可以帮助将词汇表示为数字以捕捉相关数据的意义。此外，她还讨论了如何使用代理将特征矩阵扩展到与业务系统和API集成的复杂工作流程中。

在负责任AI方面，Lazzeri强调了亚马逊云科技以人为本的方法和提供与安全政策一致的保障的服务。其他功能如加密和PrivateLink有助于解决安全和隐私需求。

为了展示对云计算基础设施的利用，Lazzeri强调了亚马逊云科技成熟的全球基础设施和定制硅片（如Trainium 2芯片）用于驱动超集群以训练模型。

接下来，来自Itaú的客户案例Moses Nascimento分享了如何安全负责地使用数据来利用生成性AI改变业务。

Lazzeri随后介绍了另一位演讲者 - BMW集团的Jens Kohl博士。Kohl谈论了宝马集团通过提供优质的数字体验给客户所展现的热情。他解释了他们连接车辆后端规模的挑战，每天处理超过2000万辆汽车产生的120亿次请求。Kohl概述了他们优化这个复杂后台的持续挑战，并强调了自动化的价值。

他接着向观众展示了一个例子，展示了宝马如何借助Amazon Bedrock和RAG技术构建一个多代理生成性AI聊天机器人。这个聊天机器人不仅能够分析云计算基础设施、解释发现的问题并提供解决方案，还能实施修复，从而扩大了云计算管理的范围。科尔详细解释了无服务器架构的原理，并强调了数据隐私的重要性，因为他确信没有数据会流出宝马账户。他总结了一些关键优势，例如可扩展性、简化的工作流程以及实现持续学习。科尔最后强调了生成性AI对宝马产生的实际影响。

在演讲的最后部分，拉扎里再次强调，亚马逊云科技提供了大量加速生成性AI应用开发的工具。她通过展示经过验证的客户成功案例，鼓励观众重新思考如何利用亚马逊云科技的解决方案。

总的来说，拉扎里引人注目地描述了生成性AI从概念到现实世界影响的转变过程。通过使用客户实例和具体的原理，她展示了亚马逊云科技如何使组织能够充分利用这一技术的易用性、灵活性、安全性和可扩展性，从而使构建生产就绪的生成性AI应用程序变得更加容易。

下面是一些演讲现场的精彩瞬间：

生成性人工智能正在改变各行各业的创意内容创作方式，例如图像、视频、故事和代码等。

亚马逊云科技与A21合作，共同提供了可靠且可扩展的AI推理能力，兼顾质量、成本和延迟。

在AI领域，这位领导者预测，各组织将继续采用按领域划分的方式，维护多个独立的AI模型，即所谓的语言刀片，而非依赖单一的通用AGI模型。

微调技术使得开发者能够轻松地为特定任务定制大型预训练模型，从而加速模型的开发过程。

领导者们还探讨了向量嵌入技术，它将词汇转化为数字形式，以便捕捉计算机在机器学习应用中的意义和关系。

此外，领导者们分享了Alexa在亚马逊Fire TV和奥迪车辆中的应用如何提升了驾驶体验，使驾驶员更加专注于道路。

领导者们对客户和合作伙伴如何在亚马逊云科技上利用生成性人工智能表示出极大的热情。

总结

生成性人工智能正通过各种方式改变各行各业，如创建图像、视频、故事和代码。亚马逊云科技为此提供了相应的工具，通过Amazon Bedrock构建了实用的生产就绪架构。实现成功的关键原则包括：

1. 生成性AI现已成为非机器学习专家开发者的可用工具。借助亚马逊Bedrock简单的API，用户可以轻松地访问和管理基础模型。全新的Party Rock网站使得学习过程变得更加简便。
2. 为了满足客户的选择需求和创新精神，亚马逊云科技支持来自AI21 Labs和Anthropic等供应商的多种模型。大小各异的模型在成本、延迟和质量之间实现了平衡。
3. 将数据与基础模型相结合是实现竞争优势的关键。通过微调，可以定制模型以满足特定需求；而检索增强生成则利用数据来提高响应质量。此外，向量嵌入技术将文本转换为数字表示形式。
4. 安全性至关重要。亚马逊云科技提供了加密、访问控制和内容过滤等功能，以确保用户数据的安全。Guardrails功能则有助于确保各项操作符合相关政策规定。
5. 云计算提供了灵活的规模、速度和可靠性。亚马逊云科技凭借其全球基础设施和针对机器学习的定制硅优化方案，为用户提供了强大的支持。

在安全可靠的海量云架构基础上构建生成性AI，将为企业带来巨大的商业价值。只要拥有合适的工具和模型，企业就能改善用户体验并提高生产力。

演讲原文

想了解更多精彩完整内容吗？立即访问re:Invent 官网中文网站！

2023亚马逊云科技re:Invent全球大会 - 官方网站

点击此处，一键获取亚马逊云科技全球最新产品/服务资讯！

点击此处，一键获取亚马逊云科技中国区最新产品/服务资讯！

即刻注册亚马逊云科技账户，开启云端之旅！

【免费】亚马逊云科技“100 余种核心云服务产品免费试用”

【免费】亚马逊云科技中国区“40 余种核心云服务产品免费试用”

亚马逊云科技是谁？

亚马逊云科技（Amazon Web Services）是全球云计算的开创者和引领者，自 2006 年以来一直以不断创新、技术领先、服务丰富、应用广泛而享誉业界。亚马逊云科技可以支持几乎云上任意工作负载。亚马逊云科技目前提供超过 200 项全功能的服务，涵盖计算、存储、网络、数据库、数据分析、机器人、机器学习与人工智能、物联网、移动、安全、混合云、虚拟现实与增强现实、媒体，以及应用开发、部署与管理等方面；基础设施遍及 31 个地理区域的 99 个可用区，并计划新建 4 个区域和 12 个可用区。全球数百万客户，从初创公司、中小企业，到大型企业和政府机构都信赖亚马逊云科技，通过亚马逊云科技的服务强化其基础设施，提高敏捷性，降低成本，加快创新，提升竞争力，实现业务成长和成功。