AWS Bedrock 正式发布

亚马逊在2023年4月宣布预览版的AWS Bedrock，如今已正式全面开放。AWS Bedrock是一项全托管服务，专门用于生成式AI应用程序的开发。

Meta Llama 2 模型即将加入

亚马逊还宣布，将在未来几周内提供Meta的Llama 2模型，包括13B和70B参数版本。Llama 2相比初代模型有显著改进，训练数据量增加了40%，上下文长度达到4000个token，能够处理更大的文档。

基础模型支持

AWS Bedrock集成了多个由AI21 Labs、Anthropic、Cohere、Stability AI和亚马逊开发的基础模型。这些模型可通过API调用，用于在AWS基础设施上构建生成式AI应用。

Amazon Titan Embeddings

Amazon Titan Embeddings是一个大型语言模型（LLM），能够将文本转换为数值表示（嵌入），从而支持搜索、个性化和检索增强生成（RAG）等应用场景。RAG技术通过将模型连接到外部知识源，扩展了模型的能力。

模型探索与提示工程

用户可以通过Amazon Bedrock控制台或Playground探索基础模型的功能。控制台提供了示例用例和提示，而Playground则允许用户通过对话界面与聊天、文本和图像模型互动，尝试不同的提示工程技术和推理配置参数。有效的提示工程要求提示简单、直接、避免歧义，并可以通过提供示例或鼓励模型进行复杂任务推理来优化。

Agents功能预览

AWS Bedrock的Agents功能目前仍处于预览阶段。Agents能够连接外部数据源和现有API，执行特定任务，从而创建超越自然语言处理的应用程序。此外，Amazon Titan Text生成模型和Stability AI的Stable Diffusion XL图像生成模型也仅限预览使用。

CodeWhisperer扩展功能

AWS还扩展了其CodeWhisperer编码AI的能力，现在可以利用客户的内部代码库和资源，提供定制化的代码推荐。