在本月初刚刚落下帷幕的 re:Invent 上,亚马逊云科技以“厚积薄发”的姿态,带来了多项重量级发布,从全新一代的 Amazon Nova 多模态大模型系列,到性能强悍的 Trainium 2 和 Trainium 3 芯片,再到存储、数据库和 AI 推理工具的全面升级,亚马逊云科技用技术实力诠释了其作为全球云计算领导者的地位。
在上周三开启的 re:Invent 2024 中国行全国巡展活动上,亚马逊云科技大中华区产品总经理陈晓建对 re:Invent 2024 上的重要发布进行了一次全面的回顾。我们访谈了多位社区开发者和现场参会者,整理了三个社区开发者呼声最高、最关注的三项重要发布。接下来,就让我们再一起回顾下今年 re:Invent 上专属于开发者的焦点时刻。
Amazon Q:深入研发全流程,定义开发新范式
说到最深入人心的生产力工具,不得不说的就是深入研发全流程的 Amazon Q。这款生成式 AI 助手在 2023 年的 re:Invent 上首次亮相,在今年 4 月亚马逊云科技陆续发布了服务技术研发的 Developer 和服务企业内部的 Business 版本。
在 Q Developer 刚刚发布时,和市面上绝大多数研发助手类似,聚焦于编码工作。然而今年的 re:Invent 上的全新特性则直接把 Q Developer 带上了 Next Level —— 正如 AWS CEO Matt Garman 在产品发布时所言 “多数开发者平均每天花在编码上的时间也就一个小时左右,其余时间都用在其他端到端的开发任务上。因此,我们想从整个开发周期去看看,是否在其他地方也能提供帮助。”
在其他研发助手还在卷代码生成时,Q Developer 已经渗透进了研发全流程,推出了单元测试自动化、文档生成自动化和代码审查自动化的全新三项能力,目前三个功能已经全部正式可用。
写单元测试太枯燥?Amazon Q 表示:“别动,我来!” 它的单元测试生成工具能自动撸出测试用例,还会贴心地帮你把它们塞进对应的测试文件里,开发者只需在代码编辑器里点点鼠标,选择“接受”或者“拒绝”。无论是边界条件、空值、还是经典的差一错误(off-by-1),Q 都能轻松搞定,甚至还能检测各种奇葩输入类型。换句话说,它让你从“人肉写测试”中解放出来,测试效率飙升,代码质量杠杠的。更棒的是,如果代码改了,测试用例也会跟着动态调整 —— 简直就是测试界的“贴心 AI 小棉袄”。
撰写高质量的文档一直是研发工作中的一大痛点,Amazon Q 的文档生成工具来了,专治“文档拖延症”。只需动动手指点几下,系统就能自动扫描你的代码,提取关键逻辑和注释,生成满满当当的高质量文档。这些自动生成的文档不仅让团队在迁移和开发过程中“随时有据可查”,还特别适合“甩锅式”知识传递和后期系统维护。再也不用担心因为文档缺失被同事“灵魂拷问”了,效率提升一大截!
担忧代码质量?Amazon Q 的代码审查功能绝对是救星。它能提前帮你扫描代代码中的潜在问题,包括安全漏洞、不兼容逻辑以及性能瓶颈,还会通过内置的最佳实践规则库和 AI 智能分析,贴心地给出详细的修复建议。开发者可以结合问题列表和 Q 给出的修复建议,选择是否一键接受修复,直接把结果同步到代码编辑器里。代码质量蹭蹭提升,开发者的自信心也直线上升。
除了新应用的开发,大量现有应用的管理、升级和向云与 AI 的现代化转型,更是曾经的 AI 编程助手所未能涉及的领域。很多开发者不得不把大量时间花在维护、更新和修补现有应用上,而真正的创新被大大压缩。对此,Q Developer 也推出了新的转型特性,旨在加快 Windows.NET、VMware 和大型机工作负载的迁移与现代化进程,有效减少转型周期和成本。
此外,Amazon Q 已集成到 GitLab、SageMaker 等平台,并扩展至 Connect 和 Supply Chain,拓宽了应用范围,全面提升开发效率和资源利用效率。
SegmentFault 思否 CTO 祁宁快评:去年发布 Amazon Q 的时候我们看到了亚马逊云科技对 AI 时代的规划,今年更多落地应用的到来让 AI 时代的前景清晰了许多,这些跟开发者密切相关的应用场景已经让我迫不及待了。
Amazon Nova:基础模型的野心,Any-to-Any 一切皆可生成
聊到生成式 AI,基础模型是绕不开的话题。亚马逊这次虽然来得不算早,但亮相就是大招 —— 在今年的 re:Invent 大会上,亚马逊云科技正式发布了 Amazon Nova 系列多模态大模型,共包括六款模型:
- Nova Micro:专注文本的小机灵,低延迟、低成本,快得像打字机装了涡轮。
- Nova Lite:多模态轻骑兵,图像、视频、文本都能搞定,省钱又省心。
- Nova Pro:实力派全能选手,在速度、准确性和成本上拿捏得死死的,可以处理多种任务。
- Nova Premier:天花板级别的多模态大哥,复杂任务不在话下,还能教别人怎么干(可用于蒸馏定制模型)。
- Nova Canvas:图像生成的艺术家,随手就是专业级视觉大片。用官方的话来说,是达到了“State-of-the-art”(最先进)的水平。
- Nova Reel:视频创作的魔法师,一句话加一张图,轻松搞出高质量视频,广告、营销全不在话下。目前 6 秒钟时长的视频生成已经正式可用,2 分钟版本的也在路上了。
一句话总结:文本、图像、视频,Nova 家族全包了,既能省钱,又能玩出花!展望未来,“Any-to-Any”(任意模态到任意模态),野心直接写在脸上。
SegmentFault 思否 CTO 祁宁快评:从文本到视频,从快速轻巧到复杂丰富,Amazon Nova 基本覆盖了所有的生成式 AI 的应用场景,结合亚马逊云科技的全栈整合能力,我很期待看到它在市场上的表现。
Amazon Bedrock:五大能力升级,AI 应用开发者直呼“真香”!
作为承载基础模型的“模型工厂”,Amazon Bedrock 在今年的 re:Invent 上也带来了一大波更新,从效率到安全,从性能到便捷,全面“卷”了整个行业!来看看这波硬核升级到底有哪些亮点:
1. 模型蒸馏(Model Distillation):大模型的智慧,小模型的速度
一直以来,大模型很聪明,但是又慢又贵;小模型成本低、运行快,但能力总是差点意思。而 Amazon Bedrock 的 Model Distillation 功能,直接打破了这个僵局。它通过将“大块头”模型(教师模型)的知识蒸馏到“小机灵”模型(学生模型)中,有了它,你再也不用在“性能”和“成本”之间纠结。
核心亮点:
- 自动化蒸馏:只需提供一些示例提示词,Bedrock 会自动完成知识转移的所有步骤,包括生成响应、扩充训练数据、微调小模型,省时又省力。
- 性能炸裂:蒸馏后的小模型运行速度提升 5 倍,运行成本降低高达 75%,但在 RAG(检索增强生成)等高要求场景中,准确率损失不到 2%。
- 适用场景多样:非常适合实时聊天、推荐系统等需要低延迟和高效率的应用场景。
- 支持多种模型:目前支持 Anthropic、Meta 和 Amazon Nova 等多种模型家族,选择灵活多样。
一句话总结:用蒸馏技术,让“小身材”的 AI 模型有“大智慧”,既能跑得快,又能省得多。
2. 自动推理检查(Automated Reasoning Checks):终结 AI “幻觉”
AI 幻觉的存在一直是大模型商用道路上的重大难题,尤其在医疗、金融等严肃行业里,正可谓“失之毫厘,差之千里”。Bedrock 的 Automated Reasoning Checks 就是来解决这个问题的:
核心亮点:
- 业界首创:这是全球首个通过数学方式验证生成式 AI 输出准确性的保护措施。
- 精准可靠:使用基于逻辑的算法和推理流程,确保模型生成的内容符合已知事实,而不是凭空捏造。
- 全面保护:集成到 Bedrock Guardrails 中,结合内容过滤、上下文真实性检查、PII(个人身份信息)编辑等功能,全面提升 AI 应用的可信度和安全性。
一句话总结:让 AI 输出更可信,特别是在“错不起”的场景中,Bedrock 的推理检查就是最强后盾。
3. 模型超市上线(Bedrock Marketplace):100+ 模型随便挑
全新发布的 Bedrock Marketplace,直接变成了一个“AI 模型超市”,不管你是要热门模型、专业模型,还是新兴的“冷门佳品”,这里都有!
核心亮点:
- 首发新模型:首次集成了 Luma AI 和 Poolside 模型,还引入了 Stability AI 的最新模型。
- 选择丰富:提供超过 100+ 热门和专业模型,满足各种应用需求。
- 一站式体验:用户可以轻松浏览、选择和部署模型,大大简化了模型开发流程。
一句话总结:模型超市上线,选模型像逛超市一样简单方便!
4. 多智能体协作(Multi-Agent Collaboration):AI 团队合作也能很高效
在一些复杂任务中,需要多个 AI 智能体协同工作,但传统方法往往需要手动编排、管理,特别麻烦。而 Amazon Bedrock 的 多智能体协作 功能,让这一切变得轻松高效。
核心亮点:
- 快速设置:几分钟内就能创建、部署和管理多个协作智能体,无需复杂编码。
- 模块化设计:支持将现有智能体作为“子智能体”集成到更大的系统中,轻松应对复杂工作流程。
- 高效通信:智能体之间支持并行通信,任务完成效率更高。
- 灵活协作模式:支持监督模式和路由模式,按需优化智能体间的协作方式。
一句话总结:让 AI 智能体高效协同工作,复杂任务也能快速搞定。
5. 性能优化:低延迟推理快到飞起
Amazon Bedrock 在性能优化上也没落下,加速了一些大模型的推理速度,让用户在使用最新模型的同时,也能享受低延迟的流畅体验。
核心亮点:
- 低延迟优化推理:让大模型的使用既快又稳,特别是在实时交互应用中效果显著。
- Llama 优化版本:Llama 405B 和 70B 的低延迟优化版,在亚马逊云上展现出超越其他云平台的出色性能。
一句话总结:大模型再强,也要跑得快,Bedrock 的优化技术就是这么硬核!
这一次,Amazon Bedrock 的更新几乎覆盖了生成式 AI 的所有关键领域:模型蒸馏 解决了性能和成本的矛盾,让小模型也能有大智慧;自动推理检查 终结了 AI 的幻觉问题,确保输出真实可靠;模型超市 满足各种需求,选模型像逛超市一样方便;多智能体协作 让 AI 团队高效协同,复杂任务轻松搞定;性能优化 则让大模型跑得又快又稳。
这一系列更新不仅让 AI 技术更强、更省、更安全,还让开发者的工作变得更加轻松高效,堪称一次 “全方位生产力革命”。
SegmentFault 思否 CTO 祁宁快评:Amazon Bedrock 体现了亚马逊云科技在 AI 时代的野心,它提供了一个基座一种标准,让开发者以统一的体验使用包括亚马逊云科技自己模型以内的主流 AI 模型。
后记:来自第一线的快问快答!
本届 re:Invent 2024,SegmentFault 思否也有小伙伴去到了拉斯维加斯的现场。作为云计算领域的春晚,re:Invent 是当之无愧的全球第一大科技盛会。每年除了一系列重大产品更新和发布,还有哪些让人印象深刻的精彩瞬间?我们特别对话了去到大会第一线的社区伙伴,SegmentFault 思否社区顾问、Apache Answer PPMC Member 江波。
SegmentFault 思否社区顾问、Apache Answer PPMC Member 江波在 re:Invent 大会现场
问:初次线下参加 re:Invent,你最大的感受是什么?
答:从 Keynote 到 Sessions 到各种 Workshop,从产品发布到互动展区,从大会的正式环节到晚间的各种 Developer Gathering 和 After Party,内容非常丰富、知识密度很高。4 天时间浸泡在超高知识密度的万人大会现场,每天日行两万步,感觉累并充实着!
问:除了重大产品的更新和发布,还有哪些值得关注的精彩内容?
答:印象最深刻的肯定是亚马逊 CTO Werner 一年一度「架构哲学」的演讲,去年的主题是「云架构俭约之道:企业架构七大黄金法则」(点击此处查看),今年的主题是「繁简之道」,与去年一脉相承。前者侧重于关注成本的设计思想和资源利用效率的提升,后者聚焦于化整为零、化繁为简。AWS CEO Matt Garman 提出的 “Building Blocks”(构建单元)的理念也与 Werner 演讲中的部分观点相吻合。
问:演讲以外,还有哪些让你难忘的精彩瞬间或互动体验?
答:最让人难忘的肯定是 re:Play,作为 re:Invent 的收官环节,每年 AWS 都会邀请百大 DJ 来打碟,上万名开发者一起狂欢、蹦迪,让我们在几天高密度的输入后觉得非常放松。
值得一提的还有一个温情环节,思否在 2023 年的 re:Invent 现场报道中就有提到 —— 在 Badge Pick-up 的区域有一个 Hydrate and Help 的角落,在这里有很多开发者们排队提着水桶走圈。每走一圈,AWS 就会为柬埔寨的干净饮水资源设施捐赠 5 美金。在这里,有很多开发者走上百圈,让我们感受到了科技人文的力量和温暖。
此外,今年我所在的蚂蚁开源也在 12 月 3 日晚上在会场附近组织了一场 Data Rock N' Roll 的 After Party,两百多位开发者一起写代码、交流、打保龄球、喝酒,氛围非常热烈。
问:用一句话概括一下你的 re:Invent 体验
答:这是一场值得被列入「人生不可错过系列」的科技盛会,每一位开发者都值得亲临现场体验一番!
**粗体** _斜体_ [链接](http://example.com) `代码` - 列表 > 引用
。你还可以使用@
来通知其他用户。