作者:肯梦、折原

Qwen3 正式发布并全部开源 8 款「混合推理模型」。凭借其卓越的性能和广泛的应用场景,迅速在全球范围内获得了极高的关注度和广泛的用户基础。

此次开源包括两款MoE模型:Qwen3-235B-A22B(2350 多亿总参数、 220 多亿激活参),以及 Qwen3-30B-A3B(300 亿总参数、30 亿激活参数);以及六个 Dense 模型:Qwen3-32B、Qwen3-14B、Qwen3-8B、Qwen3-4B、Qwen3-1.7B 和 Qwen3-0.6B。

这些模型在代码、数学、通用能力等基准测试中表现出极具竞争力的结果。Qwen3 支持思考模式和非思考模式两种思考模式,适用于不同类型的问题,支持 119 种语言和方言。

依托于阿里云函数计算 FC 算力,Serverless + AI 开发平台 FunctionAI 现已提供模型服务、应用模版两种部署方式辅助您部署 Qwen3 系列模型。 完成模型部署后,您即可与模型进行对话体验;或以 API 形式进行调用,接入 AI 应用中,欢迎您立即体验。

支持的模型列表

部署方式说明:

vLLM:大模型加速推理框架,优化内存利用率和吞吐量,适合高并发场景。

SGLang:支持复杂的 LLM Programs,如多轮对话、规划、工具调用和结构化输出等,并通过协同设计前端语言和后端运行时,提升多 GPU 节点的灵活性和性能。

模型部署方式最低配置
通义千问3-0.6BvLLM/SGLang/OllamaGPU 进阶型
通义千问3-0.6B-FP8vLLM/SGLang/OllamaGPU 进阶型
通义千问3-1.7BvLLM/SGLang/OllamaGPU 进阶型
通义千问3-1.7B-FP8vLLM/SGLang/OllamaGPU 进阶型
通义千问3-4BvLLM/SGLang/OllamaGPU 进阶型
通义千问3-4B-FP8vLLM/SGLang/OllamaGPU 进阶型
通义千问3-8BvLLM/SGLang/OllamaGPU 性能型
通义千问3-8B-FP8vLLM/SGLang/OllamaGPU 性能型
通义千问3-14BvLLM/SGLang/OllamaGPU 性能型
通义千问3-14B-FP8vLLM/SGLang/OllamaGPU 性能型

本篇文档将以通义千问 3-8B 模型演示部署流程。

前置准备

  1. 首次使用 FunctionAI【1】 会自动跳转到访问控制快速授权页面,滚动到浏览器底部单击确认授权,等待授权结束后单击返回控制台。
  2. 函数计算 FC 提供的试用额度【2】可用于资源消耗。额度消耗完后按量计费,对于本教程所涉及的 Web 服务,只在有访问的情况下才会产生费用。

开始部署

应用模版部署

实现通义千问 3-8B 模型 + OpenWebUI 部署

创建项目

点击如下链接新建项目:

https://cap.console.aliyun.com/projects

部署模版

搜索“Qwen3”,点击“基于 Qwen3 构建 AI 聊天助手”模版并部署

选择 Region 并部署应用

部署过程大约持续 10 分钟左右

验证应用

部署完毕后,点击 OpenWebUI 服务,在访问地址内找到“公网访问”

在 OpenWebUI 界面验证 qwen 模型对话

关于 FunctionAI

什么是 FunctionAI?

云应用开发平台 FunctionAI 是阿里云推出的一站式应用开发和生命周期管理平台。 应用开发者可以通过 Serverless 架构来构建容器化、高弹性、免运维的云上应用,也可以通过 AI 大语言模型推动云上应用逐步升级为智能化应用,而 FunctionAI 的应用开发范式正是结合了 Serverless 和 AI 的两者优势,帮助开发者更高效地响应市场变化,快速构建高可用、低延迟的云上应用。

FunctionAI 提供了丰富的 Serverless + AI 应用模板、先进的开发工具和企业级应用管理功能,帮助个人和企业开发者专注于业务场景,快速构建并持续迭代云上应用,可显著提高研发、部署和运维效率。

云应用开发平台 FunctionAI 具备极速体验、生态集成、更低成本以及灵活组装等特点,Serverless 与 AI 紧密结合,让存量应用智能化更便捷、让 AI 应用开发更简单

  • 极低成本模型托管服务:基于 Serverless GPU 算力模型服务,平均成本降低 60%。
  • 流程式开发先进工具:基于云工作流 AI Studio 开发能力,最高效率提升 90%
  • 一键极速创建 AI 应用:海量高质量应用模板,面向不同客群,支持一键极速创建 AI 应用,解决 AI 应用开发者无从下手的困境
  • 灵活组装,二次开发:基于丰富的云服务集成,原子化能力封装,自定义插件扩展,支持快速组装,沉淀业务资产,加速应用二次开发,满足业务定制化需求。

覆盖多场景,加速应用智能化

  • AI 应用:提供一系列可开箱即用的热门 AI 模板。借助 Serverless 高弹性及按量付费的优势,实现专属的 AIGC 云上环境。
  • Web 应用:提供一系列流行编程语言的主流 Web 框架模板,可以立即部署并基于您所熟悉的 Web 框架进行二次开发。
  • ETL 数据处理应用:Serverless 典型的技术特点是事件驱动架构。以函数计算为例,函数计算支持丰富的事件源,通过事件触发机制,可以用几行代码和简单的配置对数据进行实时处理。
  • 音视频处理应用:提供基于 FFmpeg 封装的一系列音视频处理应用,包括音视频转码、提取音视频元信息、获取音视频时长、音频转换、雪碧图生成、生成 GIF、打水印等一系列能力,您可以一键部署一个 Serverless 架构的弹性高可用、免运维、低成本、高度自定义的音视频处理应用。
  • 文件处理应用:Serverless 由于其高弹性、开箱即用、免运维的特点非常适合处理文件。FunctionAI 官方提供了丰富的文件处理的项目案例,例如 OSS 上传 Zip 文件自动解压、Zip 打包下载 OSS 文件等

推荐您在 PC 端体验:https://www.aliyun.com/product/cap

【1】函数计算 FunctionAI 开发平台

https://www.aliyun.com/product/cap

【2】试用额度

https://common-buy.aliyun.com/package?spm=a2c4g.11186623.0.0....


阿里云云原生
1.1k 声望319 粉丝