这两天,阿里发布了新的开源模型通义千问Qwen3。本篇内容将手把手带你使用Ollama+Open WebUI本地部署开源模型通义千问Qwen3,并借助贝锐花生壳内网穿透,轻松实现安全远程访问!

相较于直接将服务部署在云端或使用端口映射进行远程访问,贝锐花生壳内网穿透不仅让远程连接更便捷,还能有效防止未经授权的用户擅自访问本地部署的Ollama,全面保障AI资源的私密性与安全性!

一键开启本地部署Qwen3

首先,访问Ollama官网,下载并一键安装Ollama客户端。

图片

安装好 Ollama 后,打开命令提示符,参考命令“ollama run qwen3:8b”,下载Qwen3模型。

图片

大家可以根据自己电脑的显存大小来挑选合适的参数,4G 显存选 1.5B、8G 选 7B、16G 选 14B,这样能保证模型运行更顺畅。

Ollama默认仅开启本机访问(无法外部或远程访问)完成上述步骤后,即可在本机通过命令行,或通过http请求实现访问,返回以下结果说明已经正常运行。

图片

安装Open WebUI,实现图形界面交互

除了通过命令行与 Qwen3交互,我们还可以用 Open WebUI 实现更友好的图形化界面操作。不过在此之前,得先确认电脑上安装并运行了 Docker,要是还没安装,需要去 Docker 官网一键下载安装。

图片

接下来,通过Docker部署Open WebUI,执行以下命令即可快速搭建 :

输入命令:docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always

如果希望通过其他方式部署,大家也可以自行查看OpenWebUl github主页的教程。

图片

完成部署后,浏览器访问127.0.0.1:3000,设置本地管理员账号,即可通过网页交互使用Qwen3!

图片

利用贝锐花生壳内网穿透,实现安全远程访问

如果想随时随地远程访问本地部署的Qwen3,可以利用贝锐花生壳内网穿透,简单三步即可部署,轻松实现远程访问。

第一步,先注册一个贝锐账号,然后下载并登录花生壳客户端。

图片

第二步,进入花生壳云管理平台,填写 Open WebUI 局域网 IP 和默认端口 “3000”,并设置安全访问规则。

图片

另外,不同于其他内网穿透,花生壳支持一键使用HTTPS加密传输、额外设置网页访问密码实现双重防护,并有访问权限控制、爆破防护等高级防护功能,充分保障AI服务器安全!

第三步,完成设置后,点击保存,就会自动生成一个外网访问地址,随时随地安全访问!

图片

通过以上这些步骤,我们不仅成功实现了Qwen3 的本地私有化部署,还借助贝锐花生壳轻松解锁了远程访问,整个过程简单高效,无需复杂操作,也无需依赖云服务器,就能打造专属的 AI 助手。


贝贝2006
1 声望0 粉丝