一、前言

最近国内的 深度求索 公司发布的 DeepSeek-r1 推理模型,其凭借强大的推理能力、擅长复杂任务、低成本以及开源等优势,短时间内迅速成为了全球AI领域的焦点。本节通过ollama本地部署运行Deepseek-r1模型。

二、Ollama下载安装

Ollama 是一个开源工具,用于在本地计算机上快速部署和运行大型语言模型(LLMs)。它专注于简化 LLM 的本地运行流程,无需复杂的配置即可在个人设备(如笔记本电脑或台式机)上体验 AI 模型的生成能力

  1. 访问Ollama官网地址:https://ollama.com/
  2. 点击Download,根据自身的系统选择对应的安装包,我这边选择Windows的(直接浏览器下载可能比较慢,可以用迅雷等下载工具进行下载)
    image.png
  3. 下载完成后直接安装即可

三、Deepseek-r1模型部署运行

  1. 点击Ollama官网上的Models,这里提供了很多模型给用户使用,这里我们选择Deepseek-r1模型
    image.png
  2. 点击进去后,默认使用的是7b(七十亿)参数的模型,大小是4.7GB,用户可根据自己的计算机的性能选择相应的模型,复制运行命令ollama run deepseek-r1
    image.png
  3. 在Windows下打开PowerShell,执行命令ollama run deepseek-r1,如果首次运行,Ollama会先拉取deepseek-r1模型
    image.png
  4. 拉取完成后(拉取的模型文件默认会存放在C:\Users\xxxx\.ollama\models目录下),会自动运行Deepseek-r1模型,这样就可以开始跟它对话了。如下图image.png

kamier
1.5k 声望497 粉丝