最新消息:雨落星辰是一个专注网站SEO优化、网站SEO诊断、搜索引擎研究、网络营销推广、网站策划运营及站长类的自媒体原创博客

Windows系统Deepseek本地部署指南详细教程

运维笔记admin8浏览0评论

目录

  • 引言
  • 准备条件
  • 安装ollama
    • 下载ollama
    • 解决国内部分网络无法下载的问题
    • 安装ollama
    • 检查ollama安装是否完成
    • 配置ollama模型存储位置
  • 部署AI模型(Deepseek)
    • 下载安装Deepseek
    • 启动Deepseek

引言

最近DeepSeek AI太火爆了,于是乎自己尝试搭载了一个,但中途遇到了一些麻烦,就想出个适合小白的攻略。

准备条件

1.首先,你需要有一台电脑,本文以Windows系统为例,需要注意系统Win10及以上。
2.其次,你需要有一个稳定的网络,后续会涉及到下载模型,根据模型选择不同可能会有较多的流量消耗。

安装ollama

Ollama是一个开源框架,专为简化大型语言模型(LLM)在本地机器上的部署和运行而设计。它通过将模型权重、配置和数据打包为Modelfile,优化了LLM的设置和配置过程,使得非专业用户也能方便地管理和运行这些模型。Ollama支持多种LLM,并提供跨平台支持,用户可以通过简单的命令行操作或API来启动和运行模型。它在文本生成、翻译、问答系统和代码生成等多个应用场景中具有广泛的应用价值。

下载ollama

首先上链接,ollama官网

1.先进入官网,点击图中的 Download 按钮。

2.选择对应的系统版本,这里以Windows为例,选择后点击Download for Windows
按钮,就会在浏览器生成下载任务。


正常情况会进入GitHub项目页,然后生成下载任务,等待下载即可

当然,这里又有小伙伴要问了,我点了没反应或者跳转不成功怎么办。
国内部分地方网络可能会被限制,所以我们有另外的解决方法

解决国内部分网络无法下载的问题

1.你可以自行科学上网解决,比如加速器等对GitHub进行加速;

2.也以下链接至浏览器或IDM软件直接进行下载即可

https://github.xzc888.top/ollama/ollama/releases/latest/download/OllamaSetup.exe

原理说明(搬运ollama版本国内加速下载)
使用cloud flare的work搭建一个代理功能
实现下载GitHub资源,主要针对ollama

安装ollama

下载ollama完成后,我们找到安装包,双击运行安装
需要注意的是,ollama默认安装位置为C盘,无法选择存储路径


等待安装完成即可,安装完成后没有其他提示,可以通过按Win键查询

检查ollama安装是否完成

安装完成后,运行cmd命令或者终端,输入以下指令可以查看是否安装正确

ollama --version


ollama帮助指令,可以查看下其他的相关指令

ollama --help

配置ollama模型存储位置

首先在Windows‘开始菜单’点击‘鼠标右键’-打开‘Windows PowerShell’或者‘终端’(以下简称“终端”)

其中的地址改成你配置的地址,配置完成后记得重启下ollama服务和终端

setx OLLAMA_MODELS "D:\software\ollama\model"

部署AI模型(Deepseek)

1.可以进入ollama官网,点击models,然后找到Deepseek-r1模型

找到我们需要的版本,复制下载即可,注意正常来说我们都是选择1.5b的版本
版本越高对电脑的要求就越高,自己玩的话1.5b够用

ollama run deepseek-r1:1.5b


其他版本
DeepSeek-R1-Distill-Qwen-1.5B

ollama run deepseek-r1:1.5b

DeepSeek-R1-Distill-Qwen-7B

ollama run deepseek-r1:7b

DeepSeek-R1-Distill-Llama-8B

ollama run deepseek-r1:8b

DeepSeek-R1-Distill-Qwen-14B

ollama run deepseek-r1:14b

DeepSeek-R1-Distill-Qwen-32B

ollama run deepseek-r1:32b

DeepSeek-R1-Distill-Llama-70B

ollama run deepseek-r1:70b

下载安装Deepseek

打开终端,输入我们对应的版本号,等待下载即可,注意下载会有点慢
我这里用1.5b的版本

ollama run deepseek-r1:1.5b


安装完成后会出现success字样
可以通过ollama list命令查看下载的模型库

ollama list

或者

ollama ls

启动Deepseek

通过命令,运行下载的模型

ollama run [模型名称]

我这里是

ollama run deepseek-r1:1.5b

然后就可以开始畅玩Deepseek了

发布评论

评论列表(0)

  1. 暂无评论