目录
- 引言
- 准备条件
- 安装ollama
- 下载ollama
- 解决国内部分网络无法下载的问题
- 安装ollama
- 检查ollama安装是否完成
- 配置ollama模型存储位置
- 部署AI模型(Deepseek)
- 下载安装Deepseek
- 启动Deepseek
引言
最近DeepSeek AI太火爆了,于是乎自己尝试搭载了一个,但中途遇到了一些麻烦,就想出个适合小白的攻略。
准备条件
1.首先,你需要有一台电脑,本文以Windows系统为例,需要注意系统Win10及以上。
2.其次,你需要有一个稳定的网络,后续会涉及到下载模型,根据模型选择不同可能会有较多的流量消耗。
安装ollama
Ollama是一个开源框架,专为简化大型语言模型(LLM)在本地机器上的部署和运行而设计。它通过将模型权重、配置和数据打包为Modelfile,优化了LLM的设置和配置过程,使得非专业用户也能方便地管理和运行这些模型。Ollama支持多种LLM,并提供跨平台支持,用户可以通过简单的命令行操作或API来启动和运行模型。它在文本生成、翻译、问答系统和代码生成等多个应用场景中具有广泛的应用价值。
下载ollama
首先上链接,ollama官网
1.先进入官网,点击图中的 Download 按钮。
2.选择对应的系统版本,这里以Windows为例,选择后点击Download for Windows
按钮,就会在浏览器生成下载任务。
正常情况会进入GitHub项目页,然后生成下载任务,等待下载即可
当然,这里又有小伙伴要问了,我点了没反应或者跳转不成功怎么办。
国内部分地方网络可能会被限制,所以我们有另外的解决方法
解决国内部分网络无法下载的问题
1.你可以自行科学上网解决,比如加速器等对GitHub进行加速;
2.也以下链接至浏览器或IDM软件直接进行下载即可
https://github.xzc888.top/ollama/ollama/releases/latest/download/OllamaSetup.exe
原理说明(搬运ollama版本国内加速下载)
使用cloud flare的work搭建一个代理功能
实现下载GitHub资源,主要针对ollama
安装ollama
下载ollama完成后,我们找到安装包,双击运行安装
需要注意的是,ollama默认安装位置为C盘,无法选择存储路径
等待安装完成即可,安装完成后没有其他提示,可以通过按Win键查询
检查ollama安装是否完成
安装完成后,运行cmd命令或者终端,输入以下指令可以查看是否安装正确
ollama --version
ollama帮助指令,可以查看下其他的相关指令
ollama --help
配置ollama模型存储位置
首先在Windows‘开始菜单’点击‘鼠标右键’-打开‘Windows PowerShell’或者‘终端’(以下简称“终端”)
其中的地址改成你配置的地址,配置完成后记得重启下ollama服务和终端
setx OLLAMA_MODELS "D:\software\ollama\model"
部署AI模型(Deepseek)
1.可以进入ollama官网,点击models,然后找到Deepseek-r1模型
找到我们需要的版本,复制下载即可,注意正常来说我们都是选择1.5b的版本
版本越高对电脑的要求就越高,自己玩的话1.5b够用
ollama run deepseek-r1:1.5b
其他版本
DeepSeek-R1-Distill-Qwen-1.5B
ollama run deepseek-r1:1.5b
DeepSeek-R1-Distill-Qwen-7B
ollama run deepseek-r1:7b
DeepSeek-R1-Distill-Llama-8B
ollama run deepseek-r1:8b
DeepSeek-R1-Distill-Qwen-14B
ollama run deepseek-r1:14b
DeepSeek-R1-Distill-Qwen-32B
ollama run deepseek-r1:32b
DeepSeek-R1-Distill-Llama-70B
ollama run deepseek-r1:70b
下载安装Deepseek
打开终端,输入我们对应的版本号,等待下载即可,注意下载会有点慢
我这里用1.5b的版本
ollama run deepseek-r1:1.5b
安装完成后会出现success字样
可以通过ollama list命令查看下载的模型库
ollama list
或者
ollama ls
启动Deepseek
通过命令,运行下载的模型
ollama run [模型名称]
我这里是
ollama run deepseek-r1:1.5b
然后就可以开始畅玩Deepseek了