这种方式相对比较简单,所以只给出主要步骤和相应截图。提醒一下需要自行提前安装好显卡驱动和cuda软件。
一、安装ollama
1.下载软件
软件下载官网:https://ollama.com/
2.安装软件
软件默认安装在c盘,如果想更换所在位置,下载后不要鼠标双击软件安装,用命令行方式来启动它。
OllamaSetup.exe /DIR=D:\Ollama
3.验证安装成功
重新开启cmd窗口,敲入ollama指令看是否正常。
二、下载和加载deepseek模型
1.更改模型安装路径
默认情况下,模型也是安装在C盘,模型文件一般都比较大,比较吃C盘空间,所以如果打算长期使用,建议更改安装路径。
2.创建环境变量
把步骤1中的models目录拷贝到自己新建的D:\Ollama\Imagers目录中
3.下载模型
根据自己的硬件配置情况来选择模型参数,可参考下表:
选择模型类型后,复制右边的指令到命令行执行。
ollama run deepseek-r1:1.5b
出现success就是成功完成了。
4.用ollama加载模型文件
使用ollama启动模型后,在>>>提示符后输入问题,即可进行对话。
敲入/bye命令退出对话界面,如果想重新进入对话模式,可以先用ollama list命令查看有哪些模型,再用
ollama run deepseek-r1:1.5b命令启动模型。
三、用chatbox搭建weib ui
每次都使用上面的方式对话,看起来很不习惯,所以需要一个图形界面。
搭建web ui的方法很多,这里使用常见的Chatbox。
1.下载与安装chatbox
到官网https://chatboxai.app/zh箭头指向处下载chatbox软件。
2.配置chatbox
3.使用chatbox
四、模型与ollama其它操作以及下载方法
1.查看模型指令
ollama
2.查看已安装的模型
ollama list
3.卸载模型
ollama rm deepseek-r1:1.5b
4.卸载chatbox和ollama
到windows的设置=》应用程序中卸载。