Linux docker下安装ollama和deepseek

宝塔项目中:

根据镜像创建容器:

进入容器:

 sudo docker exec -it buildings /bin/bash

安装ollama:

在home/download下生成一个ollama_install.sh文件并进行安装的方式:

新建 home下的download

在本地windows 使用梯子下载:

https://github.com/ollama/ollama/releases/download/v0.1.0/ollama-linux-amd64

并放入linux的docker的 home/download中:

重命名去掉后缀:

权限:

文件移动到系统路径:

mv ollama-linux-amd64 /usr/local/bin/ollama

赋予权限:

chmod +x /usr/local/bin/ollama

启动ollama:

ollama serve

查看:

新开一个窗口:

宿主机可以访问容器中的ollama:

首先先停止ollama:

ps aux|grep ollama

删除第一个PID 

重新暴露端口并启动ollama:

最后宿主机访问网址:

 启动deepseek模型

ollama run deepseek-r1:1.5b

这里特别注意:启动ollama serve 还不够,还需要开启deepseek的模型。


ollama命令汇总:

serve:启动 Ollama 服务。

create:从 Modelfile 创建一个模型。

show:显示模型信息。

run:运行一个模型。

stop:停止正在运行的模型。

pull:从注册表中拉取一个模型。

push:将模型推送到注册表。

list:列出所有模型。

ps:列出当前正在运行的模型。

cp:复制一个模型。

rm:删除一个模型。