宝塔项目中:
根据镜像创建容器:
进入容器:
sudo docker exec -it buildings /bin/bash
安装ollama:
在home/download下生成一个ollama_install.sh文件并进行安装的方式:
新建 home下的download
在本地windows 使用梯子下载:
https://github.com/ollama/ollama/releases/download/v0.1.0/ollama-linux-amd64
并放入linux的docker的 home/download中:
重命名去掉后缀:
权限:
文件移动到系统路径:
mv ollama-linux-amd64 /usr/local/bin/ollama
赋予权限:
chmod +x /usr/local/bin/ollama
启动ollama:
ollama serve
查看:
新开一个窗口:
宿主机可以访问容器中的ollama:
首先先停止ollama:
ps aux|grep ollama
删除第一个PID
重新暴露端口并启动ollama:
最后宿主机访问网址:
启动deepseek模型
ollama run deepseek-r1:1.5b
这里特别注意:启动ollama serve 还不够,还需要开启deepseek的模型。
ollama命令汇总:
serve
:启动 Ollama 服务。
create
:从 Modelfile 创建一个模型。
show
:显示模型信息。
run
:运行一个模型。
stop
:停止正在运行的模型。
pull
:从注册表中拉取一个模型。
push
:将模型推送到注册表。
list
:列出所有模型。
ps
:列出当前正在运行的模型。
cp
:复制一个模型。
rm
:删除一个模型。