前言
Ollama下载速度太慢,按这个方式,速度嘎嘎的快----下载地址
手动安装
如果要从以前的版本升级,则应删除旧库。比如:sudo rm -rf /usr/lib/ollama
解压
tar -C /usr -xzf ollama-linux-amd64.tgz # 解压到/usr文件夹
# 如果有 AMD GPU,还需要解压ROCm 软件包
tar -C /usr -xzf ollama-linux-amd64-rocm.tgz
# ARM 64 安装
tar -C /usr -xzf ollama-linux-arm64.tgz
运行
ollama serve
检查服务
ollama -v
添加到系统服务
创建用户和组
sudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama
sudo usermod -a -G ollama $(whoami)
创建服务文件
# /etc/systemd/system/ollama.service
[Unit]
Description=Ollama Service
After=network-online.target
[Service]
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=$PATH"
[Install]
WantedBy=multi-user.target
加载服务
sudo systemctl daemon-reload
sudo systemctl enable ollama
查看日志
journalctl -e -u ollama
卸载
删除服务
sudo systemctl stop ollama
sudo systemctl disable ollama
sudo rm /etc/systemd/system/ollama.service
删除用户和组
sudo rm -r /usr/share/ollama
sudo userdel ollama
sudo groupdel ollama
删除已安装的库
sudo rm -rf /usr/local/lib/ollama