问答社区
手动部署安装关于Linux环境的Ollama奥尔拉马方法
分类:CHATGPT
安装部署:
安装奥尔拉马运行这一行线:
curl -fsSL https://ollama.com/install.sh | sh
一般保护股支助
当amd贡献了amdgpu
驱动器上游到官方的线性内核源,版本是老的,可能不支持所有罗姆功能。我们建议你安装最新的驱动程序 HTPS://www.amd.com/en/支持/LINU-司机 最好的支持。
手动安装
下载ollama
二进制的
欧拉玛是作为一个独立的二元体分布的。下载到你路径中的目录:
sudo curl -L https://ollama.com/download/ollama-linux-amd64 -o /usr/bin/ollama
sudo chmod +x /usr/bin/ollama
添加奥尔拉马作为启动服务(推荐)
为欧拉玛创建一个用户:
sudo useradd -r -s /bin/false -m -d /usr/share/ollama ollama
在/etc/systemd/system/ollama.service
:
[Unit]
Description=Ollama Service
After=network-online.target
[Service]
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
[Install]
WantedBy=default.target
开始服务:
sudo systemctl daemon-reload
sudo systemctl enable ollama
安装旋转数据系统驱动器(可选--适用于英伟达GPPS)
下载及安装 库达。
通过运行以下命令来验证驱动程序的安装情况,该命令将打印有关您的GPU的详细信息:
nvidia-smi
安装罗姆(可选----用于拉登GPS)
一定要安装火箭6
奥利亚马
开始用欧拉玛systemd
:
sudo systemctl start ollama
更新
再次运行安装脚本更新奥尔拉马:
curl -fsSL https://ollama.com/install.sh | sh
或下载欧拉玛二进制:
sudo curl -L https://ollama.com/download/ollama-linux-amd64 -o /usr/bin/ollama
sudo chmod +x /usr/bin/ollama
浏览日志
要查看作为启动服务运行的奥尔拉马日志,请运行:
journalctl -u ollama
卸载
移除奥拉马服务:
sudo systemctl stop ollama
sudo systemctl disable ollama
sudo rm /etc/systemd/system/ollama.service
从你的资料库目录中移除奥尔拉马二进制文件(两者均为/usr/local/bin
,/usr/bin
,或/bin
):
sudo rm $(which ollama)
删除下载的模型和奥尔拉马服务用户和小组:
sudo rm -r /usr/share/ollama
sudo userdel ollama
sudo groupdel ollama