图龙网络科技

问答社区

原创作者: 图龙网络科技 发布时间: 2023-09-23 229.8K 人阅读

手动部署安装关于Linux环境的Ollama奥尔拉马方法

图龙网络科技 发布于 7个月前 分类:CHATGPT

安装部署:

安装奥尔拉马运行这一行线:

curl -fsSL https://ollama.com/install.sh | sh

一般保护股支助

当amd贡献了amdgpu 驱动器上游到官方的线性内核源,版本是老的,可能不支持所有罗姆功能。我们建议你安装最新的驱动程序 HTPS://www.amd.com/en/支持/LINU-司机 最好的支持。

手动安装

下载ollama 二进制的

欧拉玛是作为一个独立的二元体分布的。下载到你路径中的目录:

sudo curl -L https://ollama.com/download/ollama-linux-amd64 -o /usr/bin/ollama
sudo chmod +x /usr/bin/ollama

添加奥尔拉马作为启动服务(推荐)

为欧拉玛创建一个用户:

sudo useradd -r -s /bin/false -m -d /usr/share/ollama ollama

/etc/systemd/system/ollama.service :

[Unit]
Description=Ollama Service
After=network-online.target

[Service]
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3

[Install]
WantedBy=default.target

开始服务:

sudo systemctl daemon-reload
sudo systemctl enable ollama

安装旋转数据系统驱动器(可选--适用于英伟达GPPS)

下载及安装 库达。

通过运行以下命令来验证驱动程序的安装情况,该命令将打印有关您的GPU的详细信息:

nvidia-smi

安装罗姆(可选----用于拉登GPS)

下载及安装

一定要安装火箭6

奥利亚马

开始用欧拉玛systemd :

sudo systemctl start ollama

更新

再次运行安装脚本更新奥尔拉马:

curl -fsSL https://ollama.com/install.sh | sh

或下载欧拉玛二进制:

sudo curl -L https://ollama.com/download/ollama-linux-amd64 -o /usr/bin/ollama
sudo chmod +x /usr/bin/ollama

浏览日志

要查看作为启动服务运行的奥尔拉马日志,请运行:

journalctl -u ollama

卸载

移除奥拉马服务:

sudo systemctl stop ollama
sudo systemctl disable ollama
sudo rm /etc/systemd/system/ollama.service

从你的资料库目录中移除奥尔拉马二进制文件(两者均为/usr/local/bin ,/usr/bin ,或/bin ):

sudo rm $(which ollama)

删除下载的模型和奥尔拉马服务用户和小组:

sudo rm -r /usr/share/ollama
sudo userdel ollama
sudo groupdel ollama

0个回复

  • 龙族们都在等待回复

提供中小企业建站高端正版精品系统

正品模板 购买协议