引言

在数字化时代，掌握一款高效、稳定的软件工具对于提升工作效率至关重要。今天，我要为大家带来的是Ollama在Linux上的安装、配置和使用指南。无论你是Linux新手还是资深用户，这篇文章都将为你提供详细的操作步骤和实用技巧。

一、安装Ollama

快速安装：

只需一行命令，即可轻松完成Ollama的安装：

curl -fsSL https://ollama.com/install.sh | sh

如果你遇到快速安装的问题，可以尝试手动安装：

1. 下载安装包：

   curl -L https://ollama.com/download/ollama-linux-amd64.tgz -o ollama-linux-amd64.tgz
   

2. 解压到/usr目录：

   sudo tar -C /usr -xzf ollama-linux-amd64.tgz
   

3. 启动Ollama：

   ollama serve
   

4. 验证是否启动成功：

   ollama -v
   

特定硬件安装：

• AMD GPU：额外下载并解压ROCm包。

• ARM64：下载并解压ARM64专用包。

二、配置Ollama

推荐将Ollama设置为开机自启动：

1. 创建用户和组：

   sudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama
   sudo usermod -a -G ollama $(whoami)
   

2. 创建服务文件：

   在/etc/systemd/system/ollama.service中添加以下内容：

   [Unit]
   Description=Ollama Service
   After=network-online.target
   [Service]
   ExecStart=/usr/bin/ollama serve
   User=ollama
   Group=ollama
   Restart=always
   RestartSec=3
   Environment="PATH=$PATH"
   [Install]
   WantedBy=default.target
   

3. 启动服务：

   sudo systemctl daemon-reload
   sudo systemctl enable ollama
   

三、可选配置

根据你的硬件选择合适的配置：

• CUDA驱动（NVIDIA显卡）：下载并安装CUDA驱动，验证安装：

  nvidia-smi
  

• ROCm驱动（AMD显卡）：下载并安装ROCm驱动。

四、启动和查看状态

1. 启动服务：

   sudo systemctl start ollama
   

2. 查看状态：

   sudo systemctl status ollama
   

五、自定义配置修改

可以通过编辑systemd服务文件进行自定义配置：

sudo systemctl edit ollama

或者创建覆盖文件：

/etc/systemd/system/ollama.service.d/override.conf

六、更新Ollama

重新运行安装脚本以更新Ollama：

curl -fsSL https://ollama.com/install.sh | sh

或者重新下载安装包并解压：

curl -fsSL https://ollama.com/install.sh | OLLAMA_VERSION=0.5.7 sh

七、安装指定版本

curl -fsSL https://ollama.com/install.sh | OLLAMA_VERSION=0.5.7 sh

八、查看日志

使用以下命令查看日志：

journalctl -e -u ollama

九、卸载Ollama

1. 停止并禁用服务：

   sudo systemctl stop ollama
   sudo systemctl disable ollama
   

2. 删除Ollama可执行文件：

   sudo rm $(which ollama)
   

3. 删除相关目录和用户：

   sudo rm -r /usr/share/ollama
   sudo userdel ollama
   sudo groupdel ollama
   

4. 删除库文件：

   sudo rm -rf /usr/local/lib/ollama
   

结语

通过以上步骤，你可以在Linux上成功安装、配置和使用Ollama。希望这篇指南能帮助你高效地利用这款工具，提升工作和学习的效率。如果你有任何问题或需要进一步的帮助，请随时联系我。