Ollama 使用指南：Linux、Windows 和 macOS

admin管理员组

文章数量:1794759

Ollama 使用指南：Linux、Windows 和 macOS

Ollama 是一个开源平台，用于部署和运行大型语言模型。它提供了一种在本地环境中运行语言模型的能力，使得用户可以在本地安全地与这些模型进行交互，而无需将数据发送到云端。

安装 Ollama

确保您已经安装了 Ollama。如果还没有安装，可以通过以下命令安装：

代码语言：javascript代码运行次数：0运行复制

# Linux, macOS
curl -s  | sh

# Windows (PowerShell)
Invoke-WebRequest -Uri  -OutFile ollama-install.ps1
.\ollama-install.ps1

启动服务

使用 ollama serve 命令启动服务。

Linux/macOS:

代码语言：javascript代码运行次数：0运行复制

ollama serve

Windows (PowerShell):

代码语言：javascript代码运行次数：0运行复制

ollama serve

配置 Ollama 以允许外部访问

默认情况下，Ollama 绑定的是 127.0.0.1:11434，这意味着它仅监听本地回环地址。要让 Ollama 在局域网内被其他设备访问，您需要配置 OLLAMA_HOST 环境变量以监听所有网络接口。

Linux/macOS:

代码语言：javascript代码运行次数：0运行复制

export OLLAMA_HOST=0.0.0.0:11434
ollama serve

Windows (PowerShell):

代码语言：javascript代码运行次数：0运行复制

$env:OLLAMA_HOST = "0.0.0.0:11434"
ollama serve

使用 Systemd 管理服务 (仅限 Linux)

如果您使用的是 Linux 系统，并且希望使用 Systemd 来管理 Ollama 服务，可以按照以下步骤操作：

创建服务文件 创建一个新的 Systemd 服务文件，例如 /etc/systemd/system/ollama.service，并添加以下内容：

代码语言：javascript代码运行次数：0运行复制

[Unit]
Description=Ollama AI Service
After=network.target

[Service]
Type=simple
User=<your-username>
WorkingDirectory=/path/to/ollama
ExecStart=/usr/bin/ollama serve
Restart=on-failure
Environment="OLLAMA_HOST=0.0.0.0:11434"

[Install]
WantedBy=multi-user.target

启用服务 通过以下命令启用并启动服务：

代码语言：javascript代码运行次数：0运行复制

sudo systemctl enable ollama.service
sudo systemctl start ollama.service

停止服务 如果需要停止服务，可以使用以下命令：

代码语言：javascript代码运行次数：0运行复制

sudo systemctl stop ollama.service

使用 ollama run 启动模型

使用 ollama run 命令启动单个模型实例。例如，要启动名为 gemma 的模型，可以使用以下命令：

代码语言：javascript代码运行次数：0运行复制

ollama run gemma

如果您还没有下载该模型，Ollama 会自动为您下载它。您可以通过 ollama list 命令查看所有可用的模型列表。

查看正在运行的模型

使用 ollama ps 命令查看正在运行的模型：

代码语言：javascript代码运行次数：0运行复制

ollama ps

验证服务状态

由于 ollama status 命令不存在，您可以使用以下方法之一来检查服务的状态：

使用 ps 命令

Linux/macOS:

代码语言：javascript代码运行次数：0运行复制

ps aux | grep ollama

Windows (PowerShell):

代码语言：javascript代码运行次数：0运行复制

Get-Process ollama

使用 Docker 命令

查看运行中的 Docker 容器：

代码语言：javascript代码运行次数：0运行复制

docker ps

使用 systemctl 命令 (仅限 Linux)

如果您使用 Systemd 来管理服务，可以使用以下命令来查看服务的状态：

代码语言：javascript代码运行次数：0运行复制

sudo systemctl status ollama.service

结论

通过以上步骤，您可以在 Linux、Windows 和 macOS 系统上成功地配置 Ollama 服务，使其能够在您的局域网内被其他设备访问。这不仅增加了 Ollama 的可用性，还为您提供了更多的灵活性来利用其强大的语言处理功能。

本文参与 腾讯云自媒体同步曝光计划，分享自作者个人站点/博客。 原始发表：2024-10-11，如有侵权请联系 cloudcommunity@tencent 删除前往查看linuxwindows服务模型MacOS

本文标签： Ollama 使用指南LinuxWindows 和 macOS