为Ollama开放局域网访问端口（全平台指南）

Ollama开放端口让局域网访问指南

Ollama作为一款强大的开源大语言模型运行工具，默认情况下只允许本地访问。然而，在实际应用中，我们可能希望局域网内的其他设备也能访问到Ollama服务。本文将详细介绍如何在Windows、Linux和Mac系统上开放端口，让Ollama服务能够在局域网内被访问。 ollama open port

Windows系统

在Windows系统上，要让Ollama服务在局域网内可访问，主要需要完成以下两步：

设置环境变量OLLAMA_HOST
- Ollama服务使用环境变量OLLAMA_HOST来指定监听的地址。默认情况下，它只监听localhost，即只能本地访问。
- 要让局域网内其他设备访问Ollama服务，需要将OLLAMA_HOST设为0.0.0.0。这表示Ollama将监听所有网络接口上的连接尝试。
- 设置环境变量的步骤如下：
  - 右键点击“此电脑”或“计算机”，选择“属性”。
  - 在左侧点击“高级系统设置”。
  - 在弹出的窗口中，点击“环境变量”。
  - 在“系统变量”部分，点击“新建”。
  - 在“变量名”输入框中，输入OLLAMA_HOST。
  - 在“变量值”输入框中，输入0.0.0.0，然后点击“确定”。
  - 设置完成后，确保关闭并重新打开命令行窗口，使新的环境变量生效。
在Windows防火墙中开放端口
- 为了使其他设备能够访问Ollama服务，我们需要在Windows防火墙中开放Ollama服务运行的端口（例如11434）。
- 打开“控制面板”，搜索并选择“Windows Defender防火墙”。
- 在左侧点击“高级设置”，进入高级防火墙设置页面。
- 在左侧菜单中，点击“入站规则”，然后在右侧点击“新建规则”。
- 选择“端口”作为规则类型，然后点击“下一步”。
- 选择TCP，并在“特定本地端口”一栏中输入11434，然后点击“下一步”。
- 选择“允许连接”，点击“下一步”。
- 根据需求选择应用的网络类型（域、专用或公用），点击“下一步”。
- 为这条规则命名（如“Allow Ollama Port 11434”），然后点击“完成”。

Linux系统

在Linux系统上，要让Ollama服务在局域网内可访问，主要需要完成以下两步：

修改配置文件
- 对于基于Systemd管理的Linux发行版，可以通过以下命令编辑Ollama服务配置：
  1
  
  sudo systemctl edit ollama.service
- 执行该命令后，默认会使用nano编辑器打开配置文件。在打开的配置文件中，找到合适的位置添加以下内容：
  1 2
  
  [Service] Environment="OLLAMA_HOST=0.0.0.0:11434"
- 这一步的作用是将Ollama服务绑定到所有可用网络接口（0.0.0.0）的11434端口上，确保局域网内其他设备能够访问。
应用配置并重启服务
- 完成配置文件的修改后，需要重新加载Systemd守护进程的配置，并重启Ollama服务，使修改生效：
  1 2
  
  sudo systemctl daemon-reload sudo systemctl restart ollama.service
开放防火墙端口（如需）
- 如果系统启用了防火墙，还需要开放相应的TCP端口号以便外部通信。例如，使用firewalld工具可以执行以下命令：
  1 2
  
  sudo firewall-cmd --zone=public --add-port=11434/tcp --permanent sudo firewall-cmd --reload

Mac系统

在Mac系统上，要让Ollama服务在局域网内可访问，主要需要完成以下步骤：

设置环境变量OLLAMA_HOST
- 打开Terminal应用，执行以下命令来设置环境变量：
  1
  
  export OLLAMA_HOST=0.0.0.0:11434
- 注意，这样设置的环境变量是临时的，每次开机都需要重新设置。为了永久生效，可以将上述命令添加到~/.zshrc文件中：
  1
  
  nano ~/.zshrc
  在文件末尾添加以下内容：
  1
  
  export OLLAMA_HOST=0.0.0.0:11434
  保存并退出编辑器（在nano中，按Ctrl+X，然后按Y确认保存）。
测试访问
- 在Mac本机浏览器中输入http://127.0.0.1:11434进行测试。
- 在局域网中的其他设备浏览器中输入http://<Mac本机IP地址>:11434进行测试。例如，如果Mac本机的IP地址是192.168.1.100，则在其他设备浏览器中输入http://192.168.1.100:11434。

总结

通过以上步骤，我们可以在Windows、Linux和Mac系统上成功开放端口，让Ollama服务能够在局域网内被访问。这样，局域网内的其他设备就可以方便地调用Ollama服务，实现更广泛的应用场景。