【纯国外大模型方案】在Linux 服务器上使用的免费本地大模型可以接入网站当中使用，以实现Grok聊天模式的人机对话和搜索整合内容的方法分享。

2026-04-09 23:59:55 作者：泥人传说管理员 分类：建站相关 22

在 Linux 服务器（推荐 Ubuntu 22.04 / 24.04 LTS）上完全不使用 Docker 的原生部署方案，已全面切换为国外开源大模型（Meta Llama 系列、Mistral AI 等），实现类似 Grok 的聊天网站（人机对话 + 自动搜索整合内容）。

Ollama、Open WebUI、SearXNG 的部署步骤完全不变，仅模型拉取部分改为国外大模型（支持原生工具调用 Tool Calling，能自动触发搜索并整合实时内容）。这些模型均为国外开发者开源（Meta 美国、Mistral 法国），推理能力强、多语言支持优秀，适合构建 Grok-like Agent。

假设你已以 root 或 sudo 权限用户登录服务器。

【纯国外大模型方案】在Linux 服务器上使用的免费本地大模型可以接入网站当中使用，以实现Grok聊天模式的人机对话和搜索整合内容的方法分享。

1. 系统准备（所有步骤前执行）

Bash
sudo apt update && sudo apt upgrade -y
sudo apt install -y curl git python3 python3-venv python3-pip python3-dev build-essential \
    uwsgi uwsgi-plugin-python3 libxslt-dev zlib1g-dev libffi-dev libssl-dev ufw
sudo ufw allow 22   # SSH
sudo ufw allow 8080 # Open WebUI 端口（后续可改用 Nginx 反代到 80/443）
sudo ufw --force enable

2. 安装 Ollama（本地大模型引擎 + systemd 服务）

Bash
# 一键安装（自动创建 ollama 用户和 systemd 服务）
curl -fsSL https://ollama.com/install.sh | sh

# 让 Ollama 在服务器上所有 IP 监听
sudo systemctl edit ollama
# 在弹出的编辑器中粘贴以下内容后保存退出：
# [Service]
# Environment="OLLAMA_HOST=0.0.0.0"

sudo systemctl daemon-reload
sudo systemctl restart ollama
sudo systemctl enable ollama
sudo systemctl status ollama   # 确认 active (running)

拉取推荐国外大模型（2026 年主流，支持工具调用）：

Bash
# 强烈推荐 Meta Llama 3.3 70B（国外旗舰，推理能力顶级，工具调用稳定，接近 Grok 水平）
ollama pull llama3.3:70b

# Meta 最新 Llama 4 系列（多模态、Agent 能力更强，推荐硬件充足时使用）
ollama pull llama4:scout     # Scout 变体（较轻量，实用）
# ollama pull llama4           # 完整版（更大）

# 备选：法国 Mistral Large（Agentic 能力优秀，原生函数调用强）
ollama pull mistral-large

这些模型均在 Ollama 官方库中直接可用，完全免费。首次拉取需下载几十 GB（量化版已优化），拉取完成后可无限本地运行。 硬件提醒：70B 模型量化后约需 40GB+ VRAM/RAM；Llama 4 Scout 更友好（视量化）。若硬件有限，可先用较小量化标签（如 :q4_K_M）。

Ollama API 地址：http://127.0.0.1:11434（或服务器 IP）。

3. 安装 Open WebUI（网页聊天界面 + systemd 服务）

Bash
# 创建专用用户和目录
sudo useradd -r -s /bin/false -m -d /opt/open-webui openwebui
sudo chown -R openwebui:openwebui /opt/open-webui

# 切换到 openwebui 用户安装
sudo -H -u openwebui -i
python3 -m venv /opt/open-webui/venv
source /opt/open-webui/venv/bin/activate
pip install --upgrade pip
pip install open-webui

# 测试运行（Ctrl+C 退出）
open-webui serve --host 0.0.0.0 --port 8080

创建 systemd 服务（开机自启）：

Bash
exit
sudo nano /etc/systemd/system/open-webui.service

粘贴以下内容：

ini
[Unit]
Description=Open WebUI (Ollama Chat Interface)
After=network.target ollama.service

[Service]
Type=simple
User=openwebui
Group=openwebui
WorkingDirectory=/opt/open-webui
Environment="PATH=/opt/open-webui/venv/bin"
ExecStart=/opt/open-webui/venv/bin/open-webui serve --host 0.0.0.0 --port 8080
Restart=always
RestartSec=5

[Install]
WantedBy=multi-user.target

启动：

Bash
sudo systemctl daemon-reload
sudo systemctl enable --now open-webui
sudo systemctl status open-webui

浏览器访问 http://你的服务器IP:8080，首次创建管理员账号。 设置 → Connections 中确认 Ollama Base URL 为 http://127.0.0.1:11434。

4. 安装 SearXNG（本地隐私搜索引擎 + systemd 服务）

（步骤与之前完全相同，仅复制关键命令）

Bash
sudo apt install -y python3-dev python3-babel python3-venv python-is-python3 \
    uwsgi uwsgi-plugin-python3 git build-essential libxslt-dev zlib1g-dev libffi-dev libssl-dev

sudo useradd --shell /bin/bash --system --home-dir "/usr/local/searxng" --comment 'Privacy-respecting metasearch engine' searxng
sudo mkdir -p "/usr/local/searxng"
sudo chown -R searxng:searxng "/usr/local/searxng"

sudo -H -u searxng -i
git clone https://github.com/searxng/searxng "/usr/local/searxng/searxng-src"
python3 -m venv "/usr/local/searxng/searx-pyenv"
echo ". /usr/local/searxng/searx-pyenv/bin/activate" >> "/usr/local/searxng/.profile"
exit
sudo -H -u searxng -i

pip install -U pip setuptools wheel pyyaml msgspec typing-extensions pybind11
cd "/usr/local/searxng/searxng-src"
pip install --use-pep517 --no-build-isolation -e .

sudo mkdir -p /etc/searxng
sudo cp "/usr/local/searxng/searxng-src/utils/templates/etc/searxng/settings.yml" /etc/searxng/settings.yml
sudo sed -i -e "s/ultrasecretkey/$(openssl rand -hex 16)/g" /etc/searxng/settings.yml

# 关键：开启 JSON 输出
sudo nano /etc/searxng/settings.yml

在 search: 部分添加：

YAML
search:
  formats:
    - html
    - json

创建 systemd 服务：

Bash
exit
sudo nano /etc/systemd/system/searxng.service

粘贴：

ini
[Unit]
Description=SearXNG Search Engine
After=network.target

[Service]
User=searxng
Group=searxng
WorkingDirectory=/usr/local/searxng/searxng-src
Environment="SEARXNG_SETTINGS_PATH=/etc/searxng/settings.yml"
ExecStart=/usr/local/searxng/searx-pyenv/bin/python searx/webapp.py
Restart=always
RestartSec=5

[Install]
WantedBy=multi-user.target

启动：

Bash
sudo systemctl daemon-reload
sudo systemctl enable --now searxng
sudo systemctl status searxng

SearXNG 运行在 http://127.0.0.1:8888。

5. 在 Open WebUI 中开启“搜索整合”功能

  1. 浏览器打开 http://你的服务器IP:8080 → 登录。
  2. 右上角 ⚙️ → Admin Panel → Settings → Web Search / Retrieval。
  3. Search Engine Provider 选择 SearXNG。
  4. SearXNG URL 填 http://127.0.0.1:8888。
  5. 保存并重启 Open WebUI（sudo systemctl restart open-webui）。
  6. 新建聊天 → 选择 llama3.3:70b（或 Llama 4 / Mistral Large）→ 打开 Web Search 开关。

现在输入“今天最新 AI 新闻是什么？”，模型会自动调用 SearXNG → 整合最新内容 → 回复带来源，像 Grok 一样。国外模型的工具调用能力在此场景下非常稳定。

6. 推荐生产优化（可选）

  • Nginx 反代 HTTPS（同之前）。
  • 日志查看：journalctl -u open-webui -f 等。
  • 更新模型：ollama pull llama3.3:70b 即可。

完整测试：访问网页 → 新聊天 → 提问实时信息问题 → 观察自动搜索效果。

此方案使用纯国外大模型，隐私安全、免费、无审查，性能与 Grok 接近（Llama 3.3 70B 推理能力尤为出色）。

未经允许不得转载：泥人传说 » 【纯国外大模型方案】在Linux 服务器上使用的免费本地大模型可以接入网站当中使用，以实现Grok聊天模式的人机对话和搜索整合内容的方法分享。
分享到：
赞(0)

相关推荐

全球云加速，高防CDN，提供全球约60个地区或国家云服务器，三网CN2 GIA和VIP GIA专线，双ISP家宽静态住宅原生IP的服务器，满足您的多元化需求。

评论抢沙发

取消

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址

热门文章

苹果CMS V10版手动添加代码实现自动生成网站地图的方法
wordpress的HTML5播放器插件分享，自建插件，如有错误请评论区反馈。
网站404页面的设置与404页面3秒后跳回首页的设置技巧
WordPress的HTML5魔方幻灯片插件，免费幻灯片插件分享，自建插件，如果有什么BUG请在评论区反馈。
如何提高网站速度与抗攻击能力：wordpress、cloudflare、waf与memcached的完整教程
刚刚用ChatGPT-4O写了一个WordPress主题，你们来验证一下它的代码是否准确。

最新文章

2026年ASO自然排名优化策略 2026年ASO自然排名算法规则 AI对话搜索网站 AI搜索网站 AI智能聊天搜索网站 ASO优化策略 ASO自然排名 ASO自然排名算法规则优化策略 GEO Grok Ollama Open WebUI SearXNG Ubuntu WAF Web应用防火墙 wordpress wordpress HTML5播放器 wordpress HTML5播放器安装 wordpress HTML5播放器安装方法 WordPress主题 wordpress代码优化 wordpress优化 wordpress优化技术分享 wordpress使用技巧 wordpress使用技巧分享 wordpress侧边栏调用热门文章 wordpress侧边栏调用热门文章列表 wordpress修改登陆窗口 wordpress建站技巧 wordpress建站技巧分享 wordpress技术 WordPress插件 wordpress程序优化 wordpress网站实现随机文章列表 wordpress网站首页优化 wordpress自定义多重筛选字段 wordpress自定义多重筛选字段列表 wordpress调用热门文章列表 仿Grok网站 本地语言大模型构建智能对话网站 生成式引擎优化 给wordpress登陆窗口添加验证码 自定义多重筛选字段列表 通过代码修改wordpress