WSL2 本地 Qwen 模型对接 Windows 桌面应用整体方案报告

报告日期：2026年10月
适用场景：Windows 主机 + WSL2 Ubuntu（Conda 部署 Qwen3.5 9B 量化版），已暴露 OpenAI 兼容 API，要求零付费、无官方额度限制，支持联网搜索、本地文件操作、命令行控制等扩展能力。

一、整体方案概述

核心架构：

1. 模型侧（WSL2）：Qwen3.5 9B 量化版通过 Conda 环境运行，使用 vLLM、llama.cpp server、Ollama 或其他方式暴露 OpenAI 兼容 API（默认监听 0.0.0.0:端口）。
2. 网络打通：Windows 侧通过 localhost:端口 或 WSL IP 访问 API（必要时配置 Windows 防火墙与端口转发）。
3. 客户端侧（Windows 桌面应用）：选择支持自定义 OpenAI 兼容端点的桌面客户端，连接上述 API。

4. 能力扩展：统一通过 MCP（Model Context Protocol） 实现工具调用。推荐免费/无额度方案：

   • 网页搜索：DuckDuckGo MCP、自建 SearXNG + MCP
   • 网页抓取：mcp-server-fetch、Playwright 类 MCP
   • 本地文件：@modelcontextprotocol/server-filesystem
   • 命令行：Shell / Windows-MCP / 自定义 shell MCP
   • 浏览器操作：Playwright MCP、Browser MCP、Windows-MCP（UI 自动化）

优势：模型完全本地运行，隐私可控；工具侧优先选择无 Key、无官方额度的开源 MCP，满足“不花钱、不限额”要求。
安全原则：Shell 与文件系统工具务必限制工作目录，并开启“每次确认”模式；不信任的 MCP 不启用。

二、推荐桌面应用对比总览

三、各应用详细介绍与能力对比

1. Cherry Studio

• 特性：多模型聚合、内置知识库、Agent 工作流、大量预设助手、中文优化好。不运行模型本身，专注客户端体验。
• 跨平台：Windows、macOS、Linux 原生桌面应用。
• 联网访问 / 网页搜索：通过 MCP 或内置搜索插件实现，可接免费 DuckDuckGo / SearXNG。
• 本地文件操控：通过 filesystem MCP 实现读写（需限制目录）。
• 网页抓取：fetch 类 MCP 或 Playwright MCP。
• 命令行操控：支持 Shell MCP / Windows-MCP，可执行 PowerShell/CMD（需谨慎开启）。
• 浏览器操作：通过 Playwright 或 Windows-MCP 实现点击、输入、截图等。

2. AnythingLLM

• 特性：以工作区（Workspace）为核心的 RAG 与 Agent 平台，内置免费网页搜索、文档处理、Agent Flows（无代码流程）、定时任务。对本地模型与自定义 API 支持成熟。
• 跨平台：Windows / macOS / Linux 桌面版 + Docker 自托管。
• 联网访问 / 网页搜索：内置免费搜索（默认可用，无 Key），也可通过 MCP 扩展。
• 本地文件操控：内置文件技能 + filesystem MCP，支持读写与知识库导入。
• 网页抓取：内置抓取技能 + MCP（fetch / scrape）。
• 命令行操控：通过 MCP 接入 Shell 工具。
• 浏览器操作：可接 Playwright / Browser MCP 实现较完整浏览器控制。

3. Jan

• 特性：完全开源、界面简洁类似 ChatGPT，支持本地推理引擎与自定义 API 并存，MCP 已稳定支持。
• 跨平台：Windows / macOS / Linux。
• 联网访问 / 网页搜索：通过 MCP（DuckDuckGo、SearXNG、Serper 等）实现，也可接 You.com 等。
• 本地文件操控：filesystem MCP。
• 网页抓取：fetch / scrape 类 MCP。
• 命令行操控：Shell MCP（需自行配置）。
• 浏览器操作：Browser MCP 或 Playwright MCP。

4. Msty

• 特性：界面现代美观，支持多引擎（Ollama、llama.cpp 等）管理，Toolbox（MCP 实现）扩展性强，支持 Persona 与知识栈。
• 跨平台：Windows / macOS / Linux。
• 联网访问 / 网页搜索：通过 Toolbox 添加搜索 MCP；部分高级实时数据功能需付费版。
• 本地文件操控：filesystem MCP。
• 网页抓取：fetch 类 MCP。
• 命令行操控：Shell MCP。
• 浏览器操作：可接相关 MCP。

5. Chatbox

• 特性：轻量、跨端同步好、提示词管理优秀，配置简单。适合纯聊天为主的用户。
• 跨平台：Windows / macOS / Linux / iOS / Android。
• 联网访问 / 网页搜索：内置 Web Search 引擎 + MCP（含 Fetch 等）。
• 本地文件操控：内置文件工具集 + MCP。
• 网页抓取：内置 Fetch MCP。
• 命令行操控：通过自定义 MCP 实现（能力相对较弱）。
• 浏览器操作：有限，主要依赖 MCP 扩展。

6. PyGPT

• 特性：功能全面的开源桌面助手，内置 Python/OS 执行、终端、Web 搜索插件、MCP 连接器、Agent 工作流、RAG。
• 跨平台：Windows / macOS / Linux。
• 联网访问 / 网页搜索：内置 Web Search 插件（DuckDuckGo / Google / Bing）+ MCP。
• 本地文件操控：内置 Files I/O 插件 + filesystem MCP。
• 网页抓取：Web Search 插件支持抓取与爬取。
• 命令行操控：内置 Terminal 工具 + Shell / 自定义命令插件，支持沙箱。
• 浏览器操作：Canvas 插件 + Playwright 自动化支持。

四、能力对比矩阵（针对本场景）

五、实施建议与落地路径

1. 短期（1-2 天）

   • 优先测试 AnythingLLM 与 Cherry Studio（两者 MCP 与 Agent 能力最成熟）。
   • 配置免费 MCP：filesystem + DuckDuckGo/SearXNG + fetch。
   • 验证模型工具调用是否正常（Qwen3.5 系列通常支持）。

2. 中期

   • 根据使用习惯选择主客户端（美观选 Msty，纯开源选 Jan 或 PyGPT，轻量选 Chatbox）。
   • 增加 Windows-MCP 实现更强桌面控制（截图、点击、PowerShell）。

3. 安全与稳定性

   • API 仅监听本地，必要时加简单鉴权。
   • Shell 工具始终开启人工确认。
   • 定期备份 MCP 配置与知识库。

4. 备选补充

   • 若更倾向浏览器界面：Open WebUI + 自建 SearXNG（网页搜索体验目前最强）。
   • 若以编码为主：VS Code + Cline 插件。

本方案完全基于现有 WSL2 Qwen API，无需额外付费服务，扩展性强，可根据实际使用频率逐步增加工具。若需要某一应用的详细配置步骤（API 填写、具体 MCP JSON 示例、端口转发命令等），可进一步指定应用名称提供落地手册。

1. 切换到 root 超级用户权限

sudo su

2. 创建 docker-compose.yml 文件

echo "services:" > docker-compose.yml
echo "  debian-desktop:" >> docker-compose.yml
echo "    image: lscr.io/linuxserver/webtop:debian-xfce" >> docker-compose.yml
echo "    container_name: debian_gui" >> docker-compose.yml
echo "    privileged: true" >> docker-compose.yml
echo "    ports:" >> docker-compose.yml
echo "      - '6080:3000'" >> docker-compose.yml

这几行用 echo 命令逐行写入一个 docker-compose.yml 配置文件，内容如下：

3. docker-compose up -d

docker-compose up -d

根据上面写好的配置文件，后台启动（-d = detached 模式）这个容器。Docker 会自动拉取镜像（如果本地没有的话），然后运行容器。

FreeLLMAPI 的用法就 4 步：安装 → 加各家免费 Key → 拿统一 Token → 当 OpenAI 接口调。

一、方式 A：Docker 一键（最省事）

curl -fsSL https://freellmapi.co/install.sh | bash

装完打开 http://localhost:3001

二、方式 B：Docker Compose（推荐常驻）

git clone https://github.com/tashfeenahmed/freellmapi.git
cd freellmapi
ENCRYPTION_KEY="$(openssl rand -hex 32)" printf "ENCRYPTION_KEY=%s\nPORT=3001\n" "$ENCRYPTION_KEY" >.env
docker compose up -d

浏览器进 http://localhost:3001 → Keys 页面 加 Google / Groq / Mistral / OpenRouter / 智谱 / Moonshot 等免费 Key → 页面顶部复制 freellmapi-xxxx 统一 Token。

想让同局域网其他设备访问：
HOST_BIND=0.0.0.0 docker compose up -d（只在自家信任网络这么干，别公网暴露）

三、方式 C：本机跑源码（Node 20+）

git clone https://github.com/tashfeenahmed/freellmapi.git
cd freellmapi
npm install
cp .env.example .env
echo "ENCRYPTION_KEY=$(node -e "console.log(require('crypto').randomBytes(32).toString('hex'))")" >> .env
npm run dev

• 管理面板：http://localhost:5173
• 接口地址：http://localhost:3001/v1

四、怎么调（跟 OpenAI 一模一样）

from openai import OpenAI
client = OpenAI(
    base_url="http://localhost:3001/v1",
    api_key="freellmapi-xxxx",   # 面板里拿的统一 Token
)

resp = client.chat.completions.create(
    model="auto",                # 自动选可用模型；也可写 gemini-2.5-flash / llama-3.3-70b-versatile
    messages=[{"role":"user","content":"用一句话解释乡愁"}],
)
print(resp.choices[0].message.content)
print("实际路由：", resp.headers.get("x-routed-via"))

curl 也行：

curl http://localhost:3001/v1/chat/completions \
  -H "Authorization: Bearer freellmapi-xxxx" \
  -H "Content-Type: application/json" \
  -d '{"model":"auto","messages":[{"role":"user","content":"hi"}]}'

五、接编码工具

• Claude Code：npx freellmapi setup-claude

• Codex / Aider / 任意 OpenAI 兼容客户端：

  export OPENAI_BASE_URL=http://localhost:3001/v1
  export OPENAI_API_KEY=freellmapi-xxxx

六、新手别踩的坑

1. 加完 Key 等 1–2 分钟健康检查，别立马调，否则报“无可用模型”
2. 它是单用户本机网关，不是多用户 SaaS，别直接挂公网
3. 免费层会 429，靠 Fallback Chain 自动切换；别拿来做生产 SLA
4. ENCRYPTION_KEY 别丢，丢了之前存的 provider Key 解不出来
5. 本地模型也能加：Ollama / vLLM / LM Studio 填 http://host.docker.internal:11434/v1 当自定义 provider

Game.Cheats.Manager.Portable 是 Game Cheats Manager 的免安装便携版：解压即跑，不写注册表、不装服务，U 盘也能带。

它把 FLiNG、风灵月影、小幸、Cheat Engine 表等单机游戏修改器聚到一个面板里，按游戏名搜索、一键下载、自动归类、启动/更新/删除都在软件内完成，还能把修改器目录加进杀软排除项防误删。

只适合单机离线游戏，联机/竞技游戏用了必封号；便携版好处是“用完删文件夹就干净”，适合不想在系统里留痕的玩家。

下载地址

1.环境管理（核心）

创建新环境：

conda create -n 环境名 python=3.10

（可指定 Python 版本）

激活环境：

conda activate 环境名

退出当前环境：

conda deactivate

查看所有环境：

conda env list

或

conda info --envs

（当前激活的环境旁会有 * 标记）

删除环境：

conda remove -n modelscope_download_env --all -y

克隆环境：

conda create -n 新环境名 --clone 原环境名

（适合备份或复制环境）

2.包管理

安装包：

conda install 包名

可加 =版本号 指定版本，如

conda install numpy=1.24.0

卸载包：

conda remove 包名

查看已安装的包：

conda list

更新包：

conda update 包名

或

conda update --all

更新当前环境所有包

搜索包：

conda search 包名

3.环境导出与复现（团队协作必备）

导出完整环境配置：

conda env export > environment.yml

仅导出手动安装的包：

conda env export --from-history > environment.yml

（跨平台兼容性更好）

从配置文件重建环境：

conda env create -f environment.yml

4.镜像源管理（国内加速必备）

查看当前通道：

conda config --show channels

添加清华镜像源：

conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main/

设置显示通道

URL：conda config --set show_channel_urls yes

5.清理与优化

清理所有缓存和无用包：

conda clean --all

查看帮助：

conda --help

或

conda -h

查看版本：

conda --version

或

conda -V

优先使用 conda install 安装包；如果 Conda 找不到某个包，再使用 pip install 作为补充。