WSL2 本地 Qwen 模型对接 Windows 桌面应用整体方案报告
WSL2 本地 Qwen 模型对接 Windows 桌面应用整体方案报告
报告日期：2026年10月
适用场景：Windows 主机 + WSL2 Ubuntu（Conda 部署 Qwen3.5 9B 量化版），已暴露 OpenAI 兼容 API，要求零付费、无官方额度限制，支持联网搜索、本地文件操作、命令行控制等扩展能力。
一、整体方案概述
核心架构：
- 模型侧（WSL2）：Qwen3.5 9B 量化版通过 Conda 环境运行，使用 vLLM、llama.cpp server、Ollama 或其他方式暴露 OpenAI 兼容 API（默认监听
0.0.0.0:端口）。 - 网络打通：Windows 侧通过
localhost:端口或 WSL IP 访问 API（必要时配置 Windows 防火墙与端口转发）。 - 客户端侧（Windows 桌面应用）：选择支持自定义 OpenAI 兼容端点的桌面客户端，连接上述 API。
能力扩展：统一通过 MCP（Model Context Protocol） 实现工具调用。推荐免费/无额度方案：
- 网页搜索：DuckDuckGo MCP、自建 SearXNG + MCP
- 网页抓取：mcp-server-fetch、Playwright 类 MCP
- 本地文件：@modelcontextprotocol/server-filesystem
- 命令行：Shell / Windows-MCP / 自定义 shell MCP
- 浏览器操作：Playwright MCP、Browser MCP、Windows-MCP（UI 自动化）
优势：模型完全本地运行，隐私可控；工具侧优先选择无 Key、无官方额度的开源 MCP，满足“不花钱、不限额”要求。
安全原则：Shell 与文件系统工具务必限制工作目录，并开启“每次确认”模式；不信任的 MCP 不启用。
二、推荐桌面应用对比总览
| 应用 | 开源情况 | 跨平台支持 | 核心定位 | 自定义 API 支持 | MCP 支持 | 推荐指数（本场景） |
|---|---|---|---|---|---|---|
| Cherry Studio | 开源 (AGPL) | Windows / macOS / Linux | 多模型 + Agent + 知识库 | 优秀 | 原生强 | ★★★★★ |
| AnythingLLM | 开源 (MIT) | Windows / macOS / Linux + Docker | RAG + Agent 工作区 | 优秀 | 原生强 | ★★★★★ |
| Jan | 开源 (Apache) | Windows / macOS / Linux | 轻量本地/云端统一聊天 | 优秀 | 支持 | ★★★★☆ |
| Msty | 闭源（免费版） | Windows / macOS / Linux | 美观多引擎聊天 + Toolbox | 优秀 | 支持 | ★★★★ |
| Chatbox | 开源 | Windows / macOS / Linux / 移动端 | 轻量多端聊天客户端 | 优秀 | 支持 | ★★★☆ |
| PyGPT | 开源 | Windows / macOS / Linux | 全功能助手（工具+Agent+RAG） | 优秀 | 支持 | ★★★★ |
三、各应用详细介绍与能力对比
1. Cherry Studio
- 特性：多模型聚合、内置知识库、Agent 工作流、大量预设助手、中文优化好。不运行模型本身，专注客户端体验。
- 跨平台：Windows、macOS、Linux 原生桌面应用。
- 联网访问 / 网页搜索：通过 MCP 或内置搜索插件实现，可接免费 DuckDuckGo / SearXNG。
- 本地文件操控：通过 filesystem MCP 实现读写（需限制目录）。
- 网页抓取：fetch 类 MCP 或 Playwright MCP。
- 命令行操控：支持 Shell MCP / Windows-MCP，可执行 PowerShell/CMD（需谨慎开启）。
- 浏览器操作：通过 Playwright 或 Windows-MCP 实现点击、输入、截图等。
2. AnythingLLM
- 特性：以工作区（Workspace）为核心的 RAG 与 Agent 平台，内置免费网页搜索、文档处理、Agent Flows（无代码流程）、定时任务。对本地模型与自定义 API 支持成熟。
- 跨平台：Windows / macOS / Linux 桌面版 + Docker 自托管。
- 联网访问 / 网页搜索：内置免费搜索（默认可用，无 Key），也可通过 MCP 扩展。
- 本地文件操控：内置文件技能 + filesystem MCP，支持读写与知识库导入。
- 网页抓取：内置抓取技能 + MCP（fetch / scrape）。
- 命令行操控：通过 MCP 接入 Shell 工具。
- 浏览器操作：可接 Playwright / Browser MCP 实现较完整浏览器控制。
3. Jan
- 特性：完全开源、界面简洁类似 ChatGPT，支持本地推理引擎与自定义 API 并存，MCP 已稳定支持。
- 跨平台：Windows / macOS / Linux。
- 联网访问 / 网页搜索：通过 MCP（DuckDuckGo、SearXNG、Serper 等）实现，也可接 You.com 等。
- 本地文件操控：filesystem MCP。
- 网页抓取：fetch / scrape 类 MCP。
- 命令行操控：Shell MCP（需自行配置）。
- 浏览器操作：Browser MCP 或 Playwright MCP。
4. Msty
- 特性：界面现代美观，支持多引擎（Ollama、llama.cpp 等）管理，Toolbox（MCP 实现）扩展性强，支持 Persona 与知识栈。
- 跨平台：Windows / macOS / Linux。
- 联网访问 / 网页搜索：通过 Toolbox 添加搜索 MCP；部分高级实时数据功能需付费版。
- 本地文件操控：filesystem MCP。
- 网页抓取：fetch 类 MCP。
- 命令行操控：Shell MCP。
- 浏览器操作：可接相关 MCP。
5. Chatbox
- 特性：轻量、跨端同步好、提示词管理优秀，配置简单。适合纯聊天为主的用户。
- 跨平台：Windows / macOS / Linux / iOS / Android。
- 联网访问 / 网页搜索：内置 Web Search 引擎 + MCP（含 Fetch 等）。
- 本地文件操控：内置文件工具集 + MCP。
- 网页抓取：内置 Fetch MCP。
- 命令行操控：通过自定义 MCP 实现（能力相对较弱）。
- 浏览器操作：有限，主要依赖 MCP 扩展。
6. PyGPT
- 特性：功能全面的开源桌面助手，内置 Python/OS 执行、终端、Web 搜索插件、MCP 连接器、Agent 工作流、RAG。
- 跨平台：Windows / macOS / Linux。
- 联网访问 / 网页搜索：内置 Web Search 插件（DuckDuckGo / Google / Bing）+ MCP。
- 本地文件操控：内置 Files I/O 插件 + filesystem MCP。
- 网页抓取：Web Search 插件支持抓取与爬取。
- 命令行操控：内置 Terminal 工具 + Shell / 自定义命令插件，支持沙箱。
- 浏览器操作：Canvas 插件 + Playwright 自动化支持。
四、能力对比矩阵（针对本场景）
| 能力 | Cherry Studio | AnythingLLM | Jan | Msty | Chatbox | PyGPT |
|---|---|---|---|---|---|---|
| 免费网页搜索 | ★★★★（MCP） | ★★★★★（内置+MCP） | ★★★★ | ★★★★ | ★★★★ | ★★★★★ |
| 网页抓取 | ★★★★ | ★★★★★ | ★★★★ | ★★★★ | ★★★★ | ★★★★★ |
| 本地文件操控 | ★★★★ | ★★★★★ | ★★★★ | ★★★★ | ★★★ | ★★★★★ |
| 命令行操控 | ★★★★ | ★★★★ | ★★★ | ★★★ | ★★★ | ★★★★★ |
| 浏览器操作 | ★★★★ | ★★★★ | ★★★★ | ★★★ | ★★★ | ★★★★ |
| 整体易用性（中文） | ★★★★★ | ★★★★ | ★★★★ | ★★★★ | ★★★★★ | ★★★ |
五、实施建议与落地路径
短期（1-2 天）
- 优先测试 AnythingLLM 与 Cherry Studio（两者 MCP 与 Agent 能力最成熟）。
- 配置免费 MCP：filesystem + DuckDuckGo/SearXNG + fetch。
- 验证模型工具调用是否正常（Qwen3.5 系列通常支持）。
中期
- 根据使用习惯选择主客户端（美观选 Msty，纯开源选 Jan 或 PyGPT，轻量选 Chatbox）。
- 增加 Windows-MCP 实现更强桌面控制（截图、点击、PowerShell）。
安全与稳定性
- API 仅监听本地，必要时加简单鉴权。
- Shell 工具始终开启人工确认。
- 定期备份 MCP 配置与知识库。
备选补充
- 若更倾向浏览器界面：Open WebUI + 自建 SearXNG（网页搜索体验目前最强）。
- 若以编码为主：VS Code + Cline 插件。
本方案完全基于现有 WSL2 Qwen API，无需额外付费服务，扩展性强，可根据实际使用频率逐步增加工具。若需要某一应用的详细配置步骤（API 填写、具体 MCP JSON 示例、端口转发命令等），可进一步指定应用名称提供落地手册。