全网最全 Claude code 接入本地模型图文教程
一、安装和设置 ollama 及下载模型

1.1 下载安装 ollama
点击这里 下载，提取码: ec2e ，下载好了打开直接默认安装

1.2 下载模型
在模型框右侧点一下，鼠标移至顶部输入要下载的模型名称，会自动弹出模型的下载按钮，点击下载按钮直接下载
点击这里 获取模型列表，提取码: cyen ，搜索你需要的模型名称，根据自己显存选择对应的模型版本，比如显存是12G，那么模型大小在12G以内就可以
一般模型不要占满显存留一点余地

1.3 设置 ollama
设置 ollama 的模型存放目录，可以减缓电脑 c 盘的空压压力
根据显存和内存大小设置 Context length， 我的内存是 128g 的我选择 128k ，大胆一点也可以设置成 256k
比如模型文件体积有 50g ，显存只有 12g ，模型文件装满显存后 ，还有 38g 是加载到内存的

二、安装 cc switch 和设置路由网关及其他设置

2.1 下载安装 cc switch
点击这里 下载 cc switch ，提取码: rwz8 ，默认方式安装
2.2 设置路由网关

选择 claude desktop ，打开路由设置页面，添加供应商

选择自定义配置

名称根据自己实际情况填写
API Key 随意填写
请求地址填

http://127.0.0.1:11434/v1

接入方式填模型映射
上游模式选择如图

2.3 设置默认模型
点击获取模型列表，会看到ollama下载的所有模型，一一对应选择自己需要的模型即可，也可以选同一个模型

我的选择是这样，选择我自己下载的模型

点击添加按钮

点击开始路由按钮

三、安装 claude desktop 及设置第三方推理模型

3.1 设置电脑区域和语言及 windows 功能
打开 windows 设置
修改区域语言为简体中文新加坡

设置区域为新加坡

设置时间为吉隆坡

打开和关闭 windows 功能

勾选图片红框所选

3.2 下载安装 claude desktop
点击这里下载，默认安装即可

3.3 打开开发者模式
按图点击红框内的菜单

点击启用

打开配置第三方推理

3.4 设置开发者第三方推理
如图设置，url填写 http://127.0.0.1:17521/claude-desktop ，API Key填123456 ，最后重启后会自动获取一个密钥

如图设置

默认快速推理，其他如图设置

点击按钮保存

点击保存并重启

重新打开开发者第三方推理，有时候会显示需要重新打开开发者模型，重新打开一次就行

3.5 导入注册表信息
导出配置信息为注册表信息文件

保存到桌面

用记事本打开注册表文件

在结尾加上一行
"inferenceModels"="[\"haiku\",\"sonnet\",\"opus\"]"

打开注册表文件

点击是

3.6 claude 其他设置
设置claude

设置claude 预设信息，根据自己的情况设置，我是用千问帮我写的

输入预设信息，点击保存

设置授权目录，可以添加多个目录

到此整个流程已经跑通了，退出电脑托盘图标，重启claude
需要注意的是整个过程全程在可靠的网络环境进行
更多信息 FreeVps.win

AutoGPT + Langflow + Dify + LangChain + Gemini CLI

📋 五大 AI Agent 项目详细功能说明与实例

1️⃣ AutoGPT - 自主任务执行框架

🎯 核心能力

自动构建并运行 AI 代理，无需人工干预，能独立完成复杂任务。

📝 实际使用场景（4 类）

2️⃣ Langflow - 可视化工作流构建器

🎯 核心能力

拖拽式界面编排 AI 应用，无需写代码，适合快速原型开发。

📝 实际使用场景（4 类）

3️⃣ Dify - 企业级 AI 工作流平台

🎯 核心能力

一体化平台，支持从原型到生产的全流程，适合团队协作。

📝 实际使用场景（4 类）

4️⃣ LangChain - 代理工程框架

🎯 核心能力

底层框架，提供丰富的组件和集成，适合定制化开发。

📝 实际使用场景（4 类）

5️⃣ Gemini CLI - 终端 AI 助手

🎯 核心能力

轻量级终端 AI 工具，快速查询、代码辅助、文件操作。

📝 实际使用场景（4 类）

📊 功能对比总览

🎯 选择建议

• 小白用户 → Gemini CLI（最简单易用）
• 快速原型 → Langflow（可视化，无需代码）
• 企业生产 → Dify（团队协作，功能完整）
• 深度定制 → LangChain（灵活强大）
• 全自动任务 → AutoGPT（自主执行）

所有项目都有完善的文档和社区支持，可以根据具体需求选择或组合使用。

更多资讯请关注 freevps.win

WSL2 本地 Qwen 模型对接 Windows 桌面应用整体方案报告

报告日期：2026年10月
适用场景：Windows 主机 + WSL2 Ubuntu（Conda 部署 Qwen3.5 9B 量化版），已暴露 OpenAI 兼容 API，要求零付费、无官方额度限制，支持联网搜索、本地文件操作、命令行控制等扩展能力。

一、整体方案概述

核心架构：

1. 模型侧（WSL2）：Qwen3.5 9B 量化版通过 Conda 环境运行，使用 vLLM、llama.cpp server、Ollama 或其他方式暴露 OpenAI 兼容 API（默认监听 0.0.0.0:端口）。
2. 网络打通：Windows 侧通过 localhost:端口 或 WSL IP 访问 API（必要时配置 Windows 防火墙与端口转发）。
3. 客户端侧（Windows 桌面应用）：选择支持自定义 OpenAI 兼容端点的桌面客户端，连接上述 API。

4. 能力扩展：统一通过 MCP（Model Context Protocol） 实现工具调用。推荐免费/无额度方案：

   • 网页搜索：DuckDuckGo MCP、自建 SearXNG + MCP
   • 网页抓取：mcp-server-fetch、Playwright 类 MCP
   • 本地文件：@modelcontextprotocol/server-filesystem
   • 命令行：Shell / Windows-MCP / 自定义 shell MCP
   • 浏览器操作：Playwright MCP、Browser MCP、Windows-MCP（UI 自动化）

优势：模型完全本地运行，隐私可控；工具侧优先选择无 Key、无官方额度的开源 MCP，满足“不花钱、不限额”要求。
安全原则：Shell 与文件系统工具务必限制工作目录，并开启“每次确认”模式；不信任的 MCP 不启用。

二、推荐桌面应用对比总览

三、各应用详细介绍与能力对比

1. Cherry Studio

• 特性：多模型聚合、内置知识库、Agent 工作流、大量预设助手、中文优化好。不运行模型本身，专注客户端体验。
• 跨平台：Windows、macOS、Linux 原生桌面应用。
• 联网访问 / 网页搜索：通过 MCP 或内置搜索插件实现，可接免费 DuckDuckGo / SearXNG。
• 本地文件操控：通过 filesystem MCP 实现读写（需限制目录）。
• 网页抓取：fetch 类 MCP 或 Playwright MCP。
• 命令行操控：支持 Shell MCP / Windows-MCP，可执行 PowerShell/CMD（需谨慎开启）。
• 浏览器操作：通过 Playwright 或 Windows-MCP 实现点击、输入、截图等。

2. AnythingLLM

• 特性：以工作区（Workspace）为核心的 RAG 与 Agent 平台，内置免费网页搜索、文档处理、Agent Flows（无代码流程）、定时任务。对本地模型与自定义 API 支持成熟。
• 跨平台：Windows / macOS / Linux 桌面版 + Docker 自托管。
• 联网访问 / 网页搜索：内置免费搜索（默认可用，无 Key），也可通过 MCP 扩展。
• 本地文件操控：内置文件技能 + filesystem MCP，支持读写与知识库导入。
• 网页抓取：内置抓取技能 + MCP（fetch / scrape）。
• 命令行操控：通过 MCP 接入 Shell 工具。
• 浏览器操作：可接 Playwright / Browser MCP 实现较完整浏览器控制。

3. Jan

• 特性：完全开源、界面简洁类似 ChatGPT，支持本地推理引擎与自定义 API 并存，MCP 已稳定支持。
• 跨平台：Windows / macOS / Linux。
• 联网访问 / 网页搜索：通过 MCP（DuckDuckGo、SearXNG、Serper 等）实现，也可接 You.com 等。
• 本地文件操控：filesystem MCP。
• 网页抓取：fetch / scrape 类 MCP。
• 命令行操控：Shell MCP（需自行配置）。
• 浏览器操作：Browser MCP 或 Playwright MCP。

4. Msty

• 特性：界面现代美观，支持多引擎（Ollama、llama.cpp 等）管理，Toolbox（MCP 实现）扩展性强，支持 Persona 与知识栈。
• 跨平台：Windows / macOS / Linux。
• 联网访问 / 网页搜索：通过 Toolbox 添加搜索 MCP；部分高级实时数据功能需付费版。
• 本地文件操控：filesystem MCP。
• 网页抓取：fetch 类 MCP。
• 命令行操控：Shell MCP。
• 浏览器操作：可接相关 MCP。

5. Chatbox

• 特性：轻量、跨端同步好、提示词管理优秀，配置简单。适合纯聊天为主的用户。
• 跨平台：Windows / macOS / Linux / iOS / Android。
• 联网访问 / 网页搜索：内置 Web Search 引擎 + MCP（含 Fetch 等）。
• 本地文件操控：内置文件工具集 + MCP。
• 网页抓取：内置 Fetch MCP。
• 命令行操控：通过自定义 MCP 实现（能力相对较弱）。
• 浏览器操作：有限，主要依赖 MCP 扩展。

6. PyGPT

• 特性：功能全面的开源桌面助手，内置 Python/OS 执行、终端、Web 搜索插件、MCP 连接器、Agent 工作流、RAG。
• 跨平台：Windows / macOS / Linux。
• 联网访问 / 网页搜索：内置 Web Search 插件（DuckDuckGo / Google / Bing）+ MCP。
• 本地文件操控：内置 Files I/O 插件 + filesystem MCP。
• 网页抓取：Web Search 插件支持抓取与爬取。
• 命令行操控：内置 Terminal 工具 + Shell / 自定义命令插件，支持沙箱。
• 浏览器操作：Canvas 插件 + Playwright 自动化支持。

四、能力对比矩阵（针对本场景）

五、实施建议与落地路径

1. 短期（1-2 天）

   • 优先测试 AnythingLLM 与 Cherry Studio（两者 MCP 与 Agent 能力最成熟）。
   • 配置免费 MCP：filesystem + DuckDuckGo/SearXNG + fetch。
   • 验证模型工具调用是否正常（Qwen3.5 系列通常支持）。

2. 中期

   • 根据使用习惯选择主客户端（美观选 Msty，纯开源选 Jan 或 PyGPT，轻量选 Chatbox）。
   • 增加 Windows-MCP 实现更强桌面控制（截图、点击、PowerShell）。

3. 安全与稳定性

   • API 仅监听本地，必要时加简单鉴权。
   • Shell 工具始终开启人工确认。
   • 定期备份 MCP 配置与知识库。

4. 备选补充

   • 若更倾向浏览器界面：Open WebUI + 自建 SearXNG（网页搜索体验目前最强）。
   • 若以编码为主：VS Code + Cline 插件。

本方案完全基于现有 WSL2 Qwen API，无需额外付费服务，扩展性强，可根据实际使用频率逐步增加工具。若需要某一应用的详细配置步骤（API 填写、具体 MCP JSON 示例、端口转发命令等），可进一步指定应用名称提供落地手册。

1. 切换到 root 超级用户权限

sudo su

2. 创建 docker-compose.yml 文件

echo "services:" > docker-compose.yml
echo "  debian-desktop:" >> docker-compose.yml
echo "    image: lscr.io/linuxserver/webtop:debian-xfce" >> docker-compose.yml
echo "    container_name: debian_gui" >> docker-compose.yml
echo "    privileged: true" >> docker-compose.yml
echo "    ports:" >> docker-compose.yml
echo "      - '6080:3000'" >> docker-compose.yml

这几行用 echo 命令逐行写入一个 docker-compose.yml 配置文件，内容如下：

3. docker-compose up -d

docker-compose up -d

根据上面写好的配置文件，后台启动（-d = detached 模式）这个容器。Docker 会自动拉取镜像（如果本地没有的话），然后运行容器。

FreeLLMAPI 的用法就 4 步：安装 → 加各家免费 Key → 拿统一 Token → 当 OpenAI 接口调。

一、方式 A：Docker 一键（最省事）

curl -fsSL https://freellmapi.co/install.sh | bash

装完打开 http://localhost:3001

二、方式 B：Docker Compose（推荐常驻）

git clone https://github.com/tashfeenahmed/freellmapi.git
cd freellmapi
ENCRYPTION_KEY="$(openssl rand -hex 32)" printf "ENCRYPTION_KEY=%s\nPORT=3001\n" "$ENCRYPTION_KEY" >.env
docker compose up -d

浏览器进 http://localhost:3001 → Keys 页面 加 Google / Groq / Mistral / OpenRouter / 智谱 / Moonshot 等免费 Key → 页面顶部复制 freellmapi-xxxx 统一 Token。

想让同局域网其他设备访问：
HOST_BIND=0.0.0.0 docker compose up -d（只在自家信任网络这么干，别公网暴露）

三、方式 C：本机跑源码（Node 20+）

git clone https://github.com/tashfeenahmed/freellmapi.git
cd freellmapi
npm install
cp .env.example .env
echo "ENCRYPTION_KEY=$(node -e "console.log(require('crypto').randomBytes(32).toString('hex'))")" >> .env
npm run dev

• 管理面板：http://localhost:5173
• 接口地址：http://localhost:3001/v1

四、怎么调（跟 OpenAI 一模一样）

from openai import OpenAI
client = OpenAI(
    base_url="http://localhost:3001/v1",
    api_key="freellmapi-xxxx",   # 面板里拿的统一 Token
)

resp = client.chat.completions.create(
    model="auto",                # 自动选可用模型；也可写 gemini-2.5-flash / llama-3.3-70b-versatile
    messages=[{"role":"user","content":"用一句话解释乡愁"}],
)
print(resp.choices[0].message.content)
print("实际路由：", resp.headers.get("x-routed-via"))

curl 也行：

curl http://localhost:3001/v1/chat/completions \
  -H "Authorization: Bearer freellmapi-xxxx" \
  -H "Content-Type: application/json" \
  -d '{"model":"auto","messages":[{"role":"user","content":"hi"}]}'

五、接编码工具

• Claude Code：npx freellmapi setup-claude

• Codex / Aider / 任意 OpenAI 兼容客户端：

  export OPENAI_BASE_URL=http://localhost:3001/v1
  export OPENAI_API_KEY=freellmapi-xxxx

六、新手别踩的坑

1. 加完 Key 等 1–2 分钟健康检查，别立马调，否则报“无可用模型”
2. 它是单用户本机网关，不是多用户 SaaS，别直接挂公网
3. 免费层会 429，靠 Fallback Chain 自动切换；别拿来做生产 SLA
4. ENCRYPTION_KEY 别丢，丢了之前存的 provider Key 解不出来
5. 本地模型也能加：Ollama / vLLM / LM Studio 填 http://host.docker.internal:11434/v1 当自定义 provider