AgenticSeek 如何接入 LM Studio 作为本地模型提供方?
【免费下载链接】agenticSeekFully Local Manus AI. No APIs, No $200 monthly bills. Enjoy an autonomous agent that thinks, browses the web, and code for the sole cost of electricity.项目地址: https://gitcode.com/GitHub_Trending/ag/agenticSeek
AgenticSeek 是一个 100% 本地运行的自主 AI 助手,所有 LLM 推理都跑在你自己的硬件上,不经过云端。如果你的硬件已经够跑本地大模型,而平时用的模型加载工具是 LM Studio,这篇文档说明如何把 LM Studio 作为 LLM 提供方接进 AgenticSeek:在config.ini中把provider_name设为lm-studio,地址指向http://127.0.0.1:1234,然后启动服务并验证后端能正常应答。以下所有配置值、命令和排查方法均来自仓库 README 的本地提供方章节与已知问题章节,实现细节可对照 LLM 提供方实现。
前提条件:LM Studio 已在本机提供模型服务
开始改配置之前,先确认本机这一侧已经就绪:
- LM Studio 已安装,并已加载你要使用的模型;
- LM Studio 的本地服务器已启动,监听在
127.0.0.1:1234(这是.env中LM_STUDIO_PORT的默认值,也是 README 给出的 LM Studio 默认端口)。README 未说明 LM Studio 的具体启动按钮位置,只需保证http://127.0.0.1:1234可达即可; - 模型规模与你的显存匹配,README FAQ 给出的参考是:
| 模型规模 | 显存 | 文档评价 |
|---|---|---|
| 7B | 8 GB VRAM | 不推荐,性能差、幻觉频繁,planner 类 agent 大概率失败 |
| 14B | 12 GB VRAM(如 RTX 3060) | 简单任务可用,网页浏览和任务规划可能吃力 |
| 32B | 24+ GB VRAM(如 RTX 4090) | 多数任务可成功,任务规划仍可能吃力 |
| 70B+ | 48+ GB VRAM | 适合进阶用例 |
README 推荐选用推理类模型,例如 Magistral 或 DeepSeek。
在 config.ini 中配置 lm-studio
编辑仓库根目录的config.ini(仓库里自带该文件,查看示例),把[MAIN]段改成:
[MAIN] is_local = True provider_name = lm-studio provider_model = 换成你加载到LMStudio的模型名 provider_server_address = http://127.0.0.1:1234 agent_name = Jarvis三个字段必须和 LM Studio 对上,README 对此有明确警告:
provider_name必须写lm-studio,不要写openai——即使你用的是 LM Studio 这类兼容服务,写openai会走云端 API 的逻辑并要求 API key,README 专门用一条警告强调这点;provider_server_address必须带http://前缀。lm-studio等本地提供方要求地址形如http://127.0.0.1:1234,缺前缀会直接触发连接适配错误(见后文排查);provider_model填 LM Studio 中实际加载的模型名,AgenticSeek 会以这个名字发请求,名称不匹配就会失败;is_local = True表示本地提供方(Ollama、LM Studio、本地 OpenAI 兼容服务);只有使用云端 API 时才写False。注意这里的 "local" 指"就在本机",LM Studio 跑在局域网另一台机器上时也要写成False,见文末可选项。
另外注意config.ini的格式不支持注释:README 明确要求不要直接复制带#注释的示例配置,注释会导致解析报错,上面的配置块已经去掉了所有注释,可直接使用。
启动服务并验证
配置改完后重启后端(config.ini和.env一样只在进程启动时读取,改完必须重启)。Web 界面模式(后端在 Docker 内运行):
./start_services.sh full # macOS / Linux start start_services.cmd full # WindowsREADME 提醒:首次启动要拉取全部 Docker 镜像,可能耗时到 30 分钟;在日志里看到后端健康检查通过之前不要发任何消息,文档示例的日志是backend: "GET /health HTTP/1.1" 200 OK,首次运行后端最多可能需要 5 分钟。
然后打开http://localhost:3000/确认出现 Web 界面,发一条简单任务验证模型链路,例如 README 用法章节给的示例:
Make a snake game in python!
AgenticSeek 会自动把任务分配给合适的 agent。如果 LM Studio 侧正常,回复来自你加载的模型;如果模型没加载或服务器没开,后端会返回 LM Studio 的连接或超时错误(见下节)。
排查:LM Studio 连不上时的两个典型错误
README 已知问题章节记录了两种现象,都与config.ini写法或 LM Studio 服务状态有关:
错误 1:缺少http://前缀
Exception: Provider lm-studio failed: HTTP request failed: No connection adapters were found for '127.0.0.1:1234/v1/chat/completions'(端口可能因你的 LM Studio 设置而不同。)文档给出的原因是provider_server_address缺http://或端口指错;解决方式是确认 LM Studio 实际端口(默认 1234),并把地址改为provider_server_address = http://127.0.0.1:1234。
错误 2:服务未启动或无响应
AgenticSeek 对 LM Studio 的请求超时上限是 30 秒,实现侧会分别抛出LM Studio request timed out - check if server is responsive和Cannot connect to LM Studio at {url} - check if server is running。对应排查动作就是回到前提条件那一节:确认 LM Studio 服务器在跑、模型已加载、地址端口正确。
Docker 模式下的一个提醒:README 的 Ollama 排查章节说明,后端在 Docker 内运行时,config.ini中provider_server_address的主机部分会被替换为.env里的DOCKER_INTERNAL_URL,只取端口号使用——所以不要为了连上本机服务而把地址改成host.docker.internal。lm-studio走的是同一条地址处理逻辑(代码里对localhost/127.0.0.1会改走 Docker 内部地址)。另外,如果你的硬件跑不动本地 LLM,README 提供了改用云端 API 的整套配置(is_local = False+ 对应provider_name+ API key),那是一条独立路径,不属于本文范围。
可选:让 AgenticSeek 从局域网另一台机器使用 LM Studio
README 的"在自有服务器上运行 LLM"章节支持这种部署:LM Studio(或任何暴露 OpenAI 兼容 API 的服务)跑在一台机器上,AgenticSeek 跑在另一台机器上通过网络接入。此时在 AgenticSeek 一侧的config.ini中:
[MAIN] is_local = False provider_name = lm-studio provider_model = 换成实际模型名 provider_server_address = http://x.x.x.x:8080其中x.x.x.x换成运行 LM Studio 那台机器的 IP,端口换成该 LM Studio 实际监听端口(文档示例用的 8080 只是示例端口)。is_local在这里必须写False:写True时 AgenticSeek 只会在本机找服务并忽略远端地址。lm-studio提供方走的是标准 OpenAI 兼容/v1/chat/completions接口,不需要 API key。
限制说明
- 本地提供方(Ollama、lm-studio、本地 OpenAI 兼容服务)下所有 API key 环境变量都可以留空,这是项目的主要使用方式;
- 表单填写等部分能力在文档中标注为实验性,与模型提供方选择无关,但对实际任务体验有影响;
- 改完
config.ini或.env都必须重启后端才生效,.env只在进程启动时读取。
完整的config.ini字段解释见 README 的 Config 章节,本地提供方与 API 提供方的对照表见 README 的 "Local Providers" 和 "API Providers" 两张表。
【免费下载链接】agenticSeekFully Local Manus AI. No APIs, No $200 monthly bills. Enjoy an autonomous agent that thinks, browses the web, and code for the sole cost of electricity.项目地址: https://gitcode.com/GitHub_Trending/ag/agenticSeek
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考