AgenticSeek 如何接入 LM Studio 作为本地模型提供方?
2026/9/13 17:53:50 网站建设 项目流程

AgenticSeek 如何接入 LM Studio 作为本地模型提供方?

【免费下载链接】agenticSeekFully Local Manus AI. No APIs, No $200 monthly bills. Enjoy an autonomous agent that thinks, browses the web, and code for the sole cost of electricity.项目地址: https://gitcode.com/GitHub_Trending/ag/agenticSeek

AgenticSeek 是一个 100% 本地运行的自主 AI 助手,所有 LLM 推理都跑在你自己的硬件上,不经过云端。如果你的硬件已经够跑本地大模型,而平时用的模型加载工具是 LM Studio,这篇文档说明如何把 LM Studio 作为 LLM 提供方接进 AgenticSeek:在config.ini中把provider_name设为lm-studio,地址指向http://127.0.0.1:1234,然后启动服务并验证后端能正常应答。以下所有配置值、命令和排查方法均来自仓库 README 的本地提供方章节与已知问题章节,实现细节可对照 LLM 提供方实现。

前提条件:LM Studio 已在本机提供模型服务

开始改配置之前,先确认本机这一侧已经就绪:

  • LM Studio 已安装,并已加载你要使用的模型;
  • LM Studio 的本地服务器已启动,监听在127.0.0.1:1234(这是.envLM_STUDIO_PORT的默认值,也是 README 给出的 LM Studio 默认端口)。README 未说明 LM Studio 的具体启动按钮位置,只需保证http://127.0.0.1:1234可达即可;
  • 模型规模与你的显存匹配,README FAQ 给出的参考是:
模型规模显存文档评价
7B8 GB VRAM不推荐,性能差、幻觉频繁,planner 类 agent 大概率失败
14B12 GB VRAM(如 RTX 3060)简单任务可用,网页浏览和任务规划可能吃力
32B24+ GB VRAM(如 RTX 4090)多数任务可成功,任务规划仍可能吃力
70B+48+ GB VRAM适合进阶用例

README 推荐选用推理类模型,例如 Magistral 或 DeepSeek。

在 config.ini 中配置 lm-studio

编辑仓库根目录的config.ini(仓库里自带该文件,查看示例),把[MAIN]段改成:

[MAIN] is_local = True provider_name = lm-studio provider_model = 换成你加载到LMStudio的模型名 provider_server_address = http://127.0.0.1:1234 agent_name = Jarvis

三个字段必须和 LM Studio 对上,README 对此有明确警告:

  • provider_name必须写lm-studio,不要写openai——即使你用的是 LM Studio 这类兼容服务,写openai会走云端 API 的逻辑并要求 API key,README 专门用一条警告强调这点;
  • provider_server_address必须带http://前缀lm-studio等本地提供方要求地址形如http://127.0.0.1:1234,缺前缀会直接触发连接适配错误(见后文排查);
  • provider_model填 LM Studio 中实际加载的模型名,AgenticSeek 会以这个名字发请求,名称不匹配就会失败;
  • is_local = True表示本地提供方(Ollama、LM Studio、本地 OpenAI 兼容服务);只有使用云端 API 时才写False。注意这里的 "local" 指"就在本机",LM Studio 跑在局域网另一台机器上时也要写成False,见文末可选项。

另外注意config.ini的格式不支持注释:README 明确要求不要直接复制带#注释的示例配置,注释会导致解析报错,上面的配置块已经去掉了所有注释,可直接使用。

启动服务并验证

配置改完后重启后端(config.ini.env一样只在进程启动时读取,改完必须重启)。Web 界面模式(后端在 Docker 内运行):

./start_services.sh full # macOS / Linux start start_services.cmd full # Windows

README 提醒:首次启动要拉取全部 Docker 镜像,可能耗时到 30 分钟;在日志里看到后端健康检查通过之前不要发任何消息,文档示例的日志是backend: "GET /health HTTP/1.1" 200 OK,首次运行后端最多可能需要 5 分钟。

然后打开http://localhost:3000/确认出现 Web 界面,发一条简单任务验证模型链路,例如 README 用法章节给的示例:

Make a snake game in python!

AgenticSeek 会自动把任务分配给合适的 agent。如果 LM Studio 侧正常,回复来自你加载的模型;如果模型没加载或服务器没开,后端会返回 LM Studio 的连接或超时错误(见下节)。

排查:LM Studio 连不上时的两个典型错误

README 已知问题章节记录了两种现象,都与config.ini写法或 LM Studio 服务状态有关:

错误 1:缺少http://前缀

Exception: Provider lm-studio failed: HTTP request failed: No connection adapters were found for '127.0.0.1:1234/v1/chat/completions'

(端口可能因你的 LM Studio 设置而不同。)文档给出的原因是provider_server_addresshttp://或端口指错;解决方式是确认 LM Studio 实际端口(默认 1234),并把地址改为provider_server_address = http://127.0.0.1:1234

错误 2:服务未启动或无响应

AgenticSeek 对 LM Studio 的请求超时上限是 30 秒,实现侧会分别抛出LM Studio request timed out - check if server is responsiveCannot connect to LM Studio at {url} - check if server is running。对应排查动作就是回到前提条件那一节:确认 LM Studio 服务器在跑、模型已加载、地址端口正确。

Docker 模式下的一个提醒:README 的 Ollama 排查章节说明,后端在 Docker 内运行时,config.iniprovider_server_address的主机部分会被替换为.env里的DOCKER_INTERNAL_URL,只取端口号使用——所以不要为了连上本机服务而把地址改成host.docker.internallm-studio走的是同一条地址处理逻辑(代码里对localhost/127.0.0.1会改走 Docker 内部地址)。另外,如果你的硬件跑不动本地 LLM,README 提供了改用云端 API 的整套配置(is_local = False+ 对应provider_name+ API key),那是一条独立路径,不属于本文范围。

可选:让 AgenticSeek 从局域网另一台机器使用 LM Studio

README 的"在自有服务器上运行 LLM"章节支持这种部署:LM Studio(或任何暴露 OpenAI 兼容 API 的服务)跑在一台机器上,AgenticSeek 跑在另一台机器上通过网络接入。此时在 AgenticSeek 一侧的config.ini中:

[MAIN] is_local = False provider_name = lm-studio provider_model = 换成实际模型名 provider_server_address = http://x.x.x.x:8080

其中x.x.x.x换成运行 LM Studio 那台机器的 IP,端口换成该 LM Studio 实际监听端口(文档示例用的 8080 只是示例端口)。is_local在这里必须写False:写True时 AgenticSeek 只会在本机找服务并忽略远端地址。lm-studio提供方走的是标准 OpenAI 兼容/v1/chat/completions接口,不需要 API key。

限制说明

  • 本地提供方(Ollama、lm-studio、本地 OpenAI 兼容服务)下所有 API key 环境变量都可以留空,这是项目的主要使用方式;
  • 表单填写等部分能力在文档中标注为实验性,与模型提供方选择无关,但对实际任务体验有影响;
  • 改完config.ini.env都必须重启后端才生效,.env只在进程启动时读取。

完整的config.ini字段解释见 README 的 Config 章节,本地提供方与 API 提供方的对照表见 README 的 "Local Providers" 和 "API Providers" 两张表。

【免费下载链接】agenticSeekFully Local Manus AI. No APIs, No $200 monthly bills. Enjoy an autonomous agent that thinks, browses the web, and code for the sole cost of electricity.项目地址: https://gitcode.com/GitHub_Trending/ag/agenticSeek

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询