☰
Foundry Toolkit for VS Code 快速上手:一个插件搞定模型挑选、推理测试与微调
2026/10/22 1:32:21 网站建设 项目流程

Foundry Toolkit for VS Code 快速上手:一个插件搞定模型挑选、推理测试与微调

【免费下载链接】foundry-dev-tools项目地址: https://gitcode.com/GitHub_Trending/vs/foundry-dev-tools

做 AI 应用时,选模型要翻网页、测 prompt 要切控制台、看训练要盯服务器?Microsoft Foundry Toolkit for VS Code(仓库名foundry-toolkit)把这条链路整体搬进了编辑器:模型目录、Playground 推理测试、用自己的数据微调,一次装插件全部搞定,让你不离开 VS Code 就从"有个想法"走到"模型跑起来"。

🧭 能力全景:Foundry Toolkit 能替你解决什么问题

不用背功能清单,按你日常会卡住的四个节点看它:

  • 不知道选哪个模型→ 模型目录聚合 GitHub、OpenAI、Anthropic、Google 等多家来源,按任务、硬件(CPU/GPU/NPU)、本地/远程执行筛选,还能挂载你自己的远程端点或 Ollama 本地模型。
  • 接应用前想先验证效果→ Playground 提供多轮对话,调温度、限响应长度,多模态模型可直接附加图片测试;云端托管模型填个 endpoint 就能聊。
  • 通用模型不懂你的业务话术→ 微调。本地有 GPU 走 WSL,没有就走云端 Azure Container Apps,用 QLoRA 产出轻量 LoRA adapter。
  • 上线后看不到模型内部→ Tracing 在本地起一个 OTLP 采集服务,把每次调用的输入输出、耗时可视化,方便定位"哪一轮变笨了"。

📋 模型目录:3 个筛选条件锁定可用模型

打开左侧Models树视图进入目录,页面就是一个个模型卡片,左侧筛选器帮你快速收窄:

  • Hosted by:挑托管来源,比如 GitHub、OpenAI、Anthropic
  • Publisher:按模型开发商过滤,比如 Microsoft、Mistral AI
  • Device Type:对一下自己的硬件,CPU、GPU 还是 NPU

锁定目标后,每张卡片上有三个动作,按成本从低到高:

  • Try in Playground:不下载,直接拉去试
  • Download:从来源拉到本地
  • Load in Playground:下载完成后载入对话

目录里没有你要的模型?把鼠标悬停在MY MODELS分组上,点+把自己托管的 OpenAI 兼容端点填进来(名称、endpoint URL、可选的鉴权头),保存后它就出现在列表里,用法和目录模型完全一样。

💬 Playground 里测推理:输入一句 prompt 立刻看效果

选好模型进 Playground,最下面的输入框敲一句 prompt,上方聊天区马上出结果——这是判断"这个模型行不行"最快的方式。

第一次测试,优先调三处:

  • 上下文指令:给模型一个固定人设或输出格式,比 prompt 里反复叮嘱更稳
  • temperature:调低(如 0.2 左右),输出更稳定、更贴业务;调高(如 0.9),回答更有发散性
  • 最大响应长度:给输出设上限,防止一句话没完没了

两个进阶用法:

  • 多模态测试:模型支持附件时,点输入框旁的图钉图标,附加本地图片或文件,和文字一起丢给模型验证理解效果。
  • 免下载的远程推理:模型托管在云端时,在命令面板运行AI Toolkit: Add model for remote inference,依次填模型名、endpoint URL、鉴权头(OpenAI 服务填Authorization: Bearer <你的 key>形式),模型会以Remote标签出现在列表里,参数和聊天体验与本地模型一致。

🛠 用自己的数据微调:没有 GPU 也能在云端训练

通用模型总答不到你行业里的点子上时,攒一小份问答数据微调一次,往往比换十个模型都管用。Foundry Toolkit 给了两条路:

  • 本地路线:依托 WSL 环境跑训练,适合机器上有 GPU 的情况
  • 云端路线:一条命令预配 Azure Container Apps,把训练丢给云上 GPU;用 QLoRA 方式只产出 LoRA adapter,体积小巧,后面部署推理也轻

整条链路基本是三段式:

  1. 给项目起名、选模型位置,点Configure Project生成工程(注意别勾 "Fine-tune locally",才会走云端)
  2. 运行AI Toolkit: Run fine-tuning,工作区自动同步到 Azure Files 并触发训练任务
  3. 在输出面板盯着流式日志看 loss、学习率变化;训练完成后运行AI Toolkit: Deploy for inference,拿到一个可直接调用的推理 endpoint,用内置 Gradio 页面验收效果

🚀 三步装好 Foundry Toolkit,跑通第一次模型对话

最省事的可用路径,大概 5 分钟:

第 1 步,装插件。打开 VS Code 扩展市场,搜索AI Toolkit(新版本已更名 Foundry Toolkit),安装正式版。如果同时想配齐azd等终端工具链,跑一下 devpack-installer/ 里的安装脚本,用 Foundry DevPack 一键装好整套开发者工具——它检测到你的宿主应用已存在时,才会顺带装 Toolkit 与 Canvas 扩展,不会硬塞。

第 2 步,克隆文档仓库(可选)。想读全套教程文档、追 Foundry Canvas 源码时执行:

git clone https://gitcode.com/GitHub_Trending/vs/foundry-toolkit

仓库里的 doc/ 目录就是全部教程的落点,比如 doc/get_started.md、doc/playground.md。

第 3 步,走引导完成首跑。装完插件后跟着内置的Get Started引导走,会自动带你进入 Playground 并载入一个默认模型——输入第一句 prompt,看到第一条回复,就算正式跑通了。

下一步:现在就去 Playground 里聊第一句

去 VS Code 扩展市场搜AI Toolkit装上它,或者先克隆仓库把 doc/ 里的教程过一遍——5 分钟后,你就可以在 Playground 里对模型说出第一句话了。

更多入口:

  • 总览与工具选型:README.md
  • 快速上手:doc/get_started.md
  • 模型目录细节:doc/models.md
  • 微调完整流程:doc/finetune.md
  • Foundry Canvas 源码:microsoft-foundry/

【免费下载链接】foundry-dev-tools项目地址: https://gitcode.com/GitHub_Trending/vs/foundry-dev-tools

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询