UI-TARS 桌面版入门指南:配置模型后跑通第一个自动化任务
2026/9/20 22:23:18 网站建设 项目流程

UI-TARS 桌面版入门指南:配置模型后跑通第一个自动化任务

【免费下载链接】UI-TARS-desktopThe Open-Source Multimodal AI Agent Stack: Connecting Cutting-Edge AI Models and Agent Infra项目地址: https://gitcode.com/GitHub_Trending/ui/UI-TARS-desktop

在输入框里敲下"打开 VS Code,把自动保存延迟设为 500 毫秒",UI-TARS 桌面版会接管你的鼠标键盘,在设置面板里逐项完成修改。UI-TARS Desktop 是基于 UI-TARS 视觉语言模型的开源桌面 GUI Agent 应用,提供本地电脑操作与本地浏览器操作两种模式,适合想直接用自然语言完成重复性电脑操作、又不打算写自动化脚本的用户。

🖥️ 先看三个能跑通的实际场景

场景一:修改 VS Code 的自动保存配置(本地电脑模式)

  • 输入:指令"帮我打开 VS Code 的自动保存功能,并将自动保存延迟设为 500 毫秒"
  • 过程:应用逐轮截屏识别界面,打开 VS Code,定位到设置入口,勾选自动保存并填入 500 毫秒
  • 输出:配置被实际修改,每一步动作都留有截屏记录,可导出为 HTML 报告

场景二:查看 GitHub 仓库的最新 Issue(本地浏览器模式)

  • 输入:"帮我查看 UI-TARS-Desktop 项目在 GitHub 上最新的 open issue"
  • 过程:应用启动本机已安装的 Chrome、Edge 或 Firefox,导航到仓库页面,识别 Issue 列表
  • 输出:最新 issue 的标题与状态直接呈现,操作过程同样可导出报告

场景三:比较商品价格(本地浏览器模式)

  • 输入:"帮我比较一下 iPhone 的价格"
  • 过程:在设置中配置的搜索引擎(默认 Google,可改为 Bing 或百度)里检索,逐个打开结果页读取价格
  • 输出:多个渠道的价格对比结果

主界面是欢迎页:左侧卡片是 Computer Operator,右侧卡片是 Browser Operator,各有一个 Use Local Computer / Use Local Browser 按钮,分别进入对应模式。页面上还有远程 operator 的入口,不过官方文档注明 Remote Operator 服务将于 2025 年 8 月 20 日停止,新手优先走本地模式即可。

⚙️ UI-TARS Desktop 安装步骤与系统要求

项目要求
操作系统macOS 或 Windows
浏览器(仅浏览器模式需要)Chrome、Edge 或 Firefox(稳定版或预览版)
显示器目前仅支持单显示器环境,多显示器可能导致部分任务失败

安装分四步:

  1. 从项目 Releases 页面下载安装包
  2. macOS 用户把 UI TARS 图标拖进 Applications 文件夹;如果你装了 Homebrew,也可以直接运行brew install --cask ui-tars

  1. macOS 用户要给应用两项权限:打开"系统设置 → 隐私与安全性",分别打开"辅助功能"和"屏幕录制"

  1. Windows 用户双击安装包,遇到安全提示时点"仍要运行"

最小必要配置:接入 VLM 模型

应用本身不带模型能力,需要先配置一个视觉语言模型服务。设置页共五个字段:Language、VLM Provider、VLM Base URL、VLM API Key、VLM Model Name。

走火山引擎 Doubao-1.5-UI-TARS 是最省事的路子,按官方示例填写:

  • Language:中文
  • VLM Provider:VolcEngine Ark for Doubao-1.5-UI-TARS
  • VLM Base URL:https://ark.cn-beijing.volces.com/api/v3
  • VLM API Key:在火山引擎"API 推理"页面获取
  • VLM Model Name:doubao-1.5-ui-tars-250328

如果你选择在 Hugging Face 自行部署 UI-TARS-1.5,有两个易错点:VLM Provider 必须选"Hugging Face for UI-TARS-1.5",VLM Base URL 要以/v1/结尾,具体数值以你的 endpoint 页面为准。填完后点设置页的 Check Model Availability 先验证连通性,再开始任务。

完整走一遍:从输入指令到导出报告

  1. 打开应用看到欢迎页,按任务类型选模式:操作桌面应用选 Use Local Computer,网页任务选 Use Local Browser。

  1. 以本地电脑模式为例,输入指令:"帮我打开 VS Code 的自动保存功能,并将自动保存延迟设为 500 毫秒",发送。
  2. 执行期间,模型按"截屏 → 决策 → 动作"的循环推进。设置里的 Max Loop 控制每轮对话的最大步数(默认 100,范围 25 到 200),Loop Wait Time 是每轮截屏前的等待时间(默认 1000 毫秒),如果操作对象加载慢,可以适当调大。
  3. 任务完成后(或点 Terminate 主动结束),点击 Export as HTML 下载报告,里面包含每轮截屏与动作记录,方便复盘模型到底做了什么。

🐛 UI-TARS 桌面版常见问题

1. macOS 下应用无法点击或无法截屏

  • 现象:任务开始后应用没有实际控制鼠标键盘
  • 原因:"辅助功能"或"屏幕录制"权限没有开启
  • 解决:重新进入系统设置 → 隐私与安全性,确认两项开关都打开,重开应用再试

2. 模型连通性检查失败

  • 现象:点 Check Model Availability 后验证不通过
  • 原因:Base URL 格式不对(Hugging Face 自部署路线要求以/v1/结尾),或 API Key 与 endpoint 不匹配
  • 解决:对照 endpoint 页面逐项核对 URL、Key、模型名三个值,重新验证

3. 浏览器模式无法启动浏览器

  • 现象:选择 Use Local Browser 后没有反应
  • 原因:机器上没有安装受支持的浏览器
  • 解决:先安装 Chrome、Edge 或 Firefox,再使用浏览器模式

4. 多显示器下任务失败或点击偏移

  • 现象:任务中途失败,或点击位置对不上目标控件
  • 原因:应用目前仅支持单显示器环境
  • 解决:临时断开副屏,只用单显示器运行;复杂指令拆成小步骤执行

5. 任务未完成就停下了

  • 现象:模型执行到一定步数后停止
  • 原因:达到了 Max Loop 上限(默认 100 步)
  • 解决:按需要调大 Max Loop(上限 200),或把指令拆细、减少总步数

下一步:深入配置与扩展

跑通第一个任务后,建议按这个顺序继续:

  • 读 docs/setting.md,了解 Chat Settings(Language、Max Loop、Loop Wait Time)、搜索引擎选择与报告配置的完整参数
  • 读 docs/quick-start.md,对照官方步骤补齐 Hugging Face 自部署的细节
  • 用设置页的 Import Preset Config 按钮批量导入 YAML 预设,仓库内置示例在 examples/presets/
  • 自部署模型的完整说明见 docs/deployment.md

整个流程就是安装、配模型、输指令、导报告这四步。把这条循环跑熟之后,剩下的工作主要是调参数和尝试更复杂的任务。

【免费下载链接】UI-TARS-desktopThe Open-Source Multimodal AI Agent Stack: Connecting Cutting-Edge AI Models and Agent Infra项目地址: https://gitcode.com/GitHub_Trending/ui/UI-TARS-desktop

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询