UI-TARS 桌面版入门指南:配置模型后跑通第一个自动化任务
【免费下载链接】UI-TARS-desktopThe Open-Source Multimodal AI Agent Stack: Connecting Cutting-Edge AI Models and Agent Infra项目地址: https://gitcode.com/GitHub_Trending/ui/UI-TARS-desktop
在输入框里敲下"打开 VS Code,把自动保存延迟设为 500 毫秒",UI-TARS 桌面版会接管你的鼠标键盘,在设置面板里逐项完成修改。UI-TARS Desktop 是基于 UI-TARS 视觉语言模型的开源桌面 GUI Agent 应用,提供本地电脑操作与本地浏览器操作两种模式,适合想直接用自然语言完成重复性电脑操作、又不打算写自动化脚本的用户。
🖥️ 先看三个能跑通的实际场景
场景一:修改 VS Code 的自动保存配置(本地电脑模式)
- 输入:指令"帮我打开 VS Code 的自动保存功能,并将自动保存延迟设为 500 毫秒"
- 过程:应用逐轮截屏识别界面,打开 VS Code,定位到设置入口,勾选自动保存并填入 500 毫秒
- 输出:配置被实际修改,每一步动作都留有截屏记录,可导出为 HTML 报告
场景二:查看 GitHub 仓库的最新 Issue(本地浏览器模式)
- 输入:"帮我查看 UI-TARS-Desktop 项目在 GitHub 上最新的 open issue"
- 过程:应用启动本机已安装的 Chrome、Edge 或 Firefox,导航到仓库页面,识别 Issue 列表
- 输出:最新 issue 的标题与状态直接呈现,操作过程同样可导出报告
场景三:比较商品价格(本地浏览器模式)
- 输入:"帮我比较一下 iPhone 的价格"
- 过程:在设置中配置的搜索引擎(默认 Google,可改为 Bing 或百度)里检索,逐个打开结果页读取价格
- 输出:多个渠道的价格对比结果
主界面是欢迎页:左侧卡片是 Computer Operator,右侧卡片是 Browser Operator,各有一个 Use Local Computer / Use Local Browser 按钮,分别进入对应模式。页面上还有远程 operator 的入口,不过官方文档注明 Remote Operator 服务将于 2025 年 8 月 20 日停止,新手优先走本地模式即可。
⚙️ UI-TARS Desktop 安装步骤与系统要求
| 项目 | 要求 |
|---|---|
| 操作系统 | macOS 或 Windows |
| 浏览器(仅浏览器模式需要) | Chrome、Edge 或 Firefox(稳定版或预览版) |
| 显示器 | 目前仅支持单显示器环境,多显示器可能导致部分任务失败 |
安装分四步:
- 从项目 Releases 页面下载安装包
- macOS 用户把 UI TARS 图标拖进 Applications 文件夹;如果你装了 Homebrew,也可以直接运行
brew install --cask ui-tars
- macOS 用户要给应用两项权限:打开"系统设置 → 隐私与安全性",分别打开"辅助功能"和"屏幕录制"
- Windows 用户双击安装包,遇到安全提示时点"仍要运行"
最小必要配置:接入 VLM 模型
应用本身不带模型能力,需要先配置一个视觉语言模型服务。设置页共五个字段:Language、VLM Provider、VLM Base URL、VLM API Key、VLM Model Name。
走火山引擎 Doubao-1.5-UI-TARS 是最省事的路子,按官方示例填写:
- Language:中文
- VLM Provider:VolcEngine Ark for Doubao-1.5-UI-TARS
- VLM Base URL:https://ark.cn-beijing.volces.com/api/v3
- VLM API Key:在火山引擎"API 推理"页面获取
- VLM Model Name:doubao-1.5-ui-tars-250328
如果你选择在 Hugging Face 自行部署 UI-TARS-1.5,有两个易错点:VLM Provider 必须选"Hugging Face for UI-TARS-1.5",VLM Base URL 要以/v1/结尾,具体数值以你的 endpoint 页面为准。填完后点设置页的 Check Model Availability 先验证连通性,再开始任务。
完整走一遍:从输入指令到导出报告
- 打开应用看到欢迎页,按任务类型选模式:操作桌面应用选 Use Local Computer,网页任务选 Use Local Browser。
- 以本地电脑模式为例,输入指令:"帮我打开 VS Code 的自动保存功能,并将自动保存延迟设为 500 毫秒",发送。
- 执行期间,模型按"截屏 → 决策 → 动作"的循环推进。设置里的 Max Loop 控制每轮对话的最大步数(默认 100,范围 25 到 200),Loop Wait Time 是每轮截屏前的等待时间(默认 1000 毫秒),如果操作对象加载慢,可以适当调大。
- 任务完成后(或点 Terminate 主动结束),点击 Export as HTML 下载报告,里面包含每轮截屏与动作记录,方便复盘模型到底做了什么。
🐛 UI-TARS 桌面版常见问题
1. macOS 下应用无法点击或无法截屏
- 现象:任务开始后应用没有实际控制鼠标键盘
- 原因:"辅助功能"或"屏幕录制"权限没有开启
- 解决:重新进入系统设置 → 隐私与安全性,确认两项开关都打开,重开应用再试
2. 模型连通性检查失败
- 现象:点 Check Model Availability 后验证不通过
- 原因:Base URL 格式不对(Hugging Face 自部署路线要求以
/v1/结尾),或 API Key 与 endpoint 不匹配 - 解决:对照 endpoint 页面逐项核对 URL、Key、模型名三个值,重新验证
3. 浏览器模式无法启动浏览器
- 现象:选择 Use Local Browser 后没有反应
- 原因:机器上没有安装受支持的浏览器
- 解决:先安装 Chrome、Edge 或 Firefox,再使用浏览器模式
4. 多显示器下任务失败或点击偏移
- 现象:任务中途失败,或点击位置对不上目标控件
- 原因:应用目前仅支持单显示器环境
- 解决:临时断开副屏,只用单显示器运行;复杂指令拆成小步骤执行
5. 任务未完成就停下了
- 现象:模型执行到一定步数后停止
- 原因:达到了 Max Loop 上限(默认 100 步)
- 解决:按需要调大 Max Loop(上限 200),或把指令拆细、减少总步数
下一步:深入配置与扩展
跑通第一个任务后,建议按这个顺序继续:
- 读 docs/setting.md,了解 Chat Settings(Language、Max Loop、Loop Wait Time)、搜索引擎选择与报告配置的完整参数
- 读 docs/quick-start.md,对照官方步骤补齐 Hugging Face 自部署的细节
- 用设置页的 Import Preset Config 按钮批量导入 YAML 预设,仓库内置示例在 examples/presets/
- 自部署模型的完整说明见 docs/deployment.md
整个流程就是安装、配模型、输指令、导报告这四步。把这条循环跑熟之后,剩下的工作主要是调参数和尝试更复杂的任务。
【免费下载链接】UI-TARS-desktopThe Open-Source Multimodal AI Agent Stack: Connecting Cutting-Edge AI Models and Agent Infra项目地址: https://gitcode.com/GitHub_Trending/ui/UI-TARS-desktop
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考