腾讯:UI-Mate提升GUI智能体可靠性 标题UI-Mate: Advancing Open-Weight Foundation GUI Agents with In-Context Demonstrations来源arXiv, 2608.15930v1️文章简介研究问题如何解决基础GUI智能体在部署中面临的训练数据稀缺与分布偏差以及交互层面因指令模糊导致的执行不可靠问题主要贡献论文提出了UI-Mate一个结合环境 grounded 训练栈和上下文演示学习的开源基础GUI智能体并发布了OSWorkerBench基准测试。重点思路构建可扩展的环境 grounded 训练栈开发闭环数据引擎自动化任务生成、环境构建、 rollout 执行、过滤及分层能力平衡。通过统一的任务-验证器包在大规模并行环境中进行监督微调SFT和在线强化学习RL解决数据覆盖不均问题。引入上下文演示学习机制DemoCUA将多模态演示转化为灵活的子任务级工作流而非僵化的轨迹回放。智能体在执行时参考演示步骤但依据实时界面截图自主决策能在关键处遵循演示在差异处重新规划适应非标准操作。发布OSWorkerBench基准测试包含41个应用程序中的100个长程办公任务支持仅指令和演示引导两种评估模式。提供自演示相同任务和变体演示相关不同任务资源专门评估长程工作流的可靠性和程序迁移能力。分析总结UI-Mate-27B在通用计算机使用基准上表现优异在OSWorld-Verified得分为77.0%在WindowsAgentArena得分为66.2%确立了开源模型的新SOTA性能接近顶级闭源模型。演示引导显著提升长程任务可靠性在OSWorkerBench的33个自演示任务中单次演示使严格成功率从17.2%提升至35.4%进度得分从67.9%提升至81.1%。在OSWorld子集上演示使平均得分从40.3%大幅提升至65.8%。训练策略有效弥补基座模型差距相比Qwen3.6-27B基座UI-Mate-27B在OSWorkerBench上的严格成功率和进度分别提升了17.7和24.5个百分点证明环境 grounded 训练对跨应用状态跟踪和错误恢复至关重要。演示能纠正特定执行错误案例显示演示能帮助智能体理解操作对象如修改模板而非实例和视图控制如PDF缩放定位避免仅凭指令产生的视觉误读或上下文错误。个人观点论文打破了传统GUI智能体仅依赖文本指令的局限通过“演示即工作流”的理念将人类或强智能体的操作经验转化为可自适应的指导信号。

相关新闻

最新新闻

用Python做路径分析:从模型设定到可视化的完整实战指南

用Python做路径分析:从模型设定到可视化的完整实战指南

简介:数据分析进阶时,研究者常需厘清变量间的影响链条,探索A如何通过B影响C。路径分析以带箭头的因果图呈现变量关系,是结构方程模型的特例,适用于全观测变量的中介与效应分解。传统点鼠标软件难以满足可复现、批量化的…

2026/8/27 10:43:04
ETX模块:工业计算机长生命周期设计的模块化解决方案

ETX模块:工业计算机长生命周期设计的模块化解决方案

做工业产品最怕什么?不是性能不够,不是竞品太强,而是你辛辛苦苦做完认证、跑完测试、交付给客户,结果CPU厂商一封停产通知,整个产品线就得推倒重来。这个痛点,做嵌入式工控的人应该都有体感。ETX Module这个…

2026/8/27 10:43:04
为什么 try-catch 无法捕获 NoClassDefFoundError

为什么 try-catch 无法捕获 NoClassDefFoundError

public void start(Context context) {try {this.mContext context;QQMusicSDK.INSTANCE.init(context, new QQMusicSDK.SDKConfig());//播放状态变化QQMusicSDK.INSTANCE.getService().subscribePlayStatus(playStatusListener);}catch (Exception e){e.printStackTrace();Lo…

2026/8/27 10:43:04
SST与UMC完成40nm嵌入式闪存认证,拆解SuperFlash技术难点与应用价值

SST与UMC完成40nm嵌入式闪存认证,拆解SuperFlash技术难点与应用价值

在半导体行业待久了,看到这种新闻会下意识停下来多读两遍。“SST and UMC Qualify Flash Tech on 40-nm Process”,一句话浓缩了存储IP厂商和晶圆代工厂之间很长一段时间的双向工程协作。SST做的是嵌入式闪存技术(SuperFlash)&…

2026/8/27 10:43:04
基于LSTM与MATLAB的电力市场电价预测实战指南

基于LSTM与MATLAB的电力市场电价预测实战指南

简介:时间序列预测是数据分析与机器学习领域的核心任务之一,旨在根据历史数据模式预测未来趋势。其原理在于挖掘序列内部的时间依赖关系,传统方法如ARIMA在处理非线性、非平稳序列时存在局限。长短期记忆网络(LSTM)作为…

2026/8/27 10:43:03
基于SpringBoot的凤山水沐温泉酒店管理系统的设计与实现毕业设计项目源码

基于SpringBoot的凤山水沐温泉酒店管理系统的设计与实现毕业设计项目源码

联系博主 温馨提示:本人主页置顶文章(点我)开头有 CSDN 平台官方提供的学长联系方式的名片! 温馨提示:本人主页置顶文章(点我)开头有 CSDN 平台官方提供的学长联系方式的名片! 温馨提示:本人主页置顶文章(点我)开头有 …

2026/8/27 10:38:03