Google 在 2026 年 10 月 30 日更新的 Gemini API 更新日志中宣布,Computer Use 工具正式进入一般可用阶段,覆盖 Interactions API 和 GenerateContent API 两套接口。这意味着,让模型看屏幕截图、直接点击和输入的界面操作能力,从预览变成了可以用于生产的正式工具。Computer Use 最早在 2026 年 6 月 24 日以公开预览的形式推出,当时已经支持浏览器、移动端和桌面三种环境,以及意图说明、可配置的安全策略和提示注入检测。
Computer Use 的工作方式是一个循环。开发者先把用户指令、配置和当前屏幕截图发给模型,模型看图之后返回一个界面动作,比如点击、滚动或按键,同时附上这一步的意图说明和安全判定。安全判定分三档:允许执行、需要用户确认、直接阻止。开发者的客户端程序执行被允许的动作,再截一张新图发回模型,循环往复直到任务完成或终止。模型本身只负责看和决策,真正动手的是开发者一侧的执行环境,官方文档要求把智能体放在沙箱虚拟机或容器里运行,并提供了基于 Docker 的参考实现作为起点。文档列出的典型用途包括重复的数据录入和表单填写、Web 应用的自动化测试,以及跨网站搜集商品信息、价格和评价。
正式可用不等于开箱即用
正式可用解决的是接口稳定性问题,没有解决执行和安全这两件最麻烦的事。开发者仍然要自己搭建截图、坐标换算和动作执行的客户端,处理登录、验证码和异常页面,还要决定哪些动作必须先经过人工确认。提示注入检测需要主动开启,它通过扫描截图来发现页面里暗藏的对抗性指令,但文档没有承诺能拦住所有注入。对用户来说,变化更多体现在供给侧:以后会有更多应用声称能替你操作电脑完成订票、填表和比价,判断标准不再是模型能不能看懂界面,而是它在操作你的账户之前会不会停下来问一句、操作记录能不能事后查到。Google 这次更新没有在更新日志里给出新的定价或基准成绩,开发者在迁移之前,仍需要按自己的任务实测成功率和单次任务成本,而不是只看正式可用这四个字。