教程

Claude Code Computer Use:从终端直接操控 macOS 桌面的 AI 自动化

Claude Code Computer Use 让 AI 直接操控 macOS 桌面:编译应用、点击按钮、截图验证。详解启用步骤、安全机制和实际应用场景。

2026/4/74分钟 阅读ClaudeEagle

你有没有想过让 AI 不仅能写代码,还能直接操作你的电脑——编译 Swift 应用、启动它、点击每个按钮、截图验证结果?Claude Code 的 Computer Use 功能就是这个想法的实现。


这不是 Chrome 集成

别和 Chrome 集成搞混了。Chrome 集成操控的是浏览器,Computer Use 操控的是整个 macOS 桌面

功能Chrome 集成Computer Use
操控对象Chrome 浏览器macOS 桌面应用
适用范围Web 应用原生应用、模拟器、任何 GUI 工具
平台跨平台macOS 专属
计划所有直接计划Pro/Max 专属

能做什么?

1. 构建和验证原生应用

text
构建 MenuBarStats 目标,启动它,打开偏好窗口,
验证间隔滑块是否更新标签。截图偏好窗口。

Claude 编译、启动、点击、验证——一气呵成。

2. 端到端 UI 测试

text
测试这个 Electron 应用的注册流程。

Claude 打开应用,点击注册,截图每一步。不需要 Playwright、不需要测试框架。

3. 调试视觉和布局问题

text
模态框在小窗口下被裁剪了。

Claude 调整窗口大小、复现 Bug、截图、修复 CSS、验证修复效果。

4. 操控纯 GUI 工具

设计工具、硬件控制面板、iOS 模拟器——任何没有 CLI 或 API 的工具。

使用前提

  • macOS
  • Pro 或 Max 计划
  • Claude Code v2.1.85+
  • 交互式会话(不支持 -p 非交互模式)

启用步骤

1. 开启 Computer Use Server

text
/mcp

找到 computer-use → 选择 Enable。设置按项目持久化。

2. 授权 macOS 权限

首次使用时需要两个权限:

  • 辅助功能 (Accessibility):允许点击、输入、滚动
  • 屏幕录制 (Screen Recording):允许查看屏幕内容

授权后可能需要重启 Claude Code。

安全机制

逐应用审批

开启 Computer Use 不等于 Claude 能操控所有应用。每个应用需要单独批准:

权限等级应用类型
完整控制大多数应用
仅点击终端、IDE
仅查看浏览器、交易平台

高权限应用有额外警告:

警告适用于
等同于 Shell 访问Terminal, iTerm, VS Code
可读写任何文件Finder
可更改系统设置系统设置

全局紧急停止

Esc 键立即中止 Computer Use,Claude 释放锁定、恢复隐藏的应用。

其他安全措施

  • 终端不截图:Claude 永远看不到自己的终端输出
  • 独占锁:同一时间只有一个 Claude 会话可以操控屏幕
  • 每会话审批:应用权限在会话结束后失效

工具选择优先级

Claude 自动选择最精确的工具:

  1. MCP Server(如果有对应服务的 MCP)
  2. Bash 命令(如果是 Shell 操作)
  3. Chrome 集成(如果是浏览器操作)
  4. Computer Use(以上都不适用时)

Computer Use 是最后选择——覆盖面最广但速度最慢。

工作方式

当 Claude 开始操控屏幕时:

  1. 其他可见应用被隐藏(只留审批过的应用和终端)
  2. Claude 执行操作(点击、输入、截图)
  3. 操作完成后自动恢复隐藏的应用

你可以在终端中实时观看 Claude 的操作过程。

实用示例

验证 iOS 模拟器中的应用

text
在 iOS 模拟器中启动应用,测试所有导航标签,
确保数据正确加载。截图任何异常状态。

自动化 Xcode 操作

text
打开 Xcode,选择 Release scheme,Archive 项目,
然后导出 IPA 文件。

截图对比设计稿

text
打开 Figma 中的设计稿,然后打开本地运行的应用,
逐屏对比两者的差异。

原文来源:Claude Code Computer Use 文档 | 来源:Claude Code 官方文档

相关文章推荐

教程Claude Code Computer Use 使用指南:让 AI 直接操控 iOS 模拟器和 GUI 应用Claude Code Computer Use 完整使用指南:三种入口(桌面应用/CLI/macOS Desktop)的启用步骤、iOS 模拟器测试/深色模式验证/Figma 检查/无 API 专有工具等实战场景、权限和安全机制(默认关闭,每步确认)、当前研究预览阶段已知限制,以及 Computer Use + Hooks 自动保存截图的高级组合。2026/4/26教程Claude Code Computer Use 实战指南:让 AI 直接操作 GUI 应用Claude Code Computer Use 完整实战指南:5 种 Computer Use 工具(截图/点击/移动/输入/快捷键);4 个实战场景(无 API 的企业内网系统/UI 渲染验证/不支持自动化的桌面软件/结合 Shell 命令);与 MCP 工具的优先级策略;--chrome 参数(v2.1.126,Chrome 调试集成);权限控制配置(允许截图但禁止系统快捷键);Auto Mode 对 Computer Use 的处理;以及研究预览阶段的已知限制。2026/5/7教程Claude Code macOS 安装完整指南:Homebrew、原生脚本与常见问题解决Claude Code macOS 完整安装教程:原生 curl 脚本、Homebrew cask 两种方式,PATH 配置、OAuth 登录、Xcode 依赖、M1/M2/M3 芯片兼容性、dyld 报错修复,以及 VS Code 和 iTerm2 集成配置。2026/3/15教程Claude Code GitHub Actions 完全接入指南(v1.0 GA 版):自动 PR 与 CI/CD 集成Claude Code GitHub Actions 正式升级为 v1.0 GA 版本,支持自动模式检测和简化配置。本文提供快速搭建(/install-github-app)与手动搭建两种方式,以及从 Beta 版本迁移到 v1.0 的完整字段对照表和实战 YAML 示例。2026/7/6教程Claude Code 连接 MCP 服务器完全指南:HTTP、SSE、Stdio、WebSocket 四种方式完整梳理 Claude Code 连接 MCP 服务器的四种方式:HTTP(推荐)、SSE、本地 Stdio、WebSocket,附 claude mcp add 命令语法、认证配置、CLAUDE_PROJECT_DIR 环境变量用法,以及团队场景下的服务器审批机制。2026/7/6教程Claude Code 权限模式完全指南(2026-07 更新版):Manual/Plan/Accept Edits/Bypass结合 Claude Code v2.1.200 的权限模式改名(default 更名为 Manual),本文提供最新完整的权限模式使用指南:Manual/Plan/Accept Edits/Bypass 四种模式的行为详解、适用场景、配置示例和团队协作推荐配置。2026/7/5