AI 程式設計教學中文版
官方教學中文版實戰場景

讓 Codex 操作本機應用

說明 Computer Use 如何讓 Codex 操作本地 Mac app,適合沒有專用 plugin 的 GUI 任務。

📖 本篇術語速查表
英文 / 縮寫中文一句話解釋
本機操作local control讓 Codex 操作本地應用。
受控範圍controlled scope限定能操作哪些應用和動作。
可中斷interruptible自動操作隨時能停下。

不想讀完?把下面這段提示詞丟給 AI 幫你跑完——幫你判斷要不要讓 Codex 操作本機應用、怎麼配才安全。

你是 Codex 本機應用操作規劃顧問,幫我判斷這個任務要不要讓 Codex 操作本機應用、怎麼配才安全可控。

【角色】
你瞭解讓 Codex 操作本機應用的方式、適用邊界、許可權和審批、安全風險,也知道有沒有更可控的替代。

【輸入】
- 我想讓它操作什麼應用 / 完成什麼:___
- 有沒有 API / CLI 等更可控替代:___
- 涉及的賬號、資料敏感度:___
- 風險容忍度:___

【工作流程】
1. 先看有沒有更可控的替代(API / CLI)
2. 確需操作時限定受控範圍
3. 配許可權審批,高危操作必須確認
4. 給可中斷和兜底機制

【輸出規範】
▌一、是否該用本機操作(vs 替代)
▌二、受控範圍限定
▌三、許可權審批設定
▌四、可中斷 + 兜底

【硬約束】
- 有更可控方式優先,不輕易自動操作介面
- 賬號、支付、敏感資料操作預設人工確認
- 全程受控、可隨時中斷
- 不在不可信應用 / 頁面自動操作
- 不確定的機制標註需查官方文件

Computer Use 讓 Codex 像你一樣操作 Mac app:看介面、點選、輸入、在視窗之間切換。它適合那些沒有專用 plugin、但必須透過普通 app UI 完成的任務。

官方頁面:https://developers.openai.com/codex/use-cases/use-your-computer-with-codex

適合什麼任務

場景Codex 應該做什麼
任務跨 apps、windows、browser sessions 或 local files用 Computer Use 連續操作多個入口
工作需要後臺交給 Codex 繼續明確 outcome,讓 Codex 在背景中完成
沒有專用 plugin 的普通 app UI透過點選、輸入和導航直接操作 app

相關官方說明:

起始提示詞

@Computer Use [描述你希望在 Mac 上完成的跨應用任務]

官方示例:

@Computer Use 播放一些音樂,幫助我專注。
@Computer Use 幫我把 Notes 裡的 interview notes 新增到 Ashby。
@Computer Use 請在 Messages app 裡查詢 Brooke 本週發給我的 trip ideas,把最好的選項新增到一條名為 "Yosemite ideas" 的新 note,並起草一條回覆給她。

更穩的任務格式

把跨應用任務寫成“目標 app + 輸入 + 輸出 + 禁止動作”:

@Computer 請完成這個 Mac 任務。

Target apps:
- Notes
- Slack

Goal:
- 從指定 Slack thread 提取今天需要我處理的事項。
- 在 Notes 裡建立一條新的 checklist。

Rules:
- 只讀取這個 thread,不瀏覽其他 channel。
- 不傳送 Slack 訊息。
- 不刪除或移動任何檔案。

Output:
- 完成後告訴我 note 標題、包含幾項、是否遇到許可權或登入問題。

Computer Use 能跨 app 做事,但它並不知道哪些視窗或賬號是安全邊界。把禁止動作寫清楚,比事後要求它“不要亂點”更可靠。

使用方式

  1. 準備 Computer Use
  2. @Computer Use 開頭,或 mention 具體 app,例如 @Slack@Messages
  3. 描述 task 和 expected outcome。
  4. 當 Codex 需要訪問某個 app 或入口時,按需確認,然後讓它繼續在背景中完成。

如果你 mention 了某個 app,且該 app 有專用 plugin,Codex 可能優先使用 plugin。這通常是更穩的選擇;沒有 plugin 時,再回到 Computer Use 直接操作 app。

更多示例:

@Computer Use 請檢查我的 Slack,併為今天結束前需要我完成的所有事項新增 reminders。

什麼時候不要用

這些情況不要優先啟用 Computer Use:

  • 能用 CLI、API、MCP、plugin 或檔案直接完成的任務。
  • 需要輸入密碼、二次驗證、支付確認、刪除賬號、修改安全設定。
  • 同一個 app 已經被你或另一個 agent 正在操作。
  • 目標 app 裡有大量敏感客戶資料,但本輪任務只需要少量欄位。
  • 你無法在旁邊確認許可權彈出視窗和高風險點選。

它的價值是補齊圖形介面缺口,不是替代所有自動化。能結構化訪問時,結構化入口更可復現;不能結構化時,再讓 Codex 看螢幕、點選和輸入。

實用邊界

指定瀏覽器

Computer Use 會控制它正在操作的 app。如果你想自己繼續用一個 browser,讓 Codex 用另一個 browser,prompt 裡寫清楚。也可以在 customization 裡設定預設偏好:

使用 Computer Use 處理 web browsing tasks 時,預設使用 Chrome,而不是 Safari。

不要同一 app 並行跑

不要同時讓兩個 Computer Use tasks 操作同一個 app。視窗狀態會變得不穩定,Codex 也更難保持上下文。

保持已登入

相關 apps 和 services 先登入好,任務會更順。如果 Mac 在 Computer Use 執行時鎖屏,活動會停止。

後續處理

任務完成後保持同一執行緒,可以讓 Codex:

  • summarize what it changed。
  • double-check the result。
  • 把這個 workflow 寫進 customization,下次按同樣模式處理。

安全檢查清單

開始前:

  • 目標 app 已登入,且只開啟本輪需要的視窗。
  • 不相關的敏感視窗已經關閉。
  • prompt 裡寫清是否允許傳送、儲存、上傳、刪除或提交。
  • 如果需要瀏覽器,指定使用哪個 browser,避免影響你正在使用的瀏覽器。

執行中:

  • 稽核 Codex 請求訪問的 app。
  • 遇到系統許可權、付款、賬號安全、憑據輸入時人工接管。
  • 如果它切到錯誤視窗,立即停止。

完成後:

  • 檢查最終產物是否真的儲存。
  • 讓 Codex 總結它改了什麼、沒改什麼。
  • 對重複流程再考慮寫進 customization 或做成 plugin / CLI。

官方資料

本頁目錄