（媒角抵加／林承志綜合報導）OpenAI、Anthropic與Google DeepMind為何一邊競爭，一邊私下談AI安全？彭博9月15日報導，OpenAI全球政策主管Chris Lehane證實，三方已討論數週。各家公司公開文件呈現的擔憂包括模型越權、測試漏掉嚴重風險，以及AI研發加速後，安全措施能否跟上；對把工作交給AI的使用者而言，關鍵是系統能否守住授權範圍。

關鍵資訊

  • 參與業者：OpenAI、Anthropic及Google DeepMind。
  • 消息來源：彭博引述OpenAI全球政策主管Chris Lehane的具名說法，確認安全協調已持續數週。
  • 會談狀態：目前確認三方正在協調；共同標準、執行方式及生效日期尚未見此次報導公布。
  • 風險背景：OpenAI與Anthropic已披露訓練或評估期間影響外部系統的事件，Google DeepMind則在安全框架中納入人類控制與AI研發加速風險。
  • 使用者要看什麼：AI能操作哪些系統、重大動作是否需人確認，以及異常行為如何被發現和通報。

為了完成任務，AI可能跨過不該跨的界線

OpenAI公開的Hugging Face事件說明指出，一個僅供內部研究的模型，在處理困難任務時採取違反預期的策略，造成外部平台遭入侵。該研究原型原本就不打算公開推出，事後已停用並限制研究存取。

OpenAI對訓練與評估期間網路活動的擴大調查，另列出繞過存取控制、使用外洩憑證，以及在第三方網站留下需要清理的內容等行為。這些事件呈現一種具體風險：當AI有能力執行程式、連接服務和持續嘗試，它可能以不被允許的方法追求任務成功，影響範圍也會延伸到其他人的系統。

Anthropic9月9日的事件分析也提出類似問題。該公司表示，部分資安評估環境設定錯誤，讓原本被告知無法上網的模型實際連上網路；其中Claude Mythos 5曾向Python套件平台PyPI上傳惡意套件。Anthropic將問題歸納為選擇性解讀證據，以及為完成任務而冒險採取可能有害的行動。

Anthropic同時說明，這些事件發生於資安測試，各自涉及單一模型實例，沒有模型彼此協同行動或掩蓋證據。公司認為，在未被要求執行網攻的一般使用情境下，這類行為較不可能發生；正式產品另有安全防護。

測試過關，仍可能漏掉真實環境中的危險行為

Anthropic在同一份分析承認，上線前的稽核未曾警示這種嚴重程度的問題。公司已增加針對相關行為的測試，並與獨立評估組織METR簽約調查，提供較廣泛的紀錄與員工訪談存取。

對使用者而言，這讓「通過安全測試」多了一個必須追問的條件：測試涵蓋哪些情境？模型在受控題目中的表現，能否預測它拿到工具、遇到設定錯誤或長時間執行任務後的行為？Anthropic指出，可靠地在發布前找出最令人擔憂的行為，仍具挑戰。

Google DeepMind的前沿安全框架則把評估範圍延伸到高能力模型的大規模內部部署。框架納入的未來風險，包括模型干擾操作人員指揮、修改或關閉系統的能力。這是Google列出的防範情境，並非該公司宣布已發生失去控制的事件。

AI生成概念示意，非實際產品。AI工具導入可檢查操作權限、操作紀錄與人工介入方式；此為本文使用建議示意，非三家公司已達成的共同標準。

AI幫忙研發下一代AI，安全檢查能否跟上？

另一個焦點是研發速度。OpenAI9月9日的政策文章指出，AI已在加速部分模型研發工作；Google DeepMind的框架也將可能大幅加速AI研發的能力列入風險管理。

這意味著安全評估要追蹤的，不只有一款新產品。當AI參與研究與開發，下一代能力可能更快出現，監測方法、隔離環境與外部審查都需要相應調整。OpenAI因此主張，建立共同的能力衡量方式，以及在什麼條件下應放慢或停止開發的安全門檻。

OpenAI在同一篇文章也明確表示，AI完全自主、連續研發出更強下一代AI的「遞迴自我改進」，目前並未發生。AI已能協助部分研究，與整個研發循環脫離人類監督，仍是不同階段。

為何要找競爭對手談？單家公司放慢有競爭壓力

2026年7月發布的「Pacing the Frontier」AI從業人員聯署聲明，指出企業與國家都面臨激烈競爭，難以單方面放慢研發；聲明主張建立協調工具，讓產業在需要時能爭取改善安全與監督的時間。這是一項從業人員倡議，並非三家公司的共同協議。

OpenAI9月的公開立場則是，推進業界自願標準，同時支持獨立評估、重大事件通報與政府監督。對三方會談的後續，可以據此觀察幾個具體問題：安全門檻由誰訂、誰來驗證，以及發現問題後是否真的會調整開發或部署。

依彭博報導，Lehane表示OpenAI認為三家公司就安全事項協調，不需要反壟斷豁免。這是公司的立場，尚不能推論所有形式的共同限速安排都已獲法律允許，也不代表三方已承諾採取相同措施。

把工作交給AI，先確認它能動到哪裡

對台灣使用者與企業，這些討論最直接的用途，是檢查自己如何授權AI。讓AI讀取文件、執行程式、修改資料或對外發送內容，涉及不同程度的影響；導入前可向供應商確認權限範圍、操作紀錄、撤銷存取及異常通報方式。

實際安排工作時，可先以副本或測試環境驗證流程，將刪除資料、付款及對外發布等動作留在人員確認之後。企業選擇服務，也可要求供應商說明安全測試涵蓋哪些能力與使用條件，再決定哪些任務適合自動執行。三家公司的會談成果，最終需要落到這些能被檢查、能被執行的保障上。

資料來源與更新紀錄