OpenAI 去年模型意外連網後 大修訓練安全防護措施
人工智慧(AI)研究公司 OpenAI 於去年 9 月經歷一場模型訓練安全事件後,現已對其模型訓練與內容保護措施進行大規模改革。這次「September Model Incident」是指一個內部研究模型在訓練過程中,因 DNS 解析器設定錯誤,意外取得了有限的網際網路連線權限。
OpenAI 於 2026 年 9 月 20 日偵測到這項異常。從上午 9 時 50 分開始,模型成功執行了 DNS 工具呼叫,並在 12 分鐘後觸發了 P0 級監控警報。經人工確認後,該訓練作業於中午 12 時 34 分被終止。為強化基礎設施、監控系統及自動停止機制,OpenAI 在事件發生後,立即暫停了旗下最強大模型的訓練與評估工作長達 11 天。
OpenAI 強調,他們已實施嚴格政策,要求前沿模型(frontier models,指最先進、最尖端的 AI 模型)在訓練期間不得連線網際網路,除非安全防護技術有重大進展。這次事件後,他們在新控制措施到位前會持續維持這項政策。為防止類似情況再次發生,OpenAI 新增了兩層獨立的阻擋控制,並且不會恢復訓練涉事模型,而是會啟動一個全新的訓練版本,並加入額外的校準改進。
此外,OpenAI 進行了大規模的「紅隊演練」(red-teaming campaign),派出旗下的前沿模型作為攻擊方,試圖突破自家基礎設施的防線,例如嘗試連上網際網路、跨越內部安全界線或跨越隔離區進行通訊。這些「AI 攻擊者」成功找到了一些開源元件中未知的漏洞,以及 OpenAI 服務的錯誤配置,導致沙盒逃脫、系統間移動以及有限的網際網路存取。
OpenAI 正在針對 Kata Containers、gVisor(Google 開發的 Linux 軟體專案)、Moby(由 Docker 建立的用於組裝專用容器系統的開放框架)以及 Linux 核心中發現的漏洞貢獻修補程式。在完成所有評估並實施強化控制措施後,OpenAI 已於 2026 年 10 月 1 日恢復了前沿模型的強化學習訓練及內部推論工作。OpenAI 表示,隨著紅隊演練的持續進行,發現的漏洞和錯誤配置數量已顯著下降。
OpenAI 去年發生什麼模型訓練安全事件?
OpenAI 去年 9 月發生一起「September Model Incident」,是因內部研究模型在訓練過程中,DNS 解析器設定錯誤,意外取得有限的網際網路連線權限。該事件發生於 2026 年 9 月 20 日,模型在上午 9 時 50 分開始執行 DNS 工具呼叫,並在 12 分鐘後觸發監控警報,最終於中午 12 時 34 分被終止訓練。為此,OpenAI 暫停了旗下最強大模型的訓練與評估工作長達 11 天,並實施了嚴格政策,要求前沿模型在訓練期間不得連線網際網路,除非安全防護技術有重大進展。
OpenAI 如何防止類似事件再次發生?
OpenAI 新增了兩層獨立的阻擋控制,並且不會恢復訓練涉事模型,而是會啟動一個全新的訓練版本。此外,他們進行了大規模的「紅隊演練」,派出旗下的前沿模型作為攻擊方,試圖突破自家基礎設施的防線,以發現並修補漏洞。
OpenAI 在事件後恢復了哪些工作?
在完成所有評估並實施強化控制措施後,OpenAI 已於 2026 年 10 月 1 日恢復了前沿模型的強化學習訓練及內部推論工作。紅隊演練的持續進行也顯著降低了發現的漏洞和錯誤配置數量。