蒙志成／美國奧斯汀德州大學政治學博士

AI最大的治理危機，也許不是我們沒有看到風險，而是世界還沒有建立一套讓所有人可以同時減速、又不讓先減速者先被淘汰的制度。

最近幾個事件，讓這個問題從抽象警告變得具體。今年七月，OpenAI在內部資安評估中，發現受測的AI代理利用系統漏洞取得外網存取，並進一步入侵開源平台Hugging Face的部分正式系統；約七百個代理參與這場協同攻擊，並在四十一台正式環境伺服器上執行程式。事件發生在降低部分防護的測試環境，也未波及客戶資料，但已足以提醒我們：當代理式AI愈來愈能自主搜尋、操作工具與連續執行任務，人類畫下的安全邊界未必牢不可破。

警訊也從實驗室內部浮現。據 Axios 報導，Anthropic研究員考克森（Jacob Coxon）九月在公司股權即將歸屬前選擇離職，公開表達對AI競賽與安全風險的憂慮。更耐人尋味的是，最近這一波要求「慢一點」的公開聲音，竟然來自 AI 產業自己。Anthropic執行長阿莫迪（Dario Amodei）主張放慢尖端AI能力提升速度，讓安全對齊、可解釋性與測試技術有時間追上；OpenAI執行長奧特曼、xAI執行長馬斯克與Google DeepMind執行長哈薩比斯也先後表示支持。其中Anthropic與OpenAI已承諾讓獨立外部評估者進駐，其他支持者則多仍停留在方向性表態。

問題因此不再只是「AI危不危險」，而是：當站在競賽最前線的人都開始談踩煞車，誰敢真的先慢下來？

從核武到氣候變遷：集體行動的歷史困境

人類不是第一次面對跨越國界、又無法由單一國家處理的風險。核武擴散最後催生《核武禁擴條約》與國際原子能總署的查核體系；氣候變遷則迫使各國逐步建立減碳承諾、資訊揭露與全球盤點。AI如今也走到類似路口，而且企業競爭與國家競爭疊在一起。企業開發更強的模型，獲利、市占與估值可以自己取得；但高度自主AI若造成網路攻擊、生物安全威脅，甚至干擾金融與關鍵基礎設施，代價卻可能由整個社會承擔。反過來，企業若增加安全測試、延後模型上市，損失的時間與商機卻得自己吸收。

政治經濟學者奧爾森（Mancur Olson）早已提醒，共同利益不會自動形成集體行動。利益大家共享、成本卻各自支付，等待別人先付出，往往比率先合作更符合個別利益。放到AI競賽，道理很直接：大家都希望AI更安全，但企業很難願意先失去市場，政府也很難接受先失去國家競爭力。

從「相互保證毀滅」到「相互保證加速」

一家AI公司如果減速，競爭者卻繼續向前，失去的可能是資金、人才與使用者；美國如果限制自己的尖端模型，中國卻沒有同步約束，產業安全問題立刻就變成國家安全問題。於是形成一個難解的循環：你不敢慢，因為不知道對手會不會慢；對手也不敢慢，因為同樣不相信你。

冷戰有所謂「相互保證毀滅」（Mutually Assured Destruction, MAD）。核嚇阻至少建立在彼此報復能力與毀滅代價相對清楚的預期上；AI風險卻更難衡量、查核與歸責，未必形成相互克制，反而可能把競爭者推向另一種「相互保證加速」（Mutually Assured Acceleration, MAA）。這甚至比「灰犀牛」更棘手：不是沒有人看到危險，而是沒有人承擔得起第一個退讓的代價。

川普喊「誰贏AI誰就贏」：全球治理碰上大國競爭

國際社會並非毫無動作。今年七月，聯合國首度舉行「全球AI治理對話」；獨立國際AI科學小組七月初公布的報告警告，現有安全機制已追不上AI能力成長。就目前而言，這些機制仍以科學評估、資訊交換與政策協調為主，距離具有約束力的全球制度仍有很大距離。

治理首先碰到兩個問題：到底該管模型能力、訓練算力、自主代理，還是特定高風險用途？又要如何查核？核物料可以計量、核設施可以檢查；AI程式碼與演算法卻能迅速複製、移轉。

但AI也留下一個實際入口：軟體像碳排一樣分散，算力卻像核物料一樣集中。 尖端模型仍離不開高階晶片、大型雲端與資料中心。未來治理未必需要監控每一行程式碼，而可從大型算力、安全測試、重大事故通報及關鍵基礎設施的使用邊界下手。關鍵是讓先遵守規則的人，不必因此先出局。

真正困難的，還是政治。就在產業領袖公開呼籲減速後，川普隨即反對，並在社群平台寫下「誰贏了AI，誰就贏了」，把問題直接拉回美中競爭。中國方面也質疑，美國業界的減速倡議可能固化既有技術優勢。兩邊理由不同，卻碰到同一個困境：沒有人願意先把速度讓給對方。

而弔詭正在這裡。全球最重要的一批AI公司、雲端平台與尖端晶片企業，多數仍高度受到美國政策影響。最強調維持 AI 領先、對全面監管最為戒慎的國家，偏偏也是最有能力讓制度發生作用的國家。

台灣算力兩難：當AI熱潮碰上水電與能源審查

台灣的兩難更加直接。作為全球AI算力供應鏈的關鍵節點，台灣既承受AI景氣循環的產業風險，也必須承擔算力擴張背後的資源成本。全球AI投資若降溫，半導體、伺服器及相關供應鏈首先受到衝擊；但AI競賽若持續加速，資料中心、晶圓製造與其他產業對電力、土地與水資源的競逐，也會更加尖銳。

經濟部自2025年起即要求用電達5MW以上的大型資料中心，在新設或擴建時接受能源使用審查；今年七月並預告進一步把投資、就業、供應鏈效益及 AI 生態系等項目納入評估。AI因此不再只是產業成長題材，也正在成為公共資源如何分配的治理問題。

台灣無法決定OpenAI或Anthropic要不要減速，卻必須決定自己願意為這場競賽提供多少電、多少地、多少水，又要換回什麼樣的產業與安全回報。AI治理真正要回答的，從來不是科技要不要進步，而是能否建立一套規則，讓降低風險不再等同於單方面犧牲競爭力。

如果每個人都知道前方有風險，卻沒有人付得起第一個放慢的代價，那麼真正需要治理的，恐怕不只是AI本身，而是這場迫使所有人不斷加速的競爭。

【以上言論為第三人投書，不代表本刊立場，讀者請本於客觀事證自行評價】

照片來源：Pexels

《更多CNEWS匯流新聞網報導》

【蒙志成專欄】川習會還沒開，北京先測試對台軍售的「非正式否決權」

【投書】美砸百億買來認知衰退 台灣平板教育該醒了

【文章轉載請註明出處】