當戰場失去「決策時刻」:AI 驅動武裝衝突國際法還管得住嗎?從《日內瓦第一附加議定書》看自主系統歸責困境/李魚豪
李魚豪(亞太安全與戰略研究獨立工作室研究員)
隨著人工智慧(AI)、自主無人系統與各型無人載具加速投入軍事應用,傳統國際法正迎來一場考驗。長期以來,規範武裝衝突的國際法體系,其運作建立在人類能夠對武力使用進行有效判斷與控制的前提之上。然而,當前技術已使部分系統具備在失去通訊或缺乏即時人為干涉下,自主執行搜尋、辨識甚至攻擊任務的能力。這種從「人類決策」向「系統預設」的演進,正迫使我們重新審視既有的法律架構。
法律審查的技術瓶頸:第 36 條的履行困境
在現行法理中,《日內瓦第一附加議定書》(以下簡稱《第一附加議定書》)第 36 條扮演著守門人的角色。該條要求各國在研究、取得或採用新武器時,確認其使用是否受到國際法限制或禁止。這意味著國家對於自主系統的部署,對締約國而言,負有武器合法性審查義務。
然而,AI 系統的「黑盒子」特性(演算法的不透明性)使此類審查面臨技術上的極限。由於深度學習系統可能受到訓練資料與戰場環境影響,其運作結果未必能被開發者完全預測。當演算法的判斷過程無法被人類追溯或解釋時,將增加國家確認其持續符合國際法要求的難度。
價值衡量的侷限:區分原則與比例原則的技術化誤區
《第一附加議定書》第 48 條(區分原則)與第 51 條(比例原則)是國際人道法的靈魂,但其適用高度依賴人類對情境的理解力。在亞太地區頻發的灰色地帶行動中,海上民兵漁船與民用目標外觀極其相似,AI 是否具備足夠的社會情境感測能力來精準辨識合法軍事目標,仍具高度爭議。
更嚴峻的挑戰在於「比例原則」的衡量。該原則要求攻擊所造成的附帶損害不得與預期的「具體且直接的軍事利益」成不成比例。這並非單純的機率運算或成本估計,而是一種涉及戰爭倫理與戰略價值的主觀判斷。
但是否足以處理「軍事利益」與「人道價值」之間的複雜衡量,目前仍存在高度爭議。將此類法律判斷完全交付予演算法,極可能導致比例原則被簡化為冷冰冰的數學模型,進而威脅非戰鬥員的生命安全。
責任歸屬的斷裂:個人刑事責任與國家責任的迷失
自主系統引發的最核心問題,莫過於武力使用後的歸責。傳統法律假設武力背後存在清晰的指揮鏈與決策者。但在決策前移的趨勢下,責任歸屬呈現兩層級的斷裂:
其一,個人刑事責任。若 AI 系統在戰場上犯下戰爭罪行,由於缺乏人類的「犯罪意圖」,現行國際刑法難以對其進行訴追。責任鏈條將在現場操作員、指揮官與遠端的工程師之間斷裂,形成國際法學界所稱的「責任鴻溝」。
其二,國家責任。根據國際法,國家對其武裝部隊的行為負責。當自主系統在失聯狀態下運作,其自主行動程度是否影響國家責任的認定方式,仍可能引發法律爭議,同時可能增加國家利用技術複雜性模糊責任歸屬的風險。
誠如筆者先前所提,雖然近年聯合國 LAWS 政府專家小組(GGE)強調「有效人類控制」的重要性,但該概念目前仍屬政策倡議。在法律成文化的過程中,若未能明確定義 AI 輔助與人類決策的邊界,國際責任歸屬將持續處於模糊狀態。
亞太視野:灰色地帶的自動化演進
對於東海、台海與南海等地區而言,自主系統的普及正使壓力行動轉向「自動化」。由於灰色地帶行動刻意維持在「武裝衝突門檻」以下,導致以規範戰爭為目的的《第一附加議定書》常面臨適用上的邊界困境。
當自主無人機或無人載具在海上頻繁施壓時,若缺乏即時決策者可供對話、示警或進行危機降溫,原本依賴政治與外交斡旋的調節空間,將因演算法驅動的步調過快而急遽縮減。對台灣而言,這意謂著軍事壓力可能在缺乏明確政治起點的情況下,透過系統行為持續累積。
全球治理趨勢:跨越民與軍的透明度要求
儘管2024年通過的《歐盟人工智慧法案》(EU AI Act),或我國於2026年1月生效的《人工智慧基本法》,多半將國防軍事用途列為豁免對象,但這些民用規範對「透明度」、「可解釋性」與「高風險系統規制」的嚴格要求,正逐漸形成全球AI治理的普世底線。
這種治理邏輯正進一步外溢至軍事領域。如美國國防部自 2022 年起推動的《負責任的人工智慧戰略與實施途徑》(RAI Strategy),以及北約於2024年修訂的《人工智慧戰略》(NATO Artificial Intelligence Strategy),均強調系統須具備「可審計性」與「人類可監督性」。
此外,2024 年於韓國首爾舉行的「負責任軍事領域人工智慧」(REAIM 2024)高峰會,亦透過《行動藍圖》凝聚國際規範討論方向。這顯示出未來的國際法挑戰,不再僅限於戰場行為,更在於國家是否有能力在技術研發初期,就將「法律內置」於系統設計之中。
從當下決策轉向系統治理
自主無人系統對國際法的真正衝擊,在於其瓦解了「決策時刻」的即時性。當武力使用從人類的現場判斷轉向事前演算法的設定,我們正進入一個責任主體與決策鏈條逐漸模糊的衝突環境。國際法若要持續發揮約束武裝衝突的功能,其焦點必須從「規範戰場行為」延伸至「規範系統設計與採購程序」,透過重新定義「控制」與「責任」的界限,方能應對這場決策權流失的戰爭變革。(照片翻攝示意圖)