川習談妥軍事AI人類掌控原則!貝森特揭重大軍事行動不得交由AI自主決定
圖/I-Media 愛傳媒
中美科技競爭持續升溫之際,美國財長貝森特(Scott Bessent)透露,美國總統川普(Donald Trump)與中國國家主席習近平在深圳APEC會談期間,對軍事人工智慧(AI)的使用達成一項重要共識:重大軍事行動必須有人類參與決策,不得完全交由人工智慧自主執行。貝森特形容,這是川普此次亞洲行的重要成果之一,顯示即使美中激烈競逐AI領先地位,雙方仍有必要在軍事應用風險上建立共同底線。
根據《南華早報》報導,貝森特在結束隨川普訪問亞洲行程後,接受美國財經媒體CNBC訪問時透露,習近平與川普已就軍事AI的使用原則取得共識。他表示,兩國領導人認同,任何涉及人工智慧的軍事決策,都應該有人類參與;AI不應被允許在重大軍事行動中自主運作。
貝森特強調,這項原則不應受到美中AI技術競爭影響。他表示,無論兩國在AI領域的競爭多麼激烈,雙方都同意,任何重大軍事行動都不應在沒有真人參與的情況下發動。
重大軍事行動不得由AI自主發動 美中建立安全底線
路透也引述貝森特的談話指出,他在CNBC訪問中使用川普政府偏好的「超級智慧」(Super Intelligence,SI)一詞,說明這項共識的核心,就是人類必須保有軍事決策的最終參與權,不能讓AI系統在重大軍事行動中自行決定是否採取攻擊。
這項議題之所以受到關注,在於AI技術正快速進入軍事領域,從情報分析、目標辨識、戰場監控,到無人武器及軍事指揮系統,都可能運用AI提升反應速度與作戰效率。然而,當系統能夠自主分析情勢、選定目標,甚至進一步執行攻擊,一旦出現誤判、資料錯誤或系統失控,可能在極短時間內引發難以挽回的軍事衝突。
尤其美中都是具備核武能力的主要大國,軍事AI若被整合進核武預警、指揮及決策流程,更涉及戰略誤判與危機升高風險。人類是否必須保留最終決策權,已成為國際社會討論軍事AI治理的重要課題。
貝森特說,川普與習近平會談時,雙方曾就如何遏止核武擴張進行深入討論。這與軍事AI決策原則雖是不同議題,但都反映出科技發展與大國軍事安全之間日益緊密的關係。
AI競爭不影響軍事安全合作 美方仍強調維持技術領先
貝森特指出,美中在AI領域的競爭,不應妨礙雙方針對軍事使用建立安全保障。他強調,美國AI實驗室仍必須維持技術領先,認為這是防範中國危險AI模型及相關網路攻擊的重要方式。
他也談到美國對中國AI晶片出口管制,表示在川普採取強硬立場後,輝達(Nvidia)H200晶片仍是中國在取得許可後能購買的最先進晶片,但中國方面目前訂單不多,正努力建立自己的晶片供應體系。他認為,中國在相關技術上仍落後美國多年。
南華早報說,這凸顯中美在AI領域呈現競爭與風險管控並行局面:一方面,雙方都希望掌握下一代AI技術優勢;另方面,當AI逐漸進入軍事指揮與武器系統,如何避免機器自主決定重大軍事行動,已成為兩國不得不面對的共同安全問題。
值得注意的是,中方在相關會談表述也提到,應加強溝通協調、防範人工智慧安全風險,確保AI始終處於人類控制之下。這與貝森特所透露的共識方向相互呼應。
川普與習近平達成哪些軍事AI使用共識?
美國財長貝森特透露,美國總統川普與中國國家主席習近平在APEC會談期間,就軍事人工智慧(AI)的使用達成共識,規定任何涉及AI的軍事決策都應有人類參與,重大軍事行動不得完全交由AI自主執行。此共識旨在建立軍事應用風險的共同底線,確保人類保有軍事決策的最終參與權,即使在美中AI技術競爭激烈的背景下,這項原則也不應受到影響。
把這個解答傳出去美中在軍事AI領域的共識為何?
美中兩國領導人同意,重大軍事行動必須有人類參與決策,不能完全交由AI自主執行。這項共識強調人類對軍事決策的最終控制權,旨在降低AI在軍事應用中可能帶來的風險。
為何軍事AI的決策權問題受到關注?
AI技術正快速進入軍事領域,可能提升反應速度與作戰效率,但也存在誤判、資料錯誤或系統失控導致難以挽回的軍事衝突的風險。尤其在美中兩大核武國家之間,軍事AI整合進核武預警系統,更可能引發戰略誤判與危機升高。
美國對中國AI晶片出口管制政策為何?
根據貝森特說法,在川普政府的強硬立場下,輝達H200晶片仍是中國在取得許可後能購買的最先進晶片,但中國訂單不多,且在晶片技術上仍落後美國多年。