商傳媒｜責任編輯／綜合外電報導

一份由人工智慧（AI）協助生成的錯誤情報報告，今年春天差點讓美國軍隊在中東地區，對一艘中國船隻採取軍事攔截行動，險些引爆美中兩國的武裝衝突。這起事件凸顯了 AI 技術在軍事及情報應用上可能導致的嚴重風險。

根據《CNN》報導，這份情報報告錯誤地指稱，一艘行駛於中東地區的中國船隻，正載運著與核武計畫相關的零件。美國軍方當時已制定攔截計畫，武裝人員蓄勢待發，軍機也已升空準備執行任務。所幸在行動展開前，美國官員發現這份報告是透過 AI 工具生成，且內容「完全錯誤」。熟悉此事件的消息人士指出，這起 AI 誤判「險些引發戰爭」。

這份錯誤情報是由美國特種作戰司令部（US Special Operations Command）的一名分析師，使用聊天機器人查詢船隻載運清單情報時所產生。該聊天機器人結合了開源情報與秘密信號情報，卻將船隻載運的物品「錯誤識別」。這在人工智慧領域被稱為「幻覺」（hallucination）現象，意指 AI 模型生成了看似合理但實際上錯誤或憑空捏造的資訊。隨後，這名分析師再度利用 AI 將這些發現包裝成一份標準情報報告並發布。

近年來，美國軍方與情報界正積極推動 AI 技術整合，以期加速戰場決策速度，並避免在與潛在對手如中國的競爭中落後。美國國防部長皮特·赫格塞斯（Pete Hegseth）已於一月發布國防部的「人工智慧加速戰略」，目標是將人工智慧的實驗與轉型普及化，讓各級官兵都能直接使用頂尖 AI 模型。美國國防部去年十二月宣布，將採用 Google’s Gemini for Government 作為其「GenAI.mil」平台的基礎，上個月也將 Grok for Government 納入選項。同時，Anthropic 也為美國情治工作提供客製化的 Claude 模型。

然而，此事件暴露出將 AI 用於軍事目標選定上，可能帶來的災難性誤判風險，尤其是在缺乏嚴謹數據驗證的情況下。目前，美國軍方與情報界內部，對於 AI 生成資訊缺乏統一的驗證標準，且不同 AI 系統的可靠性與功能差異甚大。美國國務院（State Department）的《人工智慧與自主系統負責任軍事使用宣言》也強調，負責任地使用 AI 必須確保「人類在環」（human in the loop），意即 AI 決策過程須由人類監督與介入，確保關鍵判斷仍由人類主導，以避免意外偏見和事故，並防範平民傷亡或友軍誤擊。有消息人士提到，AI 「幻覺」現象並非情報界孤立事件，而年輕分析師作為人工智慧工具的「原生」使用者，更容易未經批判地信任這些工具，使得因 AI 錯誤資訊導致的決策失誤風險更高。

據統計，目前已有 150 萬名現役美國國防部人員曾使用過軍方的生成式 AI 工具。五角大廈（Pentagon）代表曾於六月向美國國會表示，他們正利用生成式 AI 協助製作法定報告，顯示 AI 已廣泛深入軍事運作。但此番差點引發美中衝突的事件，讓各界對 AI 技術在軍事應用上的潛在風險，產生了更深層的疑慮。

參考來源