商傳媒|方承業/綜合外電報導

美國人工智慧公司 Anthropic 近期捲入地緣政治爭議與內部風波。其開發的大型語言模型 Claude 遭指控被伊朗相關組織用於軍事目的,同時 Anthropic 員工向美國阿拉斯加州州長候選人的捐款也引發關注。

根據《The Alaska Story》報導,一個與伊朗相關的組織利用 Anthropic 旗下的 Claude(Anthropic 開發的一種人工智慧模型,能理解並生成人類語言)來收集美國海軍的情報,並制定潛在的攻擊目標建議。該組織透過 Claude 編寫目標手冊、追蹤海軍船艦位置,並搜尋艦載系統的漏洞,包含軍事人員資訊、船艦與飛機識別碼、商業衛星影像以及海軍動向。此外,該組織也使用 Claude 研究海上衛星終端機、思科(Cisco)通訊設備和工業控制產品的潛在弱點。

報導指出,中東國家葉門(Yemen)北部的團體也曾利用 Claude 開發火箭導引軟體,甚至規劃射程超過 2,000 公里的彈道飛彈,並探索高超音速滑翔彈頭的飛彈設計。除了中東地區,其他行為者也使用 Claude 開發俄羅斯無人機群技術、為中國研究武器、進行網路攻擊,並建立監控系統,鎖定政治異議人士、維吾爾人、藏人、宗教領袖以及台灣政治人物。例如,一名在中國的行為者據稱使用 Claude 為中國海軍製作了一份長達 200 頁的反魚雷系統提案。

Anthropic 公司已關閉涉嫌濫用的帳戶,但無法確定這些情資是否已被實際用於伊朗的軍事行動。Anthropic 方面表示,他們的防護措施擋下了許多惡意請求,但並非全部。此事件也凸顯了 AI 技術在軍事和地緣政治領域的潛在風險。

在 Anthropic 內部,本週傳出研究員 Jacob Coxon 辭職的消息。他在辭職時公開表示,Anthropic 和另一家領先的 AI 公司 OpenAI 都沒有負責任地發展人工智慧,而是競相開發自我改進的「超級人工智慧」,並形容這是在「拿我們的生命冒險」。Coxon 認為,Anthropic 為了率先達到超級人工智慧而競賽,是因為公司領導層不信任競爭對手能負責任地處理這項技術。

與此同時,Anthropic 的資金流向也引發關注。在今年二月至五月間,六名 Anthropic 員工向美國阿拉斯加州州長候選人喬納森·克雷斯-湯姆金斯(Jonathan Kreiss-Tomkins)的競選活動捐贈了總計 37.2 萬美元。其中一名員工更高額捐贈 10 萬美元。來自人工智慧產業相關人士的捐款總額至少達到 52.1812 萬美元,佔喬納森·克雷斯-湯姆金斯夏季募款總額約 185 萬美元的逾 28%。

喬納森·克雷斯-湯姆金斯近十年前曾簽署生命未來研究所(Future of Life Institute)的一份人工智慧安全信函,該所致力於降低 AI 技術發展的潛在風險。他目前提議在阿拉斯加州立法機關制定規範框架前,立即暫停興建新的資料中心。值得注意的是,美國空軍已邀請提案,計劃在阿拉斯加州的多個軍事基地,包括埃爾門多夫空軍基地(Joint Base Elmendorf-Richardson)、埃爾森空軍基地(Eielson Air Force Base)和克利爾空軍雷達站(Clear Space Force Station),設立多達 12 個 AI 資料中心,這反映美國軍方對 AI 基礎設施的需求。