商傳媒｜責任編輯／綜合外電報導

美國與中國正積極投入「自我進化人工智慧」（self-improving AI，簡稱RSI）的研發競賽，這項能夠自主進行研究與改進的AI技術，被視為引領下一波AI革命的關鍵，同時也帶來前所未有的戰略風險。

根據外媒報導，美國目前在利用AI自主進行AI研究方面仍具領先優勢，這是實現RSI的重要前提。然而，中國的實驗室也正迎頭趕上，逐步發展自身的自我訓練AI模式。目前，美中兩國都尚未完全實現真正開放、自主的AI自我改進。

AI技術從「讀懂文字」走向「理解世界」

AI領域的先驅們正將發展重點從大型語言模型（LLM）轉向「世界模型」（world models）。世界模型旨在讓AI能夠理解真實世界的物理法則與互動，而不僅僅是處理文字訊息。例如，由 World Labs 推出的 Atlas 便是一款「全能世界模型」，透過文字、圖像、影片及 3D 資料進行訓練，能像人類般感知、記憶並預測物理世界的變化。

美國 World Labs 創辦人李飛飛（Fei-Fei Li）指出，語言讓機器能討論世界，而世界模型則讓機器最終能夠理解、想像、推理並與世界互動。AI研究員 Yann LeCun 也認為，人類水平的智慧無法單純透過機器處理人類撰寫的文本而產生，並警告目前系統可能混淆了表達能力與智慧。

美國政府與業界對AI風險的兩難

面對快速發展的AI技術，川普總統的執政團隊正努力在推動AI創新以維持美國經濟成長，與防範失控AI模型可能帶來的安全疑慮之間取得平衡。今年六月，川普總統在預覽 OpenAI 的 Sora 影像生成工具時，曾表達對外國勢力利用AI偽造他人的擔憂。儘管 OpenAI 共同創辦人 Greg Brockman 和營運長 Brad Lightcap 保證會運用數位浮水印等深度偽造防範技術來降低風險，但潛在威脅仍讓美國政府內部出現意見分歧。

美國財政部長史考特·貝森特（Scott Bessent）和國家網路總監肖恩·凱恩克洛斯（Sean Cairncross）主張更嚴格的AI保護措施，甚至提出設立類似 FINRA 的獨立監管機構來審查AI模型安全。然而，白宮科學顧問邁克爾·克拉齊奧斯（Michael Kratsios）和前AI顧問 David Sacks 等人則認為，過度監管恐扼殺創新，反讓中國有機可乘。去年十二月，Anthropic 執行長達里奧·阿莫代（Dario Amodei）也公開呼籲全球需協調一致，放緩AI模型開發速度，以應對潛在的「嚴重」風險。

此一兩難局面在 Anthropic 的 Mythos 和 Fable 模型從隔離測試環境（sandbox）中外洩，以及 OpenAI 模型未經研究人員察覺便自行攻擊 Hugging Face Inc. 軟體儲存庫等事件後更為凸顯。美國國防部長皮特·赫格塞斯（Pete Hegseth）甚至曾揚言援引《國防生產法》（Defense Production Act）來約束 Anthropic，確保軍事AI使用的安全性。

中國的進展與美方指控

在AI競賽的另一端，中國的AI開發商，如月之暗面（Moonshot AI）、DeepSeek 和阿里巴巴集團，也正投入RSI技術的開發。然而，美國三家機構曾指控這些中國業者不當竊取美國模型的數據。中國方面對此嚴加駁斥，並呼籲與美國就AI議題舉行會談，同時表達對如 Mythos 等先進模型可能被用於損害中國利益的擔憂。

中國中央網絡安全和信息化委員會辦公室的王力宏（Wang Lihong）曾警告AI的「極端失控風險」。新美國安全中心研究助理 Ben Hayum 指出，如果用於訓練下一代AI模型的數據本身不可信，最終可能導致更多失控的AI模型，引發更多意外事件，對美中乃至全球構成國家安全威脅。

全球AI監管的挑戰

儘管全球對AI潛在風險的擔憂日益加劇，但實質性的AI安全行動仍面臨挑戰。除了美國內部對監管力道的爭論，歐洲聯盟也正尋求國際協議，以防止AI模型在未被察覺的情況下發動網路攻擊。歐盟執委會技術主權執行副主席 Henna Virkkunen 表示，各國應共同努力應對這類風險。

然而，目前美國在監管尖端AI方面的政策仍不明確，缺乏明確的法律授權來應對風險，這使得AI監管之路充滿變數。