美中11月重啟「AI對話」 陸官媒拋出控管風險三方向
美中將如何重啟AI對話並管控風險?
美中兩國預計於11月重啟人工智慧(AI)對話,旨在管控AI風險。大陸官媒央視旗下新媒體「玉淵譚天」指出,雙方將探討三大方向:首先是建立AI風險分類與分級標準,釐清「重大風險」的定義及模型行為構成「嚴重失控」的標準;其次是敲定風險事件的通報範圍與流程,明確事件上報、時限、資訊共享及處置懲罰機制;第三是將AI治理納入更廣泛的美中交流框架,並納入多邊交流考量。儘管雙方積極推動對話,美方傾向使用「超級智慧」(Superintelligence, SI)一詞,而大陸官方仍沿用「人工智慧」(AI),顯示在技術定義上仍需進一步溝通。
美中兩國於9月「川習二會」達成建立「人工智慧(AI)對話」機制的共識,並預計於11月舉行下一輪對話。大陸官媒央視旗下新媒體「玉淵譚天」發文指出,相比數月前的僵局,當前美中推動AI合作的政策窗口已經打開,雙方合作意願明確,關鍵在於具體落實。
引述陸方談判相關人士說法,雙方預計於11月對話中深入探討三大具體問題與推進方向,第一是建立AI風險分類與分級標準,美中雙方需要先釐清底層共識,包括定義何種情況屬於「重大風險」、哪些模型行為構成「嚴重失控」。文章強調,若雙方對重大風險的定義無法達成一致,後續更複雜的規則與協同治理將無從談起。
第二是敲定風險事件的通報範圍與流程,一旦發生模型失控或逃逸事件,雙方均需在第一時間掌握狀況並評估風險等級。美中同意建立AI事件溝通管道是良好的第一步,但該機制不能流於口頭約束,必須明確規範哪些事件需上報、完成通報的時限、資訊共享範疇以及未落實要求的處置懲罰。缺乏案例積累與通報機制,將無法掌握風險演變規律。
第三是將AI治理納入更廣泛的美中交流框架,因AI模型可能影響公共安全,深度偽造(Deepfake)技術亦衝擊社會信任,相關風險最終將由全社會共同承擔。因此,AI治理討論應讓陸方充分參與,並傾聽更多國家的聲音,將其置於更寬廣的雙邊與多邊交流框架下推進。
名詞表述顯差異 美方採「超級智慧」 陸方仍稱「人工智慧」
儘管雙方對重啟對話展現積極態度,但在科技用語的定義上仍存在細微差異。根據白宮於川習會後公布的事實清單(Fact Sheet),美方主張使用「超級智慧」(Superintelligence, SI)一詞來描述此類新興前沿科技,並建議將交流機制命名為「超級智慧對話」,同時建立事件溝通管道。
然而,截至目前為止,大陸官方發布的公開聲明與官方媒體報導中,依然統一使用「人工智慧」(AI)一詞,尚未採納美方提議的「超級智慧」表述。顯示雙方在技術定義與戰略定位上,仍有待於11月的對話中進一步溝通與磨合。
美中AI對話的具體內容為何?
美中AI對話將聚焦於建立風險分類標準、敲定風險事件通報流程,以及將AI治理納入更廣泛的交流框架。雙方將試圖釐清重大風險的定義,並建立事件溝通管道與機制。
美中在AI用語上存在哪些差異?
美方傾向使用「超級智慧」(Superintelligence, SI)來描述新興前沿科技,並建議將交流機制命名為「超級智慧對話」。然而,大陸官方目前仍統一使用「人工智慧」(AI)一詞,雙方在技術定義上仍有待進一步溝通。