美國參議員推AI代理人法案 促建立聯邦審核信任名單
為應對人工智慧(AI)代理人技術快速發展帶來的挑戰,美國參議員馬克·沃納(Mark Warner)發布《AI AGENT 法案》(Artificial Intelligence Access, Gatekeeper Exchange, and Nondiscriminatory Transfer Act)草案。該法案旨在建立一個經聯邦政府審核的AI代理人軟體供應商名單,以確保用戶在使用這些能夠自動替其執行任務的軟體時,擁有更高的安全保障與控制權。
根據這份草案,美國聯邦貿易委員會(FTC)將負責制定安全與身份標準,並認證獨立機構來審核AI代理人供應商。法案特別針對每月擁有超過5,000萬客戶或訂閱者的大型線上平台,要求其用戶有權選擇至少一名符合FTC規範的AI代理人供應商。法案的核心精神在於,確保這些AI代理人在處理用戶個人資訊時,能符合隱私、數據安全等基本保護措施,並始終符合用戶最佳利益。同時,法案也要求每個AI代理人必須連結到其人類操作者的身份,並內建控制功能,讓用戶能明確授予或撤回代理人替其執行動作的權限。
馬克·沃納參議員指出,AI代理人正在改變美國人與科技互動的方式,有鑑於這些程式已能替用戶進行購物、發布社群媒體內容甚至變更帳戶設定等決策,有時甚至在用戶不知情或未同意的情況下執行,因此建立清晰的聯邦框架,推動創新、保護消費者並確保美國在此新興科技領域的領先地位至關重要。目前這份草案仍在討論階段,沃納參議員希望在正式提交參議院審議前,能廣泛收集各界意見。
值得注意的是,特朗普政府也正嘗試為前沿AI模型尋找監管基準。本月初,美國商務部便對Anthropic公司旗下的Mythos 5和Fable 5模型實施了出口管制。雖然特朗普政府曾透過行政命令推動自願性的30天測試計畫,讓AI公司提交特定前沿模型進行測試評估,但針對Anthropic的出口管制,據報導是在該公司公開發布Fable 5數日後實施,原因是有關單位擔憂其模型可能存在「越獄」(jailbreak,指繞過安全限制)風險。對此,Anthropic公司則聲稱,廣泛的內部測試並未發現Fable 5存在普遍性的越獄問題,且目前的第三方研究也未證實其阻止外界存取模型網路安全或生物學能力的防護措施已被規避。事實上,Anthropic曾因同樣的安全顧慮,暫緩公開發布其最新模型Mythos。