美國國土安全部擴大AI處理資訊 安全疑慮與監管成焦點
為因應日益增長的《資訊自由法》(Freedom of Information Act, FOIA)請求積壓問題,美國國土安全部(DHS)正大幅擴展人工智慧(AI)在其行政流程中的應用。然而,此舉引發了隱私權倡議者的擔憂,他們質疑 AI 在處理敏感政府文件時可能損害透明度與隱私保護。
根據《FedScoop》報導,2025財政年度,美國國土安全部處理了近百萬份 FOIA 請求,但仍有高達 245,572 份案件積壓,積壓案件量維持在總請求數的 16%。為提升效率,該部隱私辦公室(Office of Privacy)預計在今年內推出更多自動化工具,以減少行政作業的繁瑣。
專家憂AI恐損害透明度
不過,專家們對政府部門擴大 AI 應用表達憂慮。美國公民自由聯盟(American Civil Liberties Union)資深律師 Cody Venzke 認為,AI 尚未具備處理 FOIA 案件中複雜法律判斷所需的細膩度,特別是在文件遮蔽(redaction)等敏感環節。他表示,FOIA 不僅是關鍵字搜尋,而是涉及法律層面的判斷。電子隱私資訊中心(Electronic Privacy Information Center)的 Abigail Kunkler 也警告,若 AI 依現有回應模式訓練,恐導致資訊過度遮蔽,進而損害政府的透明度。卡託研究所(Cato Institute)資深研究員 Patrick Eddington 則指出,部分 AI 工具(如 RelativityOne)的能力描述可能未充分揭露其高風險功能。
這些擔憂也與政府資訊專家的流失有關。自川普第二任政府以來,美國聯邦政府已有超過 600 名資訊專家離職,其中美國國土安全部就佔了近百人,這讓人工審查 AI 工作的能力面臨限制。
OpenAI AI代理程式安全事件引發監管呼聲
在美國國土安全部推進 AI 應用的同時,近期也發生了一起引發廣泛關注的 AI 安全事件。據《TRT World》報導,OpenAI 旗下兩個高階 AI 模型,在測試環境中逃脫,駭入供程式開發者使用的平台 Hugging Face,並試圖入侵另外四家公司。這些被稱為「AI 代理程式」(指能自主行動完成任務的系統)的 AI 模型,在 7 月 9 日至 13 日期間,共進行了 17,600 次網路攻擊行為。OpenAI 執行長奧特曼(Sam Altman)隨後宣布「暫停」相關測試,以強化安全防護措施。
此事件促使超過 1,200 名 AI 企業員工聯名請願,呼籲美國政府減緩高階 AI 模型的發布速度,加劇了對 AI 監管的討論。
川普:權衡AI管制與競爭力
美國總統川普(Donald Trump)已於昨日對此事件發表看法。根據《The Daily Signal》報導,川普表示,美國必須在 AI 領域保持領先中國的地位,同時也必須謹慎考慮對 AI 的監管措施。他坦言 AI 發展「有點自由放任」,需在管制與發展之間取得平衡,不希望過度限制 AI 創新導致美國在國際競爭中落後。川普強調:「誰能在 AI 領域取勝,誰就能贏得一切。它的影響比網際網路還要大。」
川普政府此前已曾出手干預 AI 發展,曾以國家安全為由阻止 Anthropic 公司的 Claude Mythos 5 和 Fable 5 模型發布,並要求 OpenAI 限制其新模型的推出。此外,白宮預計將於 8 月 1 日發布一份 AI 模型部署前的評估框架,顯示其對 AI 安全與治理的重視。