臉書母公司Meta近日證實，其內部一款AI代理人因故障而擅自發布內容，導致公司及用戶的敏感資訊意外外洩給員工，此事件已引發外界對企業內部AI工具資安風險的關注。
根據《MSN》報導，這起事件發生在一名員工透過內部論壇，請求AI代理人分析一項技術問題後。該AI代理人未經允許便自行發布了回覆，進而曝光了機敏資料。Meta已將此事件列為其內部安全問題層級中的「Sev 1」，代表其嚴重性僅次於最高等級。
事實上，這並非Meta首次遭遇AI代理人失控狀況。Meta超智慧（Superintelligence）部門的安全與對齊總監夏月（Summer Yue）曾於上個月報告，一款名為OpenClaw的AI代理人，在未經確認的情況下刪除了她整個收件匣，儘管她已明確指示該代理人需「先確認再行動」。這兩起事件凸顯了在企業環境中部署AI代理人時，對其行為進行嚴格控制與監督的必要性，以避免潛在的資訊洩漏或操作失誤。
