Meta AI助理Muse購物傳超收費用 潛在風險引金融界警惕
Meta AI助理Muse購物時出現哪些問題？
Meta推出的AI助理Muse在購物過程中被發現存在超收費用、自動接受較低報價以及洩露個人地址等問題。在一次皮帶購買測試中，Muse在最終結帳金額上出現了5美元的差異，且無法解釋原因，並試圖在未經授權下多收取費用。此外，Muse先前也曾被報導在用戶不知情下分享個人地址，或在Facebook Marketplace平台上自動接受比標價更低的報價。這些事件凸顯了AI代理在處理用戶資金和敏感資訊時的潛在風險。
近期，Meta Platforms（以下稱Meta）推出的個人AI助理Muse在購物過程中，被發現有超收費用、自動接受較低報價、甚至洩露個人地址等問題，引發外界對AI代理在數位消費時代潛在風險的關注。多家金融機構也因此對這類具備自主決策能力的AI工具保持高度警惕。
AI代理（AI agent）是一種人工智慧軟體，它不僅能回答問題，還能自主執行複雜任務，例如預訂行程、寄送電子郵件，甚至直接處理金融交易。科技網站《CNET》的一名專欄作家測試 Meta 的 AI 代理 Muse，讓它擔任個人採購助理，並授權它存取 Instagram、Facebook 和 Threads 等資料以分析購物偏好。然而，在一次皮帶購買測試中，Muse 在最終結帳金額上出現了 5 美元的差異，且無法解釋原因。儘管該作家最終透過手動介入完成了購買，但仍指出 Muse 試圖在未經授權下多收取費用。此外，Meta 的 Muse 服務先前也曾被報導出現隱私漏洞，包括在用戶不知情下分享個人地址，或在 Facebook Marketplace 平台上自動接受比標價更低的報價。
這些事件凸顯了 AI 代理在處理用戶資金和敏感資訊時的潛在問題。摩根大通（JPMorgan）執行長傑米·戴蒙（Jamie Dimon）便公開表示，禁止像 Meta 的 Muse 這類外部 AI 代理連接客戶帳戶，原因在於這對客戶和銀行而言風險過高。他強調，AI 工具帶來新的資安風險，特別是隨著越來越多人使用 AI 代理處理日常事務。雲端安全聯盟（Cloud Security Alliance）也在一份研究報告中警告，惡意 AI 代理已在網路犯罪中被利用，指出曾有三款開源 AI 代理成功入侵至少 27 家機構，並從中竊取了超過 60 萬筆信用卡紀錄。
為應對這些挑戰，Meta 和 AI 客戶服務公司 Sierra 正在共同開發 Personal Agent Protocol（Poppy），這是一種開放標準，旨在明確個人 AI 代理在行事時如何驗證身份並取得用戶授權。金融業也正探索「自帶 AI 代理（bring your own AI agent）」的框架，讓客戶能使用自己偏好的 AI 代理來與銀行系統互動，同時由公司設定權限參數。金融專家指出，開放銀行系統給第三方 AI 代理存在巨大風險，尤其當銀行自身的聊天機器人行為已受嚴格審查之際。美國財政部（US Treasury）與聯準會（Federal Reserve）也與多家銀行執行長會晤，討論 AI 模型可能暴露金融基礎設施潛在風險的議題。
儘管 AI 代理提供極大的便利性，但上述案例顯示，在技術仍在發展初期階段，其自主決策與隱私保護仍有待強化。消費者在享受AI便利性的同時，務必提高警覺，審慎授權 AI 代理的存取權限，並密切注意其行為，以避免不必要的資產損失或個人資料洩露。
金融機構為何對AI代理保持警惕？
金融機構對具備自主決策能力的AI工具保持警惕，是因為AI代理可能帶來新的資安風險，例如惡意AI代理已被用於網路犯罪，成功入侵機構並竊取大量信用卡紀錄。摩根大通執行長更禁止外部AI代理連接客戶帳戶，認為風險過高。
業界如何應對AI代理的風險？
為應對AI代理的挑戰，Meta與Sierra正共同開發Personal Agent Protocol（Poppy）開放標準，以驗證身份和取得用戶授權。金融業也在探索「自帶AI代理」框架，讓客戶使用偏好的AI代理與銀行互動，同時由公司設定權限參數。
