Meta、OpenAI為AI助理添吉祥物 專家憂用戶信任度過高
科技公司為何為AI助理設計吉祥物?
科技巨頭 Meta 和 OpenAI 近期推出具備「可愛吉祥物」的 AI 助理,期望將人工智慧融入大眾日常生活,拉近與消費者的距離。Meta 推出的 AI 助理 Muse 搭配名為 Jolly 的吉祥物,OpenAI 則發表了 AI 助理 Dots,透過色彩豐富的卡通角色呈現。Meta 執行長祖克柏介紹了預計最快 12 月問世的 Muse Charm 穿戴式裝置,讓使用者無需智慧型手機或智慧眼鏡,即可隨時與 Muse 互動。Muse 在上市後 10 天內,於美國的下載量便突破 73 萬次,並超越 ChatGPT 躍居蘋果商城美國區應用程式排行榜首位。
為拉近與消費者的距離,科技巨頭 Meta Platforms(以下簡稱 Meta)與 OpenAI 近期紛紛推出具備「可愛吉祥物」的 AI 助理(AI agent),期望將人工智慧融入大眾日常生活。這類 AI 助理是一種可以代表使用者執行任務的軟體,例如管理電子郵件、寄送發票、預訂機票或購買商品等。
Meta 於 2026 年 9 月下旬推出其 AI 助理 Muse,並為其設計名為 Jolly 的吉祥物。OpenAI 也在同期發表其 AI 助理 Dots,透過色彩豐富、圓潤的卡通角色呈現。據《Vogue Business》報導,Meta 執行長祖克柏(Mark Zuckerberg)在 9 月的年度 Connect 大會上,介紹了預計最快 12 月問世的 Muse Charm,這是一款搭載高通 Snapdragon Wear Elite 晶片組的穿戴式裝置,讓使用者無需智慧型手機或智慧眼鏡,即可隨時與 Muse 互動。祖克柏表示:「我們為這個小裝置融入大量技術,讓它能隨時放在鑰匙圈上並隨時與你對話。」
Muse 在上市後 10 天內,於美國的下載量便突破 73 萬次,並超越 ChatGPT 躍居蘋果商城(App Store)美國區應用程式排行榜首位。受此消息激勵,Meta 股價在單一交易日上漲 11%,市值約增加 1920 億美元。
然而,這種將 AI 產品「人性化」的趨勢也引發專家疑慮。社會科技學家 Sarah Saska 指出,科技公司向投資者、監管機構和研究人員描述 AI 時,多強調其強大功能及待解決的安全疑慮;但面對消費者,同樣的技術卻被包裝成友善、有趣、操作簡單且風險較低的形象。Forrester 研究公司首席分析師 Kate Winick 也擔憂,Muse 預設會利用用戶的互動來訓練 AI 模型並儲存分享資訊,儘管用戶可選擇退出,但這可能增加個人資料遭惡意行為者竊取或被 Meta 不當使用的風險。Meta 曾因數據使用不當,近期在美國新墨西哥州被判誤導用戶。
Clever Together Futureproof 執行董事 Lidia Velkova 認為,這些都是有目的的設計選擇,可能導致人們更輕易信任這些 AI 系統。她引述研究指出,社交機器人若具有嬰兒般的特徵,會增加人們對其的信任度;聊天機器人的擬人化互動也會促使用戶透露更多個人資訊。Velkova 擔憂,這些設計讓強大的 AI 系統顯得無害,鼓勵用戶更頻繁地分享,卻減少了質疑。
在 AI 發展的速度方面,Anthropic 執行長達里奧·阿莫代(Dario Amodei)、OpenAI 執行長奧特曼(Sam Altman)、馬斯克(Elon Musk)以及 Google DeepMind 的德米斯·哈薩比斯(Demis Hassabis)等多位業界領袖,都曾呼籲放慢前瞻性 AI 的發展腳步,但祖克柏則主張應由各公司自行決定發展速度,反對業界全面減速。
AI 助理的吉祥物設計可能引發哪些疑慮?
專家擔憂,將 AI 產品「人性化」的趨勢可能導致人們更輕易信任這些 AI 系統。這種設計可能鼓勵用戶更頻繁地分享個人資訊,卻減少了質疑,增加了個人資料遭惡意行為者竊取或被 AI 公司不當使用的風險。
Meta 的 AI 助理 Muse 的表現如何?
Meta 的 AI 助理 Muse 在上市後 10 天內,於美國的下載量便突破 73 萬次,並超越 ChatGPT 躍居蘋果商城美國區應用程式排行榜首位。受此消息激勵,Meta 股價在單一交易日上漲 11%,市值約增加 1920 億美元。
對於 AI 發展速度,業界領袖的看法為何?
包括 Anthropic 執行長達里奧·阿莫代、OpenAI 執行長奧特曼、馬斯克以及 Google DeepMind 的德米斯·哈薩比斯等多位業界領袖,曾呼籲放慢前瞻性 AI 的發展腳步。然而,Meta 執行長祖克柏主張應由各公司自行決定發展速度,反對業界全面減速。