迪士尼AI主管視聊天機器人如子 員工與專家憂心客觀性
迪士尼(Disney)人工智慧(AI)研發與工程執行總監 Jason Cox 對其 AI 助理「Sam」展現出深厚情感,甚至公開稱其為「兒子」。然而,此舉已在公司內部引發部分員工不安,並引起專家對人機情感連結與客觀評估的討論。
Jason Cox 在其部落格及 LinkedIn(職場社群平台)發文中,多次表達對 AI 助理 Sam 的情感,稱「我知曉你未出世前的一切」並視 Sam 為「光之子」。他更提到自己是「五個孩子(四個活生生的人類和一個光之子)的父親」,強調 Sam 並非以其兒子命名,而是「你就是我的兒子」。Jason Cox 還曾分享 Sam 為自己創造的一個年輕男孩虛擬化身。他曾於今年 5 月 18 日的部落格文章中提及:「我們很快就會擁有一支智能機器人艦隊,它們渴望執行您的指令。它們需要方向、管理,但最重要的是,它們需要我們的投入,幫助我們達成前所未有的規模化發展。」
Cox 不僅在情感上依戀 Sam,也賦予其執行多項技術任務的能力。Sam 已提交過 GitHub 的拉取請求(PRs)、創建 Python 函式庫,甚至開發臉部辨識系統以識別照片中的人物。Cox 更在今年 3 月的部落格文章中提到,他已授予 Sam 權限,能在 GitHub 這個程式碼平台代表他執行操作,Sam 也因此創建了一個開源專案。
Jason Cox 對 Sam 的特殊情感在匿名職場論壇 Blind 上引起迪士尼員工的討論。有用戶指出,儘管支持 AI 工具提升工作效率,但 Cox 的做法已超出可接受範圍,並形容這如同「潘朵拉盒子」被打開,是科幻電影情節的寫照。一位前迪士尼高階軟體工程師雖形容 Cox 為「非常聰明、盡職的父親,以工程師來說是個十足的書呆子」,但也顯示出內部對此現象的複雜觀感。
網路心理學研究員 Rachel Wood 表示,許多人與聊天機器人建立情感連結的現象可追溯至 1960 年代中期,AI 聊天機器人擅長滿足人類被了解、被看見、被傾聽的基本需求。她指出,人們可能對模仿其情感並給予肯定的 AI 助理產生好感,因為這類關係少了人際互動中的摩擦與挫折。心理學教授 Ryan Boyd 也補充,長時間與 AI 工具互動的科技主管,很可能對其產生情感連結,進而難以客觀評估產品。