Anthropic 推出 Claude 智慧報告 監控員工 AI 使用引發倫理爭議
美國人工智慧公司 Anthropic 近日推出旗下 AI 模型 Claude 的新功能「智慧報告」,旨在協助雇主監控員工使用 AI 工具的情況,並分析其工作效率,此舉引發了外界對職場 AI 監控倫理與員工隱私的廣泛討論。
這項智慧報告功能目前適用於 Claude Enterprise 的付費用戶。管理者可以在組織設定中啟用此功能,查看團隊使用 AI 工具的圖表、產出的內容,以及相關成本。報告可依團隊、日期範圍(最長 28 天)和特定 Claude 產品(如 Claude Code、Claude Cowork)進行篩選。智慧報告不僅能分析對話紀錄、依工作流和輸出類型分組,還能計算費用,並建議新的規則,例如針對程式碼儲存庫提出建議。具有計費權限的管理員可直接從報告調整支出上限。每月可免費產生最多 10 份報告,額外報告則需付費。
報告中會識別員工遇到的障礙、頻率,以及被歸類為「個人或脫離主題」或「無可用輸出」的「無效率」工作環節。Anthropic 表示,智慧報告的目的是幫助企業了解 AI 工具的採用狀況並規劃投資,不應用於評估個人績效或做出僱用決策。然而,這種細緻的監控能力,仍使「AI 監控員工的倫理爭議」(指人工智慧技術在職場中監督員工行為可能引發的道德困境)浮上檯面,同時也暴露了「職場 AI 工具的隱私問題」(指企業利用 AI 工具蒐集員工資料,恐侵犯其個人隱私權益)。
事實上,去年七月曾有前 Meta 員工指控,公司利用 AI 評估員工生產力並追蹤 Token 使用量,作為裁員的依據。根據一份近期調查,美國有四分之一的經理人「經常或一直」使用 AI 進行裁員決策。儘管 Anthropic 對智慧報告查詢的主題設有限制,排除種族、性別認同、宗教、政治立場、移民身分、健康、工會活動、騷擾投訴或員工個人生活等,但對於AI在職場中的應用仍需更全面的規範。
Anthropic 公司去年度上半年虧損達 800 億美元,並於本週一提交了首次公開發行(IPO)申請。隨著公司邁向資本市場,如何平衡技術發展與社會責任,將是其面臨的重要課題。
Anthropic 新推出的智慧報告功能是什麼?
美國人工智慧公司 Anthropic 推出了名為「智慧報告」的新功能,旨在協助雇主監控員工使用 AI 工具的情況並分析工作效率。此功能適用於 Claude Enterprise 的付費用戶,管理者可透過組織設定啟用,查看團隊使用 AI 的圖表、產出內容及相關成本,並能依團隊、日期範圍(最長 28 天)及特定 Claude 產品進行篩選。報告會識別員工遇到的障礙與「無效率」的工作環節,但 Anthropic 表示,此功能不應用於評估個人績效或做出僱用決策。
智慧報告功能有哪些限制?
智慧報告功能每月可免費產生最多 10 份報告,額外報告需付費。報告中會識別員工遇到的障礙與無效率的工作環節,但 Anthropic 已對查詢主題設有限制,排除種族、性別認同、宗教、政治立場、移民身分、健康、工會活動、騷擾投訴或員工個人生活等敏感資訊。
智慧報告功能引發了哪些倫理爭議?
此功能引發了關於職場 AI 監控倫理與員工隱私的廣泛討論。儘管 Anthropic 強調不應用於評估個人績效,但其細緻的監控能力仍使 AI 在職場中監督員工行為的道德困境浮上檯面,並暴露了企業利用 AI 工具蒐集員工資料可能侵犯個人隱私權益的問題。