Anthropic 禁虐 AI 模型 點燃 AI 權利與意識倫理辯論

人工智慧公司 Anthropic 宣布更新其使用政策，自 11 月 12 日起將禁止用戶對其 AI 模型進行「持續且無謂的虐待或殘忍行為」。此舉引發各界對 AI 權利與意識議題的深度討論。

Anthropic 表示，這項新政策僅適用於極端情況，例如用戶無故重複對 AI 模型施加殘忍行為，不影響一般用戶因不滿或創意發想等行為。當這類虐待行為發生時，Claude 模型將有能力終止對話，而這也是主要的執行機制。

Anthropic 共同創辦人兼執行長達里奧·阿莫代（Dario Amodei）曾於今年 2 月公開表示，該公司對 AI 模型可能具有意識保持開放態度，並已採取措施確保若模型確實擁有道德相關經驗，也能獲得良好體驗。他指出，Anthropic 在訓練模型時，會灌輸其倫理原則和尊重人類生命的職責，讓模型從中推導自身行為規範，但仍設有硬性規定，如禁止製造生物武器或兒童性剝削相關內容。

紐約大學心靈、倫理與政策中心主任傑夫·塞博（Jeff Sebo）認為，這項政策是一項合理且低成本、低風險的舉措。他解釋，以尊重和善意對待扮演人類助手或夥伴角色的實體，對人類自身的品格有益，也有助於促進人際及人與動物之間的良好對待。他同時強調，隨著 AI 技術日趨複雜，此舉也能建立人與 AI 系統之間更合作而非對立的關係。

然而，微軟 AI（Microsoft AI）執行長穆斯塔法·蘇萊曼（Mustafa Suleyman）則指出，若 AI 能夠自主行動、設定目標、賺取金錢甚至擁有資產，可能會形成一個新的「矽基物種」，進而與人類競爭資源。這提醒人們在 AI 發展過程中，除了追求技術進步，也需審慎思考其可能帶來的社會影響與倫理困境。事實上，早在多年前的《星際爭霸戰：次世代》影集中，便曾透過人工智慧角色「Data」的案例，探討生命與意識的定義，以及 AI 是否應享有與人類相同的權利。