科技業尋宗教智慧教AI道德 學者憂傳統失真
為確保人工智慧(AI)能夠判斷是非對錯,多家科技公司正尋求宗教哲學與信仰領袖的指引。這些公司希望透過匯集多元傳統的道德觀念,以形塑其AI模型,尤其是在大型語言模型(LLM)的開發上,嘗試將宗教文本納入學習資料。
根據《Business Standard》報導,AI公司 Anthropic 已與超過 15 個宗教及跨文化團體學者、神職人員及倫理學家會面,以拓展對AI道德問題的理解。Anthropic 共同創辦人克里斯·奧拉(Chris Olah)表示,關於是非對錯的問題,實驗室無法給出答案,唯有千年歷史的宗教傳統才能提供指引。聖母大學(University of Notre Dame)的哲學家梅根·沙利文(Meghan Sullivan)也對 Anthropic 嚴謹探討宗教的態度印象深刻,稱其會議充滿了知識上的好奇心。
然而,此舉引發了專家與宗教信徒的質疑。他們警告,將宗教視為一本行為規範的「規則手冊」,並試圖將其輸入AI模型,未能考量不同宗教傳統與世界觀之間固有的矛盾性。密西根大學(University of Michigan)的人類學家 Webb Keane 指出,這種將宗教簡化為規則手冊的觀點,特別容易偏袒亞伯拉罕系宗教(Abrahamic religions)的教義,可能導致其他宗教傳統遭到扭曲。
部分學者也對這種做法可能導致宗教智慧同質化表示擔憂。喬納森·Z·史密斯(Jonathan Z Smith)和 Tomoko Masuzawa 等宗教研究學者認為,將「世界宗教」劃分為個別、可比較的系統,本身就是 19 世紀西方學術建構的產物,並非所有信仰者的原生觀點。他們憂心,當AI在混合與累積大量資訊的過程中,可能會失去對任何單一傳統的真正理解。Paolo Carozza 也表達了類似的憂慮,他認為AI這種「攪和一切」的資訊處理方式,並非有機的互動學習,最終可能導致對所有傳統都無法深刻理解。即使 OpenAI 執行長奧特曼(Sam Altman)曾表示,ChatGPT 應反映人類道德觀的「加權平均值」,但如何實現這一目標仍充滿挑戰。
參考來源
- To make artificial intelligence morally good, tech cos turn…(Business Standard)
科技公司如何教導AI分辨是非對錯?
多家科技公司正透過尋求宗教哲學與信仰領袖的指引,以確保人工智慧(AI)能夠判斷是非對錯。這些公司希望匯集多元宗教傳統的道德觀念,並將宗教文本納入大型語言模型(LLM)的學習資料,藉此形塑AI模型的道德判斷能力。例如,AI公司Anthropic已與超過15個宗教及跨文化團體學者、神職人員及倫理學家會面,以拓展對AI道德問題的理解。然而,此舉也引發專家質疑,擔心將宗教簡化為規則手冊可能導致傳統失真或偏袒特定教義。
科技公司為何要尋求宗教智慧來教導AI?
科技公司認為,關於是非對錯的複雜問題,實驗室本身無法給出答案,唯有千年歷史的宗教傳統才能提供指引。他們希望透過匯集多元傳統的道德觀念,來形塑AI模型的道德判斷能力。
專家為何質疑科技公司教導AI道德的做法?
專家警告,將宗教視為一本行為規範的「規則手冊」並輸入AI模型,未能考量不同宗教傳統間的矛盾性。這種做法可能偏袒特定宗教教義,導致其他宗教傳統遭到扭曲,並可能使宗教智慧同質化,失去對單一傳統的真正理解。