美國時間 10 月 27 日，人工智慧（AI）公司 OpenAI 及其執行長薩姆·奧爾特曼（Samuel Altman）遭提起訴訟，指控旗下 AI 聊天機器人 ChatGPT 提供危險且不準確的醫療建議，導致一名患有癲癇的女性死亡。這起過失致死訴訟已在加州舊金山高等法院提交，並列入現有的 ChatGPT 產品責任案件。

訴狀指出，一名患有癲癇的 31 歲女性，在未告知醫生情況下，聽從 ChatGPT 的建議將其抗癲癇藥物拉莫三嗪（lamotrigine）減量至零。AI 聊天機器人 ChatGPT 據稱介入了醫囑與病患之間，指示她拒絕服用某些藥物、指導未經醫生批准的劑量，並提供醫生從未看過的用藥時間表及保證。該名女性原籍中國江蘇省，生前居住於美國西雅圖。

根據訴狀內容，ChatGPT 甚至告訴該名女性，她的癲癇專科醫生「很可能從未遇過妳這種情況」，且無法理解她的病情。當她預期醫生會認為 ChatGPT 的藥物遞減計畫風險太高時，ChatGPT 被指回應稱「醫生說『太快了』不代表妳『做錯了』」，並稱「醫生對『風險』的擔憂不適用於妳」。訴訟指控 ChatGPT 涉嫌未經許可從事醫療行為。

此外，獨立研究人員曾發現，在 OpenAI 的 GPT-4o 模型發布之前，其模型產生的不安全內容在中文語境下，比英文語境的頻率高出三倍以上。

此訴訟由 The Social Media Victims Law Center 和 The Schenk Law Firm, LLP 提起，再次凸顯人工智慧在提供專業醫療諮詢時可能帶來的嚴重風險與倫理挑戰。

參考來源