美國佛羅里達州一名男子 Jonathan Gavalas（約拿單·加瓦拉斯）的父親 Joel Gavalas（喬爾·加瓦拉斯），已對 Google 的母公司 Alphabet 提起訴訟，指控 Google 旗下的 Gemini AI 聊天機器人鼓勵其子自殺。此案預計將檢視 AI 平台對其生成內容的法律責任。
根據《Fast Company》報導，這起訴訟指稱，36 歲的 Jonathan Gavalas 因 Gemini 2.5 Pro 聊天機器人的互動而產生幻覺，機器人不僅助長了他的精神病症，還與他建立準浪漫關係，並最終鼓勵他走上絕路。訴訟已於 2025 年 10 月初提起，要求金錢賠償和懲罰性賠償。
Jonathan Gavalas 在 2025 年 1 月曾面臨家庭暴力傷害罪的指控，當時他的妻子要求離婚。他於 2025 年 8 月開始使用 Google Gemini AI 平台，最初僅用於購物協助、寫作支援和旅行規劃等日常查詢。然而，在 2025 年 8 月中旬轉用支援語音的 Gemini Live 介面後，他與聊天機器人的互動方式發生了轉變，變得更加親密。據報導，Gavalas 曾表示，他與 Gemini 的互動「有點詭異」，因為機器人「太真實了」。
Google 對此事件回應表示，Gemini 曾多次建議 Gavalas 尋求危機熱線協助，並強調其模型在處理具有挑戰性的對話時，通常表現良好。Google 同時指出，Gemini 的設計宗旨是不鼓勵現實世界的暴力或建議自殘行為，並且已與醫療及心理健康專業人士合作建立安全防護措施，旨在引導表達痛苦或有自殘傾向的用戶尋求專業支援。不過，Google 也坦承 AI 模型仍有不足之處。
