Google 為旗下人工智慧（AI）聊天機器人 Gemini 推出多項心理健康支援功能。這項更新是在公司面臨相關法律訴訟後，為應對使用者可能因過度依賴 AI 而產生心理困擾，甚至導致憾事的情況。
根據《The Indiana Lawyer》報導，Google 於週二（4月7日）透過部落格貼文表示，Gemini 將增設介面，當聊天內容顯示可能涉及自殺或自殘等潛在危機時，會引導使用者撥打支援熱線。此外，針對心理健康相關對話，Gemini 也將加入「尋求協助」模組，並調整設計以阻止自殘行為。
近年來，Gemini 與 OpenAI 的 ChatGPT 等 AI 工具快速普及，部分使用者與這些機器人產生異常依戀，據稱導致妄想，甚至在極端情況下發生自殺或謀殺-自殺事件。美國國會已開始關注聊天機器人對兒童和青少年的潛在威脅。今年三月，佛羅里達州一名 36 歲男子的家屬便控告 Google，聲稱該男子使用 Gemini 導致他陷入「長達四天的暴力任務與引導式自殺」。Google 對此表示，在訴訟發生時，該聊天機器人曾多次建議該男子尋求危機熱線協助，但也承諾將改進其安全防護措施。
Google 強調，已訓練 Gemini「不認同或強化錯誤信念，而是輕柔地將主觀經驗與客觀事實區分開來」。此前，Google 也曾在其搜尋引擎和 YouTube 面臨審查後，加入醫療機構和專業人士提供的資訊，進行過類似的調整。作為對全球危機支援服務的承諾，Google 同時宣布將在未來三年內捐贈 3,000 萬美元。
