隨著數百萬人轉向聊天機器人尋求健康建議，科技公司推出專門解決醫療諮詢的程式只是時間問題。OpenAI於今年一月推出ChatGPT Health，這個新版本據稱可以分析使用者的醫療紀錄、健康應用程式和穿戴裝置的數據，以回答健康問題。目前該服務正在候補名單階段。OpenAI的競爭對手Anthropic也為其Claude聊天機器人的部分使用者提供類似功能。
OpenAI與Anthropic皆強調，這些大型語言模型並不能取代專業醫療照護，不應用於診斷疾病。相反地，聊天機器人可以總結和解釋複雜的檢測結果、幫助使用者為看診做準備，或分析隱藏在醫療紀錄和應用程式數據中的重要健康趨勢。
專家建議，現代聊天機器人的一大優勢是，它們可以根據使用者的醫療歷史背景（包括處方、年齡和醫生筆記）做出回應。即使使用者沒有授予AI存取其醫療數據的權限，專家也建議提供聊天機器人盡可能多的細節，以改進回應。但使用者應了解，在某些情況下，必須立即就醫。呼吸急促、胸痛或嚴重頭痛等症狀可能表示發生緊急醫療狀況。
史丹佛大學醫學院院長Lloyd Minor博士表示，即使在不那麼緊急的情況下，病患和醫生也應該對AI程式抱持著合理的懷疑態度。Minor博士補充說：「如果您正在考慮一項嚴重的醫療決定，甚至是一項不太重要的健康決定，您永遠不應該完全依賴大型語言模型提供的資訊。」
聊天機器人的許多好處來自於使用者分享他們的醫療數據。但重要的是要了解，AI公司提供的任何資訊都不受聯邦隱私法保護，而該法通常規範敏感醫療資訊。著名的HIPAA法允許對洩露醫療紀錄的醫生、醫院、保險公司或其他醫療服務處以罰款甚至監禁，但該法律不適用於開發聊天機器人的公司。OpenAI和Anthropic皆表示，使用者的健康數據與其他數據分開儲存，並受到額外的隱私保護措施的約束。使用者可以選擇加入數據共享，也可以隨時選擇退出。
AI健康聊天機器人的前景仍處於早期測試階段。初步研究表明，ChatGPT等程式可以在醫療測試中展現出高水準的知識，但在與人互動時經常出錯。牛津大學在2024年一項涉及1300多人的研究發現，使用AI聊天機器人研究假設健康狀況的人，做出的決定並不比那些使用線上搜尋或自己判斷的人更好。在書面醫療情境中，AI聊天機器人正確識別出主要病症的比例高達95%。
牛津網路研究所的主要作者Adam Mahdi表示：「問題不在於診斷的準確性，而是與真實參與者的互動。」聊天機器人提出釐清問題和提取關鍵細節的能力，仍有改進空間。Mahdi認為，當這些工具在與患者互動的方式上更具臨床性時，它們才會真正有效。目前，提高對所提供資訊信任度的一種方法是諮詢多個聊天機器人，這可以作為來自其他醫生的第二意見。賓夕法尼亞大學法學教授Wachter表示，他有時會將資訊輸入ChatGPT和另一個AI工具，當兩者都同意時，他會對答案更有信心。
