AI診斷藥物劑量頻出錯 Doximity揭潛在致命風險
醫療專業人士社群平台 Doximity 日前發布研究指出，多款廣泛使用的人工智慧（AI）模型在提供藥物劑量建議時，頻繁出現錯誤，其中部分錯誤甚至可能導致嚴重後果或致命。這項研究凸顯了 AI 在醫療領域應用上，尤其在關鍵決策環節，仍存在不容忽視的準確性問題。
根據《Healthcare Dive》報導，Doximity 的研究團隊針對九款主流 AI 模型，提出了超過 8,500 個臨床藥物劑量問題，涵蓋逾 2,200 種經美國食品藥物管理局（FDA）核准的藥物。結果發現，平均每 1,000 個回答中，約有 19.5 個包含嚴重或潛在致命的錯誤。其他受測的熱門 AI 模型，其回答中至少有 2.3% 存在劑量錯誤。
研究進一步分析錯誤類型，發現 13.2% 為輕微錯誤，43% 為顯著錯誤，而 3.4% 則屬於潛在致命錯誤。最常見的錯誤是 AI 模型未能根據患者的年齡、腎功能或藥物交互作用等資訊，調整藥物劑量，即使這些資訊已明確提供在問題中。此外，剛獲 FDA 核准的新藥，其劑量錯誤的機率比已上市的成熟藥物高出五倍。
Doximity 的首席 AI 研究員 Louis-Antoine Mullie 指出，這些在藥物劑量上觀察到的失敗模式並非單一現象。他表示，AI 模型在臨床照護的其他面向，也可能出現類似的弱點，例如知識過時或缺乏完整的病患背景資訊。儘管 AI 存在這些風險，目前已有超過 81% 的醫師表示在執業中會使用 AI 工具，此數字是 2023 年的兩倍多。因此，在如藥物劑量和處方箋等攸關生死的醫療決策中，AI 工具的準確性仍是醫療界與公眾關注的焦點。
AI模型在藥物劑量建議上有多常出錯？
醫療專業人士社群平台 Doximity 的研究指出，多款廣泛使用的人工智慧（AI）模型在提供藥物劑量建議時，平均每 1,000 個回答中約有 19.5 個包含嚴重或潛在致命的錯誤。其他受測的熱門 AI 模型，其回答中至少有 2.3% 存在劑量錯誤。最常見的錯誤是 AI 模型未能根據患者的年齡、腎功能或藥物交互作用等資訊調整藥物劑量，即使這些資訊已明確提供在問題中。此外，剛獲美國食品藥物管理局（FDA）核准的新藥，其劑量錯誤的機率比已上市的成熟藥物高出五倍。
AI模型在藥物劑量建議上，錯誤的嚴重程度如何區分？
研究分析發現，錯誤類型包含 13.2% 為輕微錯誤，43% 為顯著錯誤，而 3.4% 則屬於潛在致命錯誤。這些錯誤可能導致嚴重後果或致命。
儘管存在風險，仍有許多醫師使用AI工具嗎？
是的，目前已有超過 81% 的醫師表示在執業中會使用 AI 工具，此數字是 2023 年的兩倍多。因此，AI 工具在攸關生死的醫療決策中的準確性仍是關注焦點。
