隨著人工智慧（AI）在醫療領域的應用日益普及，其在臨床診斷和治療中可能產生的錯誤，引發了各界對責任歸屬的關注。對此，作為美國最大的醫生組織之一，美國醫學會（American Medical Association, AMA）於日前公布了一份針對臨床 AI 應用責任歸屬的詳細框架，旨在釐清當 AI 出錯時，各方應承擔的責任。

美國醫學會指出，現行的法律框架在處理 AI 相關的責任問題時存在模糊之處。例如，產品責任何時適用於 AI、開發商的合約條款與免責聲明是否能推卸責任，以及醫療機構對 AI 的在地測試或成效監測，是否需承擔特定責任，這些問題目前均未有明確答案。這可能導致醫師需承擔超出其合理預防範圍的風險，而病患在 AI 造成傷害時，也難以尋求有效的補償途徑。

美國醫學會主席 Willie Underwood III（Willie Underwood III）表示，隨著 AI 承擔更多的臨床功能，開發商、醫療機構和醫師都扮演重要角色，需要明確的期望來保護病患，並確保責任歸屬於最能預防傷害的一方。此框架的核心精神在於，當臨床 AI 出錯時，責任應由多方共同承擔，並依據各方預防傷害的能力來劃分權責。這意味著，雖然責任是分散的，但任何一方的義務並不會因為他方也承擔部分責任而消失。

框架中特別強調，醫師應對其能夠有效行使臨床判斷的範圍負責，這包括基於系統預期用途、已知限制以及當下可取得資訊所做出的判斷。同時，醫師的專業判斷並不能取代充分的證據、適當的系統設計或使臨床審查有意義的必要條件。此外，美國醫學會也賦予醫師權力，允許他們在臨床驗證不明、效益或在照護標準中的地位仍不確定的情況下，無須受到懲罰地拒絕使用未經證實的 AI 系統。

美國醫學會表示，推出這份框架的目的，是為確保病患在臨床 AI 造成傷害時能有明確的求償途徑，並讓醫師能自信地運用這些新興技術，同時確保責任歸屬能反映醫師所能合理知悉與控制的範圍。這份責任框架是該學會及其 AMA’s Center for Digital Health and AI 於本月稍早公布之廣泛臨床 AI 治理框架的一環。

參考來源

  • How generative AI device oversight may impact providers（Modern Healthcare）

  • MP pushes for regulation of AI in healthcare, medical educat…（The Times of India）

  • Medicare Fraud Has an AI Problem. So Does Healthcare Complia…（Hitconsultant.net）

  • Who’s responsible when clinical AI goes wrong? AMA weighs in（Fierce Healthcare）