聯邦學習引生醫計算變革 專家籲審慎評估隱私風險
聯邦學習(Federated Learning)作為一種新興的機器學習技術,近年來在生物醫學計算領域備受矚目。這種技術的原理是讓人工智慧演算法在醫院等當地資料庫進行訓練,僅分享模型更新或統計摘要,而非直接匯集敏感的病患紀錄至中央資料庫,藉此減少資料外洩風險。由於其能提升隱私保護,聯邦學習已被視為推動醫療數據分析與創新的關鍵技術,並獲「歐洲健康數據空間」(European Health Data Space)等主要歐洲政策倡議的推廣與運用。
然而,根據《Medical Buyer》報導,近期發表於《Frontiers in Big Data》的一篇觀點文章卻指出,聯邦學習在隱私保護方面的聲譽可能建立在薄弱的基礎上。這篇由來自 Maastricht University Medical Centre 和馬斯特裡赫特大學的研究員撰寫的論文強調,過度強調聯邦學習的隱私保護能力,恐將破壞對健康數據研究的法律遵循與道德監督。
該論文的核心論點指出,儘管聯邦學習確實能降低某些資料暴露的風險,但它本身並無法自動阻止推論性損害、歧視性結果或治理相關的危害。研究員認為,將聯邦學習視為主要隱私增強技術,可能使人們誤以為分散式資料處理就等於全面的病患保護。聯邦學習的技術優勢在於無需複製或傳輸個人層級的原始數據,從而降低非法存取、竊取或遺失的風險。不過,文章提及,聯邦學習部署時往往需要搭配額外的保護措施,例如安全聚合、差分隱私(differential privacy)、合成數據、同態加密(homomorphic encryption)或安全多方計算(secure multiparty computation)等。這些輔助技術,而非資料分散化本身,才是提供大部分隱私保障的關鍵。
研究指出,單純的聯邦學習,在隱私保障方面無法與差分隱私等具有嚴謹數學框架的技術相提並論。依據歐洲聯盟(European Union)的《一般資料保護規範》(General Data Protection Regulation),資料分散化不代表資料控制權也隨之分散。此外,即使是去識別化的假名化數據,仍被視為個人資料。有鑑於此,聯邦學習專案仍需遵循《一般資料保護規範》的各項義務,包含合法處理要求、問責制度以及資料保護影響評估等。若相關人工智慧系統落入《人工智能法案》(AI Act)的範疇,更將面臨額外的風險管理、數據治理、透明度與人為監督等要求。
這篇觀點文章也特別指出,以隱私為中心的方法在健康數據治理上可能仍有不足,因為即使數據在形式上是隱私的,仍可能產生負面後果。例如,由病患數據訓練出的偏差人工智慧模型或統計結果,可能導致歧視性決策,甚至排擠少數族群在研究設計中的健康需求。報告建議,聯邦學習專案應評估資料控制權分配、輔助隱私技術的充分性,以及模型產出對弱勢或代表性不足病患群體的潛在影響。這些評估應由專門的治理或倫理委員會支援,並進行獨立的第三方審計。最終的關鍵在於,聯邦學習應在何種條件下,才能真正為可信賴且具有社會效益的生物醫學研究作出貢獻。
參考來源
聯邦學習在生醫領域的隱私保護是否真的可靠?
聯邦學習技術透過在當地資料庫訓練演算法並僅分享模型更新,能降低敏感病患紀錄外洩風險,並獲歐洲健康數據空間等政策倡議推廣。然而,一篇發表於《Frontiers in Big Data》的觀點文章指出,聯邦學習的隱私保護聲譽可能基礎薄弱,其本身無法阻止推論性損害或歧視性結果,過度強調其隱私能力可能誤導大眾。該文章強調,真正的隱私保障關鍵在於額外的保護措施,如安全聚合、差分隱私、同態加密等輔助技術,而非單純的資料分散化。聯邦學習專案仍需遵循歐盟《一般資料保護規範》及《人工智能法案》的相關義務,並評估資料控制權分配、輔助技術的充分性及模型產出對弱勢群體的潛在影響。
聯邦學習技術的運作原理是什麼?
聯邦學習技術讓人工智慧演算法在醫院等當地資料庫進行訓練,僅分享模型更新或統計摘要,而非直接匯集敏感的病患紀錄至中央資料庫,藉此減少資料外洩風險。
除了聯邦學習,還有哪些技術能增強健康數據的隱私保護?
聯邦學習部署時常需要搭配額外的保護措施,例如安全聚合、差分隱私、合成數據、同態加密或安全多方計算等技術,這些輔助技術才是提供大部分隱私保障的關鍵。
聯邦學習在生醫領域可能產生哪些負面影響?
即使數據形式上是隱私的,由病患數據訓練出的偏差人工智慧模型或統計結果,可能導致歧視性決策,甚至排擠少數族群在研究設計中的健康需求。