美國 AI 歧視法規爭議未解 政府報告示警潛在法律風險
根據美國國會研究處(Congressional Research Service,負責為國會提供研究與分析的聯邦機構)昨日(22日)發布的報告,聯邦反歧視法對於人工智慧(AI)驅動的決策仍存在諸多未解問題,為雇主、債權人、住房供應商及其他使用自動化工具的實體帶來不確定性。這份報告特別指出,當自動化系統根據受保護特徵(如種族、性別)對人群進行分類,但卻沒有人類有意識選擇歧視的情況下,現行法律如何評估這類案件仍「懸而未決」。
報告針對兩種主要的反歧視理論,即「有意歧視(disparate treatment)」與「差別影響(disparate impact)」,提出了未解決的問題。有意歧視指有意為之的歧視行為,報告檢視了透過代理變數進行歧視,是否需要證明人類意圖。報告更示警,當AI模型的決策無法被解釋時,原告「可能永遠無法證明存在有意歧視」。
至於差別影響,即雖無意圖但其政策或做法造成對特定群體的差別影響,報告質疑演算法是否構成「特定做法」、被告應提供何種正當理由,以及原告如何找出歧視性較低的替代方案。此外,一份由美國司法部(Justice Department)法律顧問辦公室(Office of Legal Counsel)於今年六月發表的意見書,結論指稱公平就業機會委員會(Equal Employment Opportunity Commission,EEOC,負責執行聯邦反歧視法規的獨立機構)對《民權法案》第七章(Title VII)中差別影響條款的詮釋,已違憲。
美國住房與城市發展部(Department of Housing and Urban Development,HUD)也提議廢止其《公平住房法》(Fair Housing Act)及相關的《民權法案》第六章(Title VI)差別影響法規。公平就業機會委員會(EEOC)同樣提出取消部分申報要求,理由是出於憲法上的考量。美國國會研究處(CRS)建議,國會可透過修訂現行反歧視法規,或另立專法要求AI決策的透明度、進行偏見審計及納入人類參與。然而,報告也警告,某些立法途徑可能引發憲法上的問題,例如財產徵收條款(Takings Clause)、第一修正案(First Amendment)和平等保護條款(Equal Protection Clause)等。目前,第119屆國會提出的五項相關法案仍處於委員會審查階段。
美國 AI 歧視法規面臨哪些未解的法律風險?
美國國會研究處(Congressional Research Service)的報告指出,聯邦反歧視法在 AI 決策應用上面臨多項未解問題,為使用自動化工具的實體帶來不確定性。現行法律對於 AI 系統在無人類有意識歧視意圖下,卻因受保護特徵對人群進行分類的案件,其評估方式仍懸而未決。報告質疑在差別影響理論下,演算法是否構成「特定做法」、被告應提供何種正當理由,以及原告如何找出歧視性較低的替代方案。此外,美國司法部法律顧問辦公室認為公平就業機會委員會對《民權法案》第七章差別影響條款的詮釋已違憲,而住房與城市發展部也提議廢止相關差別影響法規。
AI 歧視的兩種主要理論是什麼?
AI 歧視主要涉及兩種理論:一是「有意歧視(disparate treatment)」,指有意識的歧視行為,但 AI 模型難以證明人類意圖;二是「差別影響(disparate impact)」,指雖無意圖但政策或做法對特定群體造成差別影響。
美國國會研究處對 AI 歧視法規提出了哪些建議?
美國國會研究處建議國會可透過修訂現行反歧視法規,或另立專法來要求 AI 決策的透明度、進行偏見審計並納入人類參與,以應對潛在的法律風險。