美國華爾街頂級律所蘇利文·克倫威爾律所（Sullivan & Cromwell）近日向美國聯邦法院公開致歉，承認其提交的一份法律文件中，包含人工智慧（AI）生成的錯誤內容。這些錯誤包括虛構的案例引證、誤引的法律條文，甚至是不存在的法律來源，再度凸顯 AI 技術在專業領域應用上對準確性與倫理構成的嚴峻挑戰。
該律所合夥人 Andrew Dietderich 於 4 月 18 日致函美國曼哈頓破產法院（United States Bankruptcy Court for the Southern District of New York）首席法官馬丁·格倫（Martin Glenn），表達誠摯歉意。他表示，這些由 AI 產生的錯誤被歸類為「AI 幻覺」，意指 AI 工具會編造案例引證、誤引權威或生成不存在的法律來源。
此一錯誤是由另一家律所波伊，希勒和弗萊克斯納律所（Boies Schiller Flexner）發現並提出。Andrew Dietderich 不僅向法院致歉，也於上週五（4月19日）致電波伊，希勒和弗萊克斯納律所，感謝他們指出錯誤並再次致歉。
蘇利文·克倫威爾律所坦承，儘管他們擁有針對 AI 工具使用的全面政策和培訓要求，但這些政策在本次事件中並未被遵守，甚至連二次審查流程也未能識別出 AI 生成的錯誤引證。該律所已承諾將提交修正過的文件版本。
此事件再次敲響警鐘。據了解，自 2023 年以來，美國已有數十起律師因使用 AI 進行法律研究和起草文件，卻未徹底審查結果，而遭到法官制裁的案例。法律界專業人士肩負確保法庭文件準確性的倫理責任。法律研究員 Damien Charlotin 甚至維護著一個公開資料庫，紀錄法律案件中出現的 AI 幻覺。
蘇利文·克倫威爾律所代表的對象為 Prince Global Holdings Limited 進行清算的外國代表。值得一提的是，Prince Global Holdings Limited 的創辦人兼董事長陳志（Chen Zhi），目前被紐約布魯克林聯邦法院指控涉嫌在柬埔寨經營強迫勞動營並涉及大規模投資詐欺。太子集團（Prince Group）去年曾發表聲明，否認陳志有任何不法行為，並稱相關指控毫無根據。
