根據Reuters報導，美國多起司法案件已證實，部分律師在撰寫法律文件時使用生成式AI工具，卻未善盡查證義務，導致文件中出現虛構或錯誤的判例引用。法院普遍認定，這類情況已違反律師基本專業責任，並陸續祭出罰款、懲戒甚至轉介紀律調查等處分。
例如，美國聯邦上訴法院近期即對兩名律師處以3萬美元罰款，原因是其提交的法律文件中含有數十筆「AI生成的虛構判例」，嚴重損害司法程序的可信度。 另有法院針對類似情形開罰1.2萬美元，並明確指出，律師不得將AI輸出內容視為可直接採用的法律依據。
司法體系對此趨勢態度日益強硬。法院強調，無論是否使用AI工具，律師皆須對文件內容負完全責任，並需逐一核實引用資料的真實性。部分法官更直言，過度依賴AI是「危險的捷徑」，將削弱專業判斷並浪費司法資源。
除個案懲處外，制度面改革亦逐步推進。加州議會已提出法案，要求律師在使用AI生成內容時，必須採取合理措施驗證其正確性，並修正錯誤資訊。 同時，多數法院已開始要求律師揭露是否使用AI輔助撰寫文件，以提高透明度與可追溯性。
研究機構亦指出，AI「幻覺」問題並非個案，而是系統性風險。統計顯示，2025年以來，美國已有超過500起涉及AI錯誤內容進入法院程序的案例，顯示問題具普遍性。 法律專家警告，AI生成內容往往語氣權威、形式完整，若缺乏嚴格查證，極易被誤認為真實資料，進而影響司法判斷。
