新加坡：兩名律師因在民事案件的結案陳詞中引用了兩個由人工智慧生成的虛構案例，被裁定各自承擔5000新元（約合3900美元）的個人費用。這一處罰源於對AI工具濫用所引發的司法誠信問題。
被告方主辯律師Goh Peck San聘請了另一名律師Amarjit Singh Sidhu協助研究與起草結案材料。而Singh則表示，最初的調研和草稿由一位已離職的助理完成，並坦言自己並不清楚是否使用了AI工具。
儘管兩位律師最初提議共同承擔1500新元的費用，但主審法官S Mohan認為該金額「明顯不足」，最終裁定每人支付5000新元，合計1萬新元。
根據3月6日發布的判決書，本案涉及已故Tan Thuan Teck遺產執行人提起的訴訟，旨在向其四位兄弟及其公司追討借款。Goh律師在結案陳詞中引用了兩個虛構案例——Case A與Case B。原告方律師發現，Case A雖擁有真實的中立引證編號，但該編號實際對應的是另一完全不同的案件；而Case B則完全是憑空捏造，連名稱與引證編號皆為虛構。
法官指出，生成式AI正在以「翻天覆地」的方式重塑法律行業。然而，「其在法律實踐中的整合，必須伴隨專業責任的同步進化——職業標準與倫理根基正依賴於此。」他強調：「每一位使用生成式AI的律師，都必須對提交至法庭的所有材料——尤其是案例權威性——進行獨立核實。」
調查發現，Goh律師未對AI生成的案例進行驗證，甚至不知ChatGPT可用於法律研究；而Singh雖審閱了草稿並做了語法修改，卻未確認所引用案例的真實性。他承認曾指令團隊禁用ChatGPT等AI工具，但未能監督助理的工作流程。更令人震驚的是，兩位律師均未發現虛構案例在LawNet等資料庫中無法檢索到的明顯漏洞。
法官批評道：「這暴露了系統性監管缺失——AI生成的內容被直接提交，卻無人追問其來源或真實性。」他特別指出，Case B若稍加在線搜索即可被識破，但二人竟均未採取任何驗證步驟。
「這不僅是一次疏忽，更是對司法程序的嚴重輕慢。」法官強調，虛構案例若未被及時發現，可能導致錯誤判決，造成「司法不公」。「律師的職責不是依賴AI生成答案，而是確保每一個提交法庭的論據都真實、準確且經過親自驗證。」
鑒於此，法官裁定：兩位律師須各自承擔5000新元費用，並且不得向客戶收取因處理虛構案例所產生的時間、成本與資源支出。他還警告新加坡律師界：未來若再出現類似行為，將可能觸發紀律處分；而「無知」不再是免責的藉口。
法官在結語中呼籲全體律師：必須深入掌握生成式AI的應用規範，將核實材料真實性作為執業底線——因為「AI只是助手，而法庭的公正，終究掌握在人類律師手中。」
