（紅螞蟻製圖）
作者 許耀泉
我們常說「盡信書不如無書」，但其實也可以說：盡信AI不如無AI。
根據新加坡家事司法法院9月10日發表的判決，一名申請個人保護令的男子在書面陳詞中，引述了14起相關的判例，不過問題是：
這些判例根本不存在！
這名在庭上自我辯護的男子後來承認，在做出書面陳詞時，使用ChatGPT查找新加坡的相關判例，卻沒有確認這些判例真實存在，也表示不知道新加坡法院出版了一份使用生成式人工智慧（AI）使用指南。
這種生成式AI無中生有的現象也稱為「AI幻覺」（AI hallucinations），其實相當常見。
根據ChatGPT母公司OpenAI網站上的一篇文章，AI幻覺指的是AI模型「信心滿滿地給出錯誤答案」這個現象。
OpenAI於9月5日在其網站上刊登了一篇探討「AI幻覺」的文章。（截圖）
OpenAI解釋道，這個問題「始終難以根除」，主要是因為現有的AI培訓和評估過程使AI模型偏重猜測，而不是承認不確定。
換句話說，生成式AI之所以會一本正經地胡說八道，是因為它的「老師」沒有教它「知之為知之，不知為不知，是知也」，反而鼓勵它像回答選擇題的考生一樣胡亂猜測，隨便選個答案也可能僥倖猜中。
家事司法法院推事蘇健平（音譯，Soh Kian Peng）在判決書中強調，法庭使用者（即任何與法庭案件相關的人士，包括案件當事人、代表律師、主控官和證人等）必須為呈堂文件的內容負責，包括確保AI生成的內容準確無誤。違例者可能被法庭諭令支付案件中其他當事人的訟費，所提呈的證據也可能不獲採納。
蘇健平也提醒道：
「法庭如果認為被引述的判例或判例內容並不真實，就必須耗費時間和人力查證。」
