（红蚂蚁制图）
作者 许耀泉
我们常说“尽信书不如无书”，但其实也可以说：尽信AI不如无AI。
根据新加坡家事司法法院9月10日发表的判决，一名申请个人保护令的男子在书面陈词中，引述了14起相关的判例，不过问题是：
这些判例根本不存在！
这名在庭上自我辩护的男子后来承认，在做出书面陈词时，使用ChatGPT查找新加坡的相关判例，却没有确认这些判例真实存在，也表示不知道新加坡法院出版了一份使用生成式人工智能（AI）使用指南。
这种生成式AI无中生有的现象也称为“AI幻觉”（AI hallucinations），其实相当常见。
根据ChatGPT母公司OpenAI网站上的一篇文章，AI幻觉指的是AI模型“信心满满地给出错误答案”这个现象。
OpenAI于9月5日在其网站上刊登了一篇探讨“AI幻觉”的文章。（截图）
OpenAI解释道，这个问题“始终难以根除”，主要是因为现有的AI培训和评估过程使AI模型偏重猜测，而不是承认不确定。
换句话说，生成式AI之所以会一本正经地胡说八道，是因为它的“老师”没有教它“知之为知之，不知为不知，是知也”，反而鼓励它像回答选择题的考生一样胡乱猜测，随便选个答案也可能侥幸猜中。
家事司法法院推事苏健平（音译，Soh Kian Peng）在判决书中强调，法庭使用者（即任何与法庭案件相关的人士，包括案件当事人、代表律师、主控官和证人等）必须为呈堂文件的内容负责，包括确保AI生成的内容准确无误。违例者可能被法庭谕令支付案件中其他当事人的讼费，所提呈的证据也可能不获采纳。
苏健平也提醒道：
“法庭如果认为被引述的判例或判例内容并不真实，就必须耗费时间和人力查证。”
