
有律师行的职员为省事,在代理一宗华人家族遗产案而撰写法庭文件时,请人工智能帮手,被法官严厉批评。
法官质问李律师,她的摘要是否是由人工智能(如ChatGPT)凭空生成。李律师表示他们事务所通常不会这样做,需要向她的文员确认。最后李律师无法为摘要中引用的个案提供准确的判例引文,也无法中找到这些判例。
法官还发现,李律师的摘要有错误引用案例的其他问题。例如原告郭汉娜要求解除李海春的遗产受托人资格,李律师于是引用另两宗旧案,「受托人因未提供账目及其行为削弱了受益人的信任而应被罢免」以及「受托人未披露信息、擅自处理遗产而应遭罢免」,藉此来支持自己的诉求。
但法官指出,前一宗旧案中的帕蒂罗(Pattillo)法官最后的判词是,「目前缺乏充分且明确的证据证明,有必要解除被告的受托人职务。被指控的行为并未危及受益人福社或未来遗产管理。基于上述理由,申请被驳回。」该案的帕蒂罗法官还裁定,原告因无理指控受托人存在不当行写,应承担高额赔偿性诉讼费用。
法官质疑,这样的裁决结果明显对李律师的当事人郭汉娜不利,李律师却不加检查就加以运用。第二宗旧案的链接是一宗非法解雇案,更是与李律师所说的「受托人未披露信息而被罢免」的事情风马牛不相及。
迈尔斯法官由此认为,上述情况与过度倚赖生成式人工智能(如ChatGPT)撰写摘要的案例极为相似。这类应用程序有时会生成虚假的法律引文,被称为「幻觉」。
李律师的摘要很可能是由人工智能生成的,而律师在提交摘要并且在法庭上引用这些内容前,很可能并未检查所引用的判例是否真实存在,或是否确赏支持其主张。
迈尔斯法官指出,「律师有责任对由非人类技术(如生成式人工智能)生成的文件进行人工审查,在向法院提交案例时,自己应先行阅读这些案例。最起码,不应提交根本不存在或与主张相反的案例。对诉讼律师而言,最基本的职责是不得误导法院。」
最后法官判决,李向国在中国还有一家公司和一处商业地产,应与具备在中国执行加拿大遗产命令经验的遗产律师进行詻询。
迈尔斯法官命令李海春,因为死者生前曾给她购入一处物业,因此李海春要在2025年5月31日前,向所有相关方提供其父李向国在去世当日的全部资产和负债清单。此外她还必须全面披露购入这处房产的资金来源,特别是她是否曾接受其父提供的资金。如若有此类转帐,她必须披露具体条款,还需提供所有资产、负债、父亲资助、房产购买与出售的文件。