在文件中发现 ChatGPT 幻觉后,无执照的法律书记员被解雇

主要观点:大学毕业生过度依赖 ChatGPT 后在工作中面临后果,如一名法学院毕业生因使用 ChatGPT 起草法庭文件出现错误而丢了工作,文件中包含人工智能生成的虚假引用等,法官强调律师有责任审核法庭文件准确性,虚假引用会造成多方面危害,一些律师虽接受责任但浪费更多资源,同时法律行业需警惕 AI 幻觉信息等,大学教师称学生过度信任 AI 且影响教学。
关键信息:

  • 一名法学院毕业生因用 ChatGPT 起草文件被 Utah 法院制裁并丢工作,文件有虚假引用。
  • 法官强调律师审核法庭文件准确性的责任,指出律师在提交包含虚假先例的文件时未履行职责。
  • 虚假引用易被发现,ChatGPT 对虚假案件的总结仅称涉及纠纷但无细节。
  • 律所道歉并表示已建立新政策,解雇了相关法律助理。
  • 虚假引用会造成成本上升等危害,而 Bednar 和 Durbano 接受责任被制裁。
  • 法律非营利组织称需确保法庭诉状引用真实案例,用户应负责任使用 AI。
  • 律师称法学院毕业生常为未获许可的法律助理,法律行业需警惕 AI 幻觉信息,大学教师称学生过度信任 AI 影响教学。
    重要细节:
  • Utah 法院下令制裁,文件包含首例在该州被发现的人工智能幻觉虚假引用及“多个”误引案例。
  • 律所称法律助理未通知使用 ChatGPT 且当时无阻止使用 AI 的政策。
  • 法官称若有适当审核流程可避免虚假引用,且强调律师应持续审核文件准确性。
  • 律所向法院道歉并承诺弥补,法律助理被解雇。
  • 法律非营利组织称其支持负责任使用 AI,非盈利组织也在服务中使用 AI。
阅读 7
0 条评论