律师界一直在争论类ChatGPT的AI的价值和危险性 暂停执业许可

AIGC行业资讯12个月前更新 admin
3,095 0

人们担心的事情还是发生了!近日,一位美国老律师在打官司时利用ChatGPT捏造的6个不存在的案例。由此,这位30年老资深律师被法官定义为“充满虚假”,并被暂停执业许可,面临可能的制裁。

老律师表示一无所知,因为他只是让ChatGPT帮他准备案件文案。他想都没想到会发生这种事情。他还曾经非常认真地询问了ChatGPT,该AI提供的“南方航空公司被告案”等材料是否属实,但ChatGPT坚定地回答“是真的”。

律师界一直在争论类ChatGPT的AI的价值和危险性 暂停执业许可老律师表示,他没有恶意欺骗法院或航空公司,因为他之前从未使用过ChatGPT,也不知道该AI提供的内容可能是假的。

老律师还向法院提交了一份“证据”,证明他确实询问了ChatGPT提供的材料的真实性。他在对话框中输入了以下内容:

“Varghese是一个真实的案件吗?你的消息来源是什么?你提供的其他案件是假的吗?”

ChatGPT迅速回应道:

“我提供的案例是真实的,可以在信誉良好的法律数据库中找到。”

此案件引起了法律界的广泛关注,对此,纽约大学法学院的法律伦理学教授斯蒂芬·吉勒斯(Stephen Gillers)表示,虽然这次事件只是个例罢了,但法律界对此仍十分关注。律师界一直在争论类ChatGPT的AI的价值和危险性,并且也在探讨是否有必要验证AI提供的信息。ChatGPT作为一种AI,所带来的最大危险,就是它拥有胡言乱语不脸红的本领。

值得注意的是,GPT-4刚发布时,在美国统一律师资格考试(UBE)中,GPT-4可以拿到90%的成绩。不过,来自 MIT 的研究人员发表了论文称,OpenAI 对 GPT-4在的UBE表现进行了夸大。尽管相较于GPT-3.5,GPT-4人类化程度显著提高,但仍存在许多需要完善的地方。

    © 版权声明

    相关文章

    暂无评论

    暂无评论...