OpenAI首次面临诽谤诉讼,因ChatGPT生成虚假信息

资讯1年前 (2023)更新 花花
288 0 0
AI技术遇上你的创意,会碰撞出怎样的火花?国内历史最久GC品牌诚邀你揭晓答案
OpenAI首次面临诽谤诉讼,因ChatGPT生成虚假信息

简述:OpenAI首次面临诽谤诉讼,被指ChatGPT生成虚假信息。乔治亚州的一名广播主持人Mark Walters对OpenAI提起诉讼,因ChatGPT声称他涉嫌从非营利组织中诈骗和挪用资金。诉讼于6月5日在乔治亚州格威奈特县的乔治亚高级法院提起,Walters要求OpenAI支付未具体指明的经济赔偿。

正文: 近期,OpenAI首次面临诽谤诉讼,这是对ChatGPT生成虚假信息做出的回应。来自乔治亚州的一名广播主持人Mark Walters对该公司提起诉讼,因ChatGPT声称Walters涉嫌从一家非营利组织中诈骗和挪用资金。该信息是在回应一名名为Fred Riehl的记者的请求时生成的。Walters的诉讼于6月5日在乔治亚州格威奈特县的乔治亚高级法院提起,他要求OpenAI支付未具体指明的经济赔偿。

这起诉讼非常引人关注,因为人们普遍抱怨ChatGPT和其他聊天机器人生成虚假信息的问题。这些系统没有可靠的方法来区分事实和虚构,当被要求提供信息时,特别是在要求确认提问者认为是真实的事情时,它们经常会编造日期、事实和数据。

通常情况下,这些捏造的信息只会误导用户或浪费他们的时间。但是现在开始出现了这些错误导致损害的案例。其中包括一位教授因ChatGPT声称他的学生使用AI写作论文而威胁给予不及格,并且一位律师因使用ChatGPT研究虚假法律案例而可能面临制裁。这位律师最近对法官说:“我听说了这个新网站,我错误地认为它像一个超级搜索引擎。”

OpenAI在ChatGPT的主页上包含了一个小的免责声明,警告系统“偶尔可能生成错误信息”,但该公司也将ChatGPT作为可靠数据的来源,广告中描述该系统是“获取答案”和“学到新知识”的方式。OpenAI的CEO Sam Altman多次表示,他更喜欢从ChatGPT中获取新的信息,而不是从书籍中获取。

然而,目前尚不清楚是否存在法律先例,能够追究公司对AI系统生成虚假或诽谤性信息的责任,以及这起具体案件是否有充分的法律依据。

在美国,根据第230条款,互联网公司对第三方产生并托管在其平台上的信息免除法律责任。目前尚不清楚这些保护是否适用于不仅仅链接到数据源而是重新生成信息的AI系统(这一过程也导致其生成虚假数据)。

Walters在乔治亚州提起的诽谤诉讼可能会对这一框架进行测试。案件中提到,记者Fred Riehl要求ChatGPT通过链接到一个在线PDF文件来概括一个真实的联邦法院案件。ChatGPT生成了一个详细且令人信服但在几个方面是错误的案件概述。ChatGPT的概述中包含了一些事实正确的信息,但也对Walters提出了虚假指控。它声称Walters被认为从一个名为“第二修正案基金会”的枪支权利非营利组织中挪用资金,“超过500万美元”。实际上,从未有人对Walters提出过这样的指控。

Riehl没有公开ChatGPT生成的虚假信息,而是与另一方核实了相关细节。根据案件文件,尚不清楚Walters是如何得知这些错误信息的。

值得注意的是,尽管ChatGPT按照Riehl的请求概述了一个PDF文件,但实际上它无法在没有使用额外插件的情况下访问此类外部数据。系统无法向Riehl提醒这一事实,这是其误导用户的能力的一个例子。(然而,当The Verge今天对该系统进行相同任务的测试时,它清楚而详细地回答说:“很抱歉,作为一个基于文本的AI模型,我没有能力访问或打开特定的PDF文件或其他外部文档。”)

撰写法律教授Eugene Volokh在一篇博客文章中指出,尽管他认为“原则上AI公司的诽谤索赔是合法的”,但这起具体诉讼“应该难以维持”。Volokh指出,Walters并未通知OpenAI关于这些虚假陈述的事实,使他们有机会将其删除,而且ChatGPT的输出并没有造成实际损害。“无论如何,最终发生什么将很有趣”,Volokh说道。

© 版权声明

相关文章

分享