OpenAI研发新AI图像检测工具:精准识别DALL-E3生成图片

资讯5个月前发布 万万
1,318 0 0

       在人工智能不断革新的今天,OpenAI再次引领潮流,宣布正在开发一款全新的AI图像检测工具。这款工具不仅能够追溯内容来源,更能精准预测照片是否由DALL-E3这一先进的人工智能图像生成模型所创造。

OpenAI研发新AI图像检测工具:精准识别DALL-E3生成图片

       OpenAI的这项新技术包括两个核心部分:一是利用人工智能算法开发的图像检测分类器,专门用于识别照片是否由AI生成;二是耐篡改的水印技术,通过为内容添加不可见信号来验证其真实性。其中,图像检测分类器在识别DALL-E3生成图片方面表现出色,即使图片经过裁剪、压缩或饱和度调整,其准确率依然高达98%。

OpenAI研发新AI图像检测工具:精准识别DALL-E3生成图片

       不过,值得注意的是,该工具在识别其他AI模型生成的内容时表现尚显不足。目前,它只能识别出约5%至10%来自其他图像生成器(如Midjourney)的照片。尽管如此,这一成果依然标志着OpenAI在AI内容溯源领域的重大突破。

       OpenAI对于图像真实性的追求并不仅限于此。他们已经在图像的元数据中加入了由Coalition of Content Provenance and Authority(C2PA)提供的内容凭证。这些凭证本质上是一种水印,它们包含了关于图像所有者和创建方式的重要信息。OpenAI作为C2PA的成员之一,与微软、Adobe等科技巨头共同致力于维护数字内容的真实性和完整性。

OpenAI研发新AI图像检测工具:精准识别DALL-E3生成图片

       此外,OpenAI还在不断拓展其技术的应用范围。本月,他们不仅加入了C2PA的指导委员会,还开始在其文本到语音平台Voice Engine的片段中添加水印。这一功能的推出,无疑将进一步提高OpenAI在音频内容溯源方面的能力。

       然而,无论是图像分类器还是音频水印技术,都还处于不断完善和优化的阶段。OpenAI表示,他们需要从用户处获得更多反馈以测试这些工具的有效性。为此,研究人员和非营利新闻机构都可以通过OpenAI的研究访问平台来测试图像检测分类器。

     回顾OpenAI在AI内容检测领域的历程,他们一直在不懈努力。尽管在2023年,他们不得不终止了一项旨在识别AI写作文本的计划,但这并没有阻止他们继续探索新技术、新方法。如今,随着这款全新的AI图像检测工具的推出,我们有理由相信,OpenAI将在未来的内容溯源领域发挥更加重要的作用。

 

资讯、工具、教程、IT服务!

扫描以下二维码加群

告诉管理员您遇到的问题

我们会第一时间为您挑选优质教程和帮您解决问题

OpenAI研发新AI图像检测工具:精准识别DALL-E3生成图片

 

© 版权声明

相关文章

分享