首页科技快讯 OpenAI推出新工具以鉴别AI生成图像，效果喜忧参半

OpenAI推出新工具以鉴别AI生成图像，效果喜忧参半

来源：晰数塔互联网快讯时间：2024年05月08日 10:27

来源：环球网

【环球网科技综合报道】在人工智能技术的快速发展下，生成的图像越来越逼真，使得真实与虚假的界限逐渐模糊。为了应对这一问题，行业领军企业OpenAI近日推出了一款新工具，旨在鉴别由其自家DALL-E 3生成器所创建的图像。然而，测试结果显示，该工具在实际应用中效果喜忧参半。

OpenAI表示，他们新推出的工具能够在98%的情况下准确检测出由DALL-3生成的图片，这无疑是一个令人鼓舞的结果。然而，该工具在鉴别其他人工智能模型制作的图像时，成功率却大幅下降，仅在5%至10%之间。这意味着，对于非DALL-E 3生成的AI图像，该工具的鉴别能力相当有限。

此外，当图像经过修改后，该工具的鉴别能力也会受到影响。对于诸如裁剪、压缩和饱和度变化等微小修改，工具的成功率虽然有所下降，但仍保持在95%至97%的可接受范围内。然而，当图像经过色调调整后，成功率骤降至82%。对于经历更广泛变化的图像，该工具在分类时更是遇到了明显的困难，OpenAI甚至未公布这些情况下的成功率。

这一局限性在选举年尤为引人关注。由于选举过程中可能会出现大量经过修改的AI生成图像，以激怒或误导公众，因此该工具的鉴别能力在实际应用中显得尤为重要。然而，从目前的测试结果来看，该工具可能无法有效识别出经过修改的、具有误导性的AI生成图像。

值得肯定的是，OpenAI对其检测技术的局限性保持透明态度，并允许外部测试人员访问该工具以帮助改进。同时，该公司还与微软等合作伙伴共同致力于扩大人工智能教育和素养的提升。

然而，随着人工智能技术的不断发展，我们仍需要更加完善和高效的工具来鉴别AI生成图像，以确保信息的真实性和可靠性。在当前选举背景下，这一问题显得尤为重要和迫切。

发布于：北京

网址: OpenAI推出新工具以鉴别AI生成图像，效果喜忧参半 http://www.xishuta.com/newsview117589.html

所属分类：行业热点