2024年7月21日Nature头条

标题： 使用天文学方法检测到的AI“深度伪造”面孔

副标题： 分析光线在眼睛中的反射可以帮助确定图像的真实性

附图1：Deepfake图片和视频可用于传播错误信息

附图2：Deepfake图像中的眼睛（左）具有不一致的反射模式（右）

主要内容：

 研究人员正在转向天文学技术，以帮助发现计算机生成的“深度伪造”图像 - 乍一看，这些图像可能与真实照片相同。

 通过使用通常用于调查遥远星系的方法分析面部图像，天文学家可以测量一个人的眼睛如何反射光线，这可以揭示图像操纵的迹象。

 “这不是灵丹妙药，因为我们确实有假阳性和假阴性，”英国赫尔大学数据科学、人工智能和建模卓越中心主任凯文·皮姆布莱特（Kevin Pimbblet）说，他在7月15日的英国皇家天文学会国家天文学会议上介绍了这项研究。“但这项研究提供了一种潜在的方法，一种重要的前进方向，也许可以增加一系列测试，人们可以应用这些测试来试图弄清楚图像是真的还是假的。

——伪造的照片

 人工智能（AI）的进步使得越来越难以区分真实的图像、视频和音频与算法创建的图像、视频和音频之间的区别。深度伪造将一个人或环境的特征替换为另一个人或环境的特征，并且可以使个人看起来好像说过或做了他们没有说过或做过的事情。当局警告说，这项技术可能被武器化并用于传播错误信息，例如在选举期间。

Pimbblet解释说，真实的照片应该具有“一致的物理特性”，“所以你在左眼球中看到的反射应该与在右眼球中看到的反射非常相似，尽管不一定完全相同”。这些差异是微妙的，因此为了检测它们，研究人员转向了旨在分析天文学图像中光的技术。

这部尚未发表的作品构成了阿德朱莫克·奥沃拉比（Adejumoke Owolabi）硕士论文的基础。英国赫尔大学的数据科学家Owolabi从Flickr-Faces-HQ数据集中获取真实图像，并使用图像生成器创建假面孔。然后，Olwolabi使用两种天文测量方法分析了图像中光源在眼睛中的反射：CAS系统和基尼指数。CAS 系统量化了物体光分布的浓度、不对称和平滑度。几十年来，这项技术使包括Pimbblet在内的天文学家能够表征银河系外恒星的光。基尼指数衡量星系图像中光分布的不平等。

通过比较个体眼球中的反射，Owolabi可以在大约70%的时间内正确预测图像是否是假的。最终，研究人员发现，Gini指数在预测图像是否纵方面比CAS系统更好。

加州大学圣克鲁兹分校的天体物理学家布兰特·罗伯逊（Brant Robertson）对这项研究表示欢迎。他警告说：“但是，如果你能计算出一个指标来量化深度伪造图像可能看起来有多真实，你也可以通过优化该指标来训练人工智能模型，以产生更好的深度伪造。

英国南安普顿大学的人工智能研究员黄志武表示，他自己的研究没有在深度伪造图像中发现眼睛中不一致的光模式。但是，“虽然在眼球中使用不一致反射的特定技术可能并不广泛适用，但这些技术可能有助于分析图像不同部分的照明、阴影和反射中的细微异常”，他说。“检测光的物理特性的不一致可能会补充现有方法，并提高深度伪造检测的整体准确性。

原文链接：https://doi.org/10.1038/d41586-024-02364-y