2024年，一名香港金融从业员与工程顾问公司奥雅纳的同事进行视讯会议，讨论一宗机密收购案时，一切看似再普通不过。直到汇出2500万美元款项后，他们才发现自己被骗了。视讯中的其他人，包括看似是财务负责人的那位，全是AI生成的深度伪造影像。

AI生成的脸孔越来越难与真人分辨，根据顾问公司德勤2024年的报告，使用生成式AI的诈骗预计到2027年仅在美国就会造成400亿美元的损失。

这正是澳大利亚国立大学心理学副教授艾美·道尔（Amy Dawel）想了解的原因之一——我们是否都能接受训练，更有效地辨识AI生成的脸孔。“我们现在辨认AI脸孔的能力真的很差。”她说，研究显示我们的表现不比五五开的猜测好，甚至更差。

若你在上述测试中感到困难，其实你并不孤单。道尔指出，难以辨识AI脸孔会带来真实世界的后果，影响我们所有人，“无论是网络钓鱼、交友网站，还是针对我们的银行账户”。

今年6月发表于《美国国家科学院院刊》的一项研究中，道尔与澳大利亚、加拿大和苏格兰的同事测试了一种新的训练方法。因为随着AI技术进步，现代系统大致修正了明显错误。道尔表示，诈骗者不太可能使用带有瑕疵的影像。

对此，研究人员并非教人去寻找不匹配的耳环或扭曲特征等明显破绽，而是训练他们对每张脸孔整体做出直觉判断。道尔解释说，“问题之一是，我们预期AI脸孔会看起来很奇怪，这是基于过去的经验，但实际上，人类脸孔才不完全对称、有点怪异，所以整个逻辑已经颠倒了。”

道尔实验室先前的研究发现，AI生成的脸孔被判定为真人的频率比实际人类脸孔还高——他们将此现象称为“AI超真实感”。由于AI演算法倾向于取其训练的数万张脸孔的数学平均值，“AI脸孔看起来比人类脸孔更平均，或是‘超平均’。”道尔指出，“这让它们感觉更值得信任、看起来更有吸引力，也感觉更熟悉于真实人类脸孔。”

但是，该研究仅针对白人AI生成脸孔。AI演算法往往不成比例地以白人脸孔进行训练，因此这些脸孔可能比其他族裔的脸孔显得更加真实。

最新研究中，研究团队首先检测了45名成年人一开始辨识AI生成脸孔的能力。一项测试中，他们被展示一系列三张脸孔，并被要求挑出AI那一张。他们平均答对率为41%。

参与者随后接受了约一小时的训练。道尔说，训练内容包括展示约100张脸孔——一半真实、一半AI生成——并要求他们针对六项整体特征评分：独特性、可记忆性、表情丰富度、对称性、比例协调性与吸引力。

根据道尔的说法，人类脸孔往往更独特、更易记忆、表情更丰富；而AI生成的脸孔通常更对称、比例更协调、更有吸引力。“我们甚至不会告诉他们AI脸孔更对称。”她说，“他们只需要对对称性评分。系统会告知这些是AI还是真人，透过这种接触，他们会逐渐感受到两者看起来有何不同。”

作为这项研究的后续，加拿大的合作者对另一组志愿者进行了相同的训练。道尔表示，他们“分别分析数据后，发现了同样强大的效益”。

不过，这项研究也有其限制。道尔表示，这套训练已证明对目前最逼真的AI脸孔生成器之一StyleGAN3高度有效，但仍需在其他AI模型上进行测试。“我们所有的参与者都是年轻人，因此有一些关键问题有待解答：这套训练是否适用于儿童，以及我们知道特别容易成为诈骗目标的年长者。”她补充道。

研究人员还指出，真正的挑战在于，人类现在与不断进步的AI系统赛跑。目前，已有使用演算法侦测AI生成内容的自动化工具，但这些工具也有限制。它们可能只对特定AI产品有效，且当新模型出现或影像被编辑时，可能难以应付。因此，研究人员强调，在辨识AI深度伪造影像时，保持人类的核心角色至关重要。道尔说，“这是一场猫捉老鼠的游戏，就像电脑病毒一样，它们不断变化，我们也必须不断调整才能跟上。”

尽管如此，她认为这些研究结果提供了“令人抱持希望的充分理由”。她还建议，未来或许可以开发类似训练，帮助人们辨识AI生成的语音和影片，而不只是静态脸孔——如此一来，我们或许能更有效地判断，自己是否正与真实的同事通话，还是在面对AI深度伪造影像。