目前鉴假AI应用背后的基本原理基本类似，用大量且准确标注的图片数据训练。

以飞天茅台为例，需要采集的照片包括酒的外观、瓶顶、瓶帽喷码、飞天标、背标、瓶底等，专业鉴定师要标注的数据包括颜色、大小、字体、粗细等细节。

“AI鉴定就像双刃剑，假如造假团队掌握了AI鉴定都是看哪些参数，他们可以对标真品的参数提高造假技术，比如回收真品包材，破解溯源码算法，那会很可怕。”
南方防务智库特约研究员 南方周末记者 黄思卓

责任编辑：汪韬

想象一下,你是一名跨国公司的财务，总部首席财务官发起视频会议。参会露脸的都是你熟悉的公司高管，安排你转账，你会犹豫吗？

2024年年初，香港警方披露首起涉及AI“多人换脸”诈骗案，受害人先后转账2亿港元到不同账户后才察觉不对劲。除了财务是本人，所谓视频参会高管都是假的——犯罪团伙从公开渠道获取影像资料，利用AI深度伪造（deepfake）技术，精心合成。

AI换脸变声的门槛越来越低，“孙燕姿”唱《泪桥》、“张文宏”直播间卖蛋白棒、“泰勒·斯威夫特”头像被用于制作色情照片……

2024年12月25日，在南方周末主办的一场直播对话中，中国作家协会科幻文学委员会副主任陈楸帆担忧，AI合成渗入生活，或许仅剩面对面的交谈成为无真相时代“最后的净土”。

有图有真相的历史被终结，也给诈骗分子可乘之机。不同的统计报告均指出，2023-2024年，利用AI伪造诈欺的案件数量和涉案金额激增。而AI鉴假的商业赛道也越来越挤，这些鉴假AI应用背后的基本原理基本类似，用大量且准确标注的图片数据训练。

虚假与真实是一场没有尽头的军备竞赛。AI可鉴假，也可学真，鉴假的AI会不会被有心之人用来造假？

鉴假脸
靠近镜头，眨眼、张嘴、转头——这是登录人脸识别系统最常见的提示，以区分屏幕面前是动态的人，还是一张静态的照片，抑或是一副面具。然而，AI的出现，让虚拟与真实的博弈变得更加残酷。

AI换脸，是指通过深度学习模型，如卷积神经网络（CNN）提取人脸的关键特征，再利用生成对抗网络模型（GAN）生成人脸。

“现在常见的造假脸手段是文生图、文生视频；或者利用算法和模型，把图像人脸变成动态效果。”瑞莱智慧（RealAI）联合创始人萧子豪对南方周末记者介绍。2024年，视频类的AI诈骗数量激增，实时视频换脸，一般是播放事先做好的AI换脸视频，或是接入实时换脸视频。

瑞莱智慧创办于2018年，从事AI安全与伪造内容检测，客户来自安防、政务、金融、教育等领域。萧子豪毕业于清华大学计算机系，研究AI模型的漏洞问题与攻防训练。

如何鉴别假脸？瑞莱智慧推测换脸类App背后的算法模型，以了解反常识之处。比如两只眼睛是否对称？瞳孔是否圆的？视频中人物是否长时间不眨眼？

某些AI还不能理解“瞳孔应该是圆形”的生物知识。放大图片，左边图片瞳孔为圆形，右边不是。所以左边为真人，右边为假。 （受访者供图/图）

重视保密的机构比如政府、银行等已经陆续用上了防换脸的AI安防系统，但是个人用户还在“裸奔”，暴露