如何证明“我不是我”？记者竟然被Deepfake“灵魂拷问”……

今日快讯 2025年11月06日 07:23 2 aa

想要证明“我是我”，只需要一张身份证。但如果要证明“我不是我”，可能就没有那么简单了！

“把你的真实照片上传，再利用Deepfake（深度伪造技术）生成一组照片，看看你是不是能精准找到‘你自己’？”在2025年香港金融科技周，《金融时报》记者竟然受到了Deepfake的“灵魂拷问”。

在蚂蚁数科的展区，记者通过摄像头现场拍摄了一张正面照并上传，不到1分钟的时间，一组包含动态和静态的组图便生成了：画面中的“我”有的做着张嘴的动作，有的还配合着点头、转头、转眼球等动作，面部光影和皮肤纹理甚至都与记者本人别无二致。

“这些都是我们在做人脸识别时常做的动作。”蚂蚁数科展区工作人员告诉记者，“随着生成式AI的快速发展，不法分子只要从社交媒体中获取一张你的照片，就可以利用AI工具深度伪造出你的人脸，并攻击你的银行系统。”

记者注意到，Deepfake是一种基于AI衍生而来的生成式媒体技术，可以通过深度学习生成逼真的人像、视频或音频等内容。随着生成式AI技术的发展，深度伪造的合成能力不断增强，伪造内容日趋逼真。如何证明“我不是我”，已经成为了前所未有的难题。

目前，Deepfake已经给音乐、影视等文娱领域带来了一定的正向应用价值，但在金融领域，利用Deepfake进行的新型技术诈骗正在成为威胁金融安全的“隐形黑手”。

在2025年的香港金融科技周上，与Deepfake相关的互动体验成为了展会的绝对焦点。度小满展区前排队体验“防深伪互动装置”小游戏的观众络绎不绝，这个挑战要求参与者在所给的4段视频中找出唯一一个真实拍摄的场景，不少人在看似天衣无缝的Deepfake作品前都栽了跟头。

如何从根源上解决Deepfake带来的安全隐患？需要用“魔法打败魔法”用“AI对抗AI”。

“Deepfake在社会上愈演愈烈，这也让犯罪成本持续降低。我们推出的ZOLOZ系统提供了深度防伪解决方案和技术能力，可以从事前、事中、事后提供完整的Deepfake全流程防护能力。”蚂蚁数科展区工作人员张逸轩告诉记者。

目前，蚂蚁数科已经给多家银行、保险等金融机构提供了AI风险防控解决方案。

在这场金融反诈的战役中，蚂蚁数科并非孤军奋战。度小满也在今年的香港金融科技周上展示了自主研发的“防深伪检测系统”——在千分之一误报率下，识别准确率超过99%。

《金融时报》记者注意到，今年10月，香港金融管理局与香港数码港公布第二期生成式人工智能（GenA.I.）沙盒参与者名单。相比第一期沙盒，本次沙盒新增“GenA.I.协创实验室”模块，针对“深度伪造诈骗”设立测试方向，重点探索如何“以AI对抗AI”。

为了防范GenA.I.带来的新型金融诈骗，多家金融机构都在通过部署AI系统对AI生成内容进行实时检测，构建自动化质量监控体系。针对深度伪造技术引发的诈骗风险，第二期沙盒的参与者也开展了模拟攻防测试，利用AI技术识别换脸视频、伪造语音等新型攻击手段。

当前，金融风险防范的核心竞争力已转向技术创新，反诈骗更是一场关乎全球金融市场信任与民生安全的关键战役。如今，那些曾经被骗子用来伪造身份的AI技术，正在成为守护财富的“智能卫士”。2025年的香港金融科技周也让我们看到，中国的金融科技企业已经构建起成熟的AI反诈技术体系，默默守护着我们每个人的金融安全。

“未来，我们也希望依托香港这个全球化的金融市场，向更多客户和行业辐射，将中国强大的科技能力展示给全世界。”张逸轩告诉记者。