根据Juimo《2024在线身份研究报告》（简称《报告》）对包括美国、英国、新加坡和墨西哥等在内的多个国家超8000名消费者的调研显示：近四分之三的消费者（72%）每天都担心被深度伪造欺骗，从而泄露敏感信息或被骗金钱。只有15%的全球消费者（新加坡只有7%）表示他们从未遇到过深度伪造的视频、音频或图像。

　　伴随着生成式AI的发展，AI技术在给带来便捷的同时也被不法分子所利用，网络犯罪的成本更低、效率更高，且更难被人们识破。奇安信集团发布的《2024人工智能安全报告》中显示，2023年基于AI的深度伪造欺诈暴增3000%，基于AI的钓鱼邮件增长1000%。

　　Jumio亚太区区域总监丁娜娜告诉钛媒体APP，深度伪造技术是数字世界的隐蔽“傀儡师”，他们操纵视觉内容，通过使用强大的算法和人工智能实现”换脸”，并创建非常逼真但完全虚构的视频或图像，从而捏造虚假现实。新兴换脸技术的出现是深度伪造的又一次演变，涉及网络犯罪分子结合现有视频或直播的新方法，并在原始信息流上实时叠加另一个身份。

　　据统计，仅 2022年一年，冒名欺诈就给英国消费者造成了 1.07 亿英镑的损失，给美国消费者造成了 26 亿美元的损失，给新加坡造成了 1.01 亿新元的损失。

　　不仅于此，在中国，利用AI实施电信诈骗的案例也已屡见不鲜。2023年5月，乐鱼体育注册内蒙古包头市公安局电信网络犯罪侦查局发布一起使用智能AI技术进行电信诈骗的案件，福州市某科技公司法人代表郭先生10分钟内被骗430万元。

　　案件具体如下：4月20日中午，郭先生的好友突然通过微信视频联系他，自己的朋友在外地竞标，需要430万元保证金，且需要公对公账户过账，想要借郭先生公司的账户走账。基于对好友的信任，加上已经视频聊天核实了身份，郭先生没有核实钱款是否到账，就分两笔把430万转到了好友朋友的银行卡上。郭先生拨打好友电话，才知道被骗。骗子通过智能AI换脸和拟声技术，佯装好友对他实施了诈骗。

　　显然，生成式AI技术的发展，已经对线上交流的“信任度”造成了极大的冲击。在企业侧亦是如此，Gartner预测，到2026年，30%的企业将因为AI生成的人脸生物识别深度伪造攻击，而认为此类身份认证和验证解决方案不再能够起到可靠的作用。

　　通过深度伪造技术，不法分子可伪造员工身份，进而非法访问企业内部系统。通过精心制作的伪造视频和音频，攻击者可以模仿高层管理人员的面部表情、语气甚至行为模式，从而增加对指令的信任度，实现非法操作或窃取敏感数据。这不仅可能导致企业遭受重大经济损失，还可能泄露核心商业机密，影响企业的竞争力。

　　另一方面，Gartner预测，到2025年，生成式AI的采用将导致企业机构所需的网络安全资源激增，使应用和数据安全支出增加15%以上。

　　面对AI带来的日益严峻的安全挑战，“用AI抵抗AI”已经成为安全行业的共识，“面对AI大模型时代的深度伪造技术欺诈，我们建议企业使用先进的人工智能和生物识别分析来防范和对抗，”丁娜娜告诉钛媒体APP，“为了防止深度伪造，解决方式是必须控制过程并拍摄一系列图像，以确定该人是否真实存在并保持清醒，乐鱼体育注册而不是睡眠状态，不是面具、照片或视频，也不是深度伪造。”

　　从企业角度出发，企业应该将基于机器学习和深度学习的图像、视频、音频检测算法等在内的技术引入到自身安全系统之中，这些技术可以帮助识别出伪造内容，从而减少虚假信息的传播。

　　在丁娜娜看来，真实性检测步骤必须使用先进的AI和机器学习模型，而这些模型已经通过各种真实世界数据的训练。“这一步对于阻止欺诈者绝对至关重要，因为欺诈者现在可以轻而易举地制造出非常逼真的深度伪造照片，轻松骗过旧的身份验证技术。”丁娜娜强调。与此同时，验证步骤还应该提供其他生物识别检查，如年龄评估，以标记与身份证件数据不符的照。

　　通过活体检测技术，企业可以发现复杂的攻击，包括人脸交换、人脸变形和其他高级的欺骗攻击。不仅于此，在丁娜娜看来，企业还应当采用包括主动光源、视频注入检测以及眼部和面部运动分析等在内的先进技术，阻止攻击，并确认当前用户及其身份证件确实存在。“对于Jumio来说，乐鱼体育注册我们能够基于面部的生物识别技术将照中的特定面部特征（如眼睛、鼻子和耳朵的间距）与身份证件照片中的面部特征进行比较，来判断两者是否为同一个人。”丁娜娜指出。

　　以金融行业为例，金融行业在传统的eKYC（基于区块链的企业电子身份认证信息系统）之外，结合生物识别认证技术将有助于增强安全性。例如，验证用户的个人身份信息 (PII)、验证年龄、评估用户电子邮件和电话号码的信用级别、通过 IP 地址验证用户的位置，评估设备的可信度以评估用户的风险等级。拥有高度准确和主动化的身份验证解决方案，将有助于实时拦截可疑交易并迅速采取适当的行动。对于出海企业来说，还需要考虑不同国家和地区的客户尽调标准和跨境支付工作流程。

　　通过AI模型的技术，能让企业在进行eKYC时，效率更高，准确率更高，线上用户提供进行人脸身份认证登入账号，增强了平台的安全性的同时，还可以确保KYC的合规性。

　　以Jumio的eKYC身份证件验证系统为例，该系统拥有200余个国家，超5000款证件的模板，并接入了40多个机器学习模型，并且依托于全球第二大黑名单数据库。据丁娜娜介绍，通过自动化在线身份验证技术，用户可以在几秒内就能完成KYC流程，从而提升用户体验和客户转化率约40%。与此同时，实施线上身份验证解决方案后，对于跨境的企业而言，可以在保持低运营成本的同时，在全球范围内招揽更多的用户。