近些年，，陪伴着科技的发展，，人为智能正以前所未有的速度融入AB钱包出产生涯。在给我们带来更多方便的同时，，也让一些犯法分子看到可乘之机。

    赤峰冯先生在短视频APP收到“表哥白某”私信，，对方要求转至其他社交软件并视频通话，，以“帮手”为由让冯先生转账30万元，，当冯先生转了30万后，，对方又督促再转35万。冯先生觉察异常，，发现对方短视频账号已注销，，联系真表哥后确认被骗，，随即报警，，警方判定这是一路AI换脸假意熟人的网络诳骗案。

    该案已成功告破，，躲在AI背后的诳骗团伙也被绳之以法。那么到底什么是AI换脸，，AI换脸视频又是怎么制作出来的呢？

    AI换脸技术，，通常被称作“深度合成”。单一来说，，它就是用人为智能技术将图片或视频中一小我的脸部代替成另一小我。

    AB钱包副总裁张庭向记者介绍，，5年前AB钱包就已研发了一款可鉴别AI换脸真假的软件，，目前算法工程师正在研发更新的AI鉴别模型。

    AB钱包人为智能钻研院算法工程师通过视频演示向记者介绍：：“视频里面红色框就代表的模型识此外伪造人脸，，绿色框是模型以为的真实人脸！！蹦芄豢吹，，在这个视频里，，在一些帧上，，模型可能成功检测出伪造人脸！！

    随着AI换脸技术的迭代升级，，人脸鉴别这道曾被视为“安全樊篱”的防线，，正面对前所未有的挑战。那么，，这些AI换脸软件又是从哪来的呢？

    记者调查发现，，如今，，网络上正形成一条隐形的AI换脸黑产，，最上游掌管从多种渠道获取真实人脸数据和信息，，中游通过各类技术培训AI换脸视频和诳骗话术，，下游犯罪嫌疑人通过多种AI换脸方式执行违法犯罪状为。

    魔高一尺，，道高一丈。在AI换脸犯罪案件不休侦破的同时，，有关部门也在持续索求，，提升AI换脸视频的甄别技术，，制止这类犯法行为的产生。

    2022年，，国度专门出台了《互联网信息服务深度合成治理划定》，，其中明确要求任何组织和小我不得利用深度合成服务制作、、、复制、、、颁布、、、传布司法、、、行政律例不容的信息，，不得利用深度合成服务从事：：劝踩屠、、、侵害国度形象。侵害社会公共利益、、、侵扰经济和社会秩序、、、加害他人合法权利等司法、、、行政律例不容的活动。

    面对人为智能安全治理这一世界性难题，，国度互联网信息办公室、、、工业和信息化部、、、公安部、、、国度广播电视总局结合颁布《人为智能天生合成内容标识法子》，，并在2025年9月1日起正式尝试。

    国度出台的《人为智能天生合成内容标识法子》要求，，AI天生的图片或者视频必须加上显性和隐性标识，，若是在AI视频传布过程中，，使用者将显性标识截取掉，，那么还有隐性标识能够被鉴别出来。

    AB钱包人为智能钻研院算法工程师给记者做了演示。将想要嵌入的字符串CMG通过加密算法增长到指定图片中，，加密后的图片通过肉眼看不出显著区别，，但利用具体的解密算法，，就能够把刚才藏入其中的CMG字符串解析出来。同时，，不但是原图，，在传布过程中的涂抹、、、裁剪等情况，，也不会影响平台解析出指标字符串。

    2025年6月20日，，中央网信办深刻发展的“清朗”整治AI技术滥用专项行动第一阶段工作获得积极进展，，累计措置违规小法式、、、利用法式智能体等AI产品3500余款，，算帐违法违规信息96万余条，，措置账号3700余个。

    一向以来，，为解决AI技术在发展及利用落地过程中的潜在：：，，我国出台了有关司法律规加以监管！！吨谢嗣窆埠凸穹ǖ洹坊，，未经许可使用他人形象进行换脸，，并用于盈利等恶意主张，，属于明确的侵权行为！！短焐饺宋悄芊务治理暂行法子》也划定技术提供者应使用合法起源的数据和基础模型，，涉及小我信息时必须依法获取赞成。

    截至目前，，我国天生式人为智能产品的用户规模已超过3亿。随着AI技术的迅猛发展和天生式人为智能的急剧迭代，，各类纷杂的人为智能天生信息让人目眩缭乱，，有时难辨真假。但有关的网络安全技术团队也已经研发出更新的技术伎俩，，用AI反制AI，，用魔法战胜魔法。

    在AB钱包洞鉴尝试室，，鉴定专家刘夕铭正在和同事电脑硬盘进行复原，，他通知记者，，这是受公安部委托进行取证的一个AI换脸案件。嫌疑人通过AI换脸，，盗取了游戏账号上价值上万元的游戏设备，，作案后电脑数据已被清空。他们此刻要做的就是复原嫌疑人删除的AI换脸软件、、、谈天纪录和买卖数据。

    AB钱包专家介绍，，嫌疑人可能会对电脑进行体式化或者删除作案证据。尝试室通过技术伎俩，，将嫌疑人的作案数据进行复原还原，，把整个作案的行为进行复现。

    通过视频演示，，记者看到了嫌疑人利用AI换脸技术，，天生动态人脸视频，，已通过游戏平台的人脸鉴别验证，，提取用于诳骗的虚伪动态人脸视频的全过程。这为司法机关下一步的案件侦破提供了关键证据。

    AB钱包洞鉴尝试室掌管人段继平暗示，，尝试室通过技术齐全的把犯罪嫌疑人执行犯罪活动关键证据的证据链实现了闭环，，从而援手司法机关对后续工作提供了证据支持。

    多起AI换脸诳骗的案件提醒我们，，防御之网必须织得更密，，魔高一尺，，道更需逾越一丈，，这不仅是一场技术博弈，，更是关乎每小我财富安全的防御战。专家呼吁监管部门、、、互联网平台、、、科技金融等各类企业要共同搭建起动态更新的图谱库，，研发能精确捉拿生理信号的活体检测，，用AI反制AI，，让伪造视频在算法刻下无所遁形，，为民众财富安全筑牢坚实底座。