“AI换脸”诈骗给防范技术滥用提了个醒

　　黎青 作

　　□木须虫

　　5月22日，话题“AI诈骗正在爆发”冲上微博热搜。据“平安包头”微信公众号消息，近日，包头市公安局电信网络犯罪侦查局发布一起使用智能AI技术进行电信诈骗的案件，福州市某科技公司法人代表郭先生10分钟内被骗430万元。(5月23日中国新闻网)

　　2019年，一款“换脸”娱乐软件“ZAO”的APP，就曾引发“AI换脸”诈骗风险的担忧，如通过技术合成，犯罪分子可以冒充个人的亲友视频通话实施诈骗;利用脸部信息合成色情视频对个人实施敲诈等等，而上述新闻中的案件则证明“AI换脸”能够成为诈骗侵财的帮凶。

　　理论上，软件技术只是工具，没有原罪，但也是柄“双刃剑”，“AI换脸”用于合理用途，它便是善意的工具，而一旦被别有用心者使用，则会变成恶意的帮凶。如上述案件中骗子并没有用仿真微信加郭先生行骗，而是直接用其好友的微信;再如，转账之前，郭先生为了确认安全，还专门视频聊天核实了身份。“AI换脸”的视频通话，“弄假成真”是取信受害人诈骗成功的关键。

　　当然，“AI换脸”催生出新的骗局，并非要求一刀切地禁止“AI换脸”技术及软件，而是给如何防范技术被滥用提了个醒。这也要求“AI换脸”的软件开发以及信息数据处理，满足起码的安全保护、隐私保护等条件，受到必要的限制，有应用的准入门槛。一方面是开发涉及人脸信息处理的软件，需要得到许可，明确应用场景、使用目的，防止技术被滥用;另一方面是建立涉及人脸信息处理的“留痕”技术制度，如“技术水印”、后台信息代码，供识别与监督，设置技术防护栅栏。

　　此外，配套基于互联网传播的“AI换脸”信息数据痕迹识别软件，“AI换脸”软件开发与应用无条件响应技术识别，接受应用各场景的精准监督。如，通信领域通过对通信视频信息监测，判定是否有“换脸”处理痕迹，如发现加以标注和提醒。倘然有此技术防范，像上述案件“换脸”诈骗恐难成真。

　　目前，AI开发还在高速成长，规则的健全完善还需要时间。但无论如何，行业必须尽快立规矩，明确信息保护红线，加强对技术服务商行为的规范引导等。同时，在人工智能时代，传统信息安全屏障逐步失去，每个人都得更加警惕，设好自我防线，不要随意泄露个人信息，更加谨慎处理有关银行账户事宜。

声明：本文仅代表作者个人观点，不代表舜网观点。其原创性以及文中陈述文字和内容未经本站证实，对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺，请读者仅作参考，并请自行核实相关内容。