您现在的位置:首页 > 杂谈 > 正文

对“AI换脸”技术就该严格约束

作者:史洪举

对“AI换脸”技术就该严格约束

黎青 作

  近日,国家网信办、工信部、公安部联合发布《互联网信息服务深度合成管理规定》,自明年1月10日起施行。其中要求提供智能对话、合成人声、人脸生成、沉浸式拟真场景等生成或显著改变信息内容功能的服务的,应当进行显著标识,避免公众混淆或者误认,任何组织和个人不得用技术手段删除、篡改、隐匿相关标识。(12月13日澎湃新闻)

  继算法推荐之后,深度合成技术也迎来单独规范,这其实和我们目前的互联网生活息息相关。

  如今,随着技术的发展,“刷脸支付”“人脸识别”等得以普遍运用,极大地方便了人们从事社会活动和市场交易。但人脸信息的滥用甚至失窃,无疑将给被害人带来难以估量的损失,并加剧社会管理难度。正如有报道所指出那样,在“刷脸支付”和“人脸识别”场景中,一些网友担心“人家直接一扫你的脸你就被支付出去了,所以你这个脸就天天走在路上,这不就是一个行走的密码吗?”

  这样的担心并非没有道理。因为人脸等生物信息具有唯一性和不可更改性,一旦泄露则处于不可逆转的状态。密码丢失后尚可挂失更改,人脸信息被窃取后却不

  可能再恢复到保密状态。而“AI换脸”技术无疑对人脸信息的保护提出了严峻的挑战,甚至是双重挑战。不法分子通过收集照片、视频,利用AI技术“换脸”,用伪造的照片或视频实施诈骗,使“AI换脸”变成了“AI造假”。“AI换脸”技术的滥用,不仅给个人带来肖像权或钱财的损失,还可能引发社会风险。

  因而,非常有必要严格管控“AI换脸”技术。而有了制度还需要具体的执行。有关部门要提高公众对深度合成技术的认知,除了显著标识之外,更要让他们了解到技术可能带来的风险,让公众一起参与到对深度合成技术的治理中。互联网服务提供者也必须明白自己的义务,对涉及用户隐私的信息必须做到充分保护,任何一个产品功能和营销手段都不能凌驾于安全底线之上。

声明:本文仅代表作者个人观点,不代表舜网观点。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。