AI数字人应用须“亮明身份”

　　□冯海宁

　　“现在AI生成的‘数字人’泛滥，还难辨真假，实在让人防不胜防。”记者近日随机采访了数十名路人，至少有七成受访者称曾刷到过“AI数字人”视频，并且“难以分清到底是真人还是‘数字人’”，而原因主要在于“找不到有效提示”。 (6月14日《法治日报》)

　　随着AI生成技术日益成熟，“数字人”不仅外形更逼真生动，还能与用户进行多模态互动，导致许多人难以辨别交互对象是真人还是“数字人”——你以为在与真人对话，实际面对的却是数字虚拟形象。

　　这主要是因为很多账号运营方对“数字人”身份标识的模糊处理。大量账号发布“数字人”内容时未作标注，或仅做淡化处理。以“xxAI打假人”账号关注的300多个账号为例，记者随机抽取20个，仅3个明确标注“AI”身份。超半数受访者反映，当前“数字人”与真人的区分提示隐蔽性过强。

　　当真人、“数字人”真假难辨时，部分“数字人”开始冒充真人误导公众。例如，有“数字医生”宣称“清淡饮食就是只吃素食，完全不吃肉”，这类错误信息可能对老年群体造成健康误导。这种混淆行为与《西游记》中“真假美猴王”制造冲突的逻辑相似——“数字人”通过伪装混淆视听。

　　此类现象存在双重危害：其一，公众难以辨别交互对象的真实身份;其二，“数字人”传播内容的真实性存疑。某些直播间里，“AI数字人”向中老年群体虚假宣传保健品;部分账号利用“数字人”冒充公众人物带货或恶搞，涉嫌侵犯肖像权;更有犯罪分子通过AI合成“数字人”引流，实施有偿删帖等敲诈勒索活动。

　　“数字人”本应承载技术向善的期待，部分账号却将其异化为违法工具，利用技术手段实施非法行为。这显然不符合《生成式人工智能服务管理暂行办法》《互联网信息服务深度合成管理规定》对“AI数字人”标识、数据来源等方面的规定。应对这一问题，既需网民提升警惕性与识别能力，也需平台与监管部门介入。

　　普通网民需增强防范意识。识别“数字人”可从动作幅度、语调稳定性等细节入手，发现违规侵权行为应及时举报。平台方则应强化技术识别和人工审核，对违规“数字人”要严肃处理。

　　有学者建议，应从明确标识要求和加大责任追究两方面发力。比如进一步细化技术标准，规定标识文字的最小高度、对比度、展示时长等，让标识一目了然。这一建议可以压缩某些账号故意弱化标识的违规操作空间。对于不按规定标注的行为，还应该根据情节进一步加大处罚力度。

声明：本文仅代表作者个人观点，不代表舜网观点。其原创性以及文中陈述文字和内容未经本站证实，对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺，请读者仅作参考，并请自行核实相关内容。