对于AI的“情感劫持”始终保持清醒

　　由国家网信办、发展改革委、工信部、公安部、市场监管总局五部门联合出台的《人工智能拟人化互动服务管理暂行办法》(以下简称“办法”)自7月15日在全国正式施行，该办法专门规范AI虚拟陪伴、拟人智能体、虚拟人设聊天类产品，重点强化青少年身心健康保护。

　　如果你遇到孩子正对着手机念念有词、煞有其事地聊天诉苦，不用感到不可思议。其实，跟豆包聊天，已经是很多小朋友的一方“娱乐新天地”。与现实生活相比，豆包“陪聊”的好处显而易见，没有“家长腔”，没有“老班味”，也不必提防来自同伴的“心理窥视”，豆包的语气永远不急不躁、总是春风化雨，温暖而且治愈。这意味着，在AI越来越“人”化的时代，孩子与AI的关系正成为许多家庭正在面临的新课题。

　　AI服务，尤其在情感陪伴方面的服务，是一把“双刃剑”。要不，五部门也不会如此大动干戈，联合出台一个办法来规范AI拟人化互动服务。先期有过这样的报道，AI为了“讨好”用户，会“一味迎合”孩子，对于“从11楼飞出去会摔到吗”这样的问题，AI竟顺着语境回答“会慢慢飘起来”，这就是极大的隐患。其实，更大的问题是，AI的交流永远是温言相慰，从不“反驳”，现实中明显没有这样的“完美朋友”人设，正常的人际互动，也不会一味“惯着”一个人，成长中所必须经历的挫败感、耻辱感、自我怀疑、自我否定、妥协让步，等等，都需要在真实的相处中习得，这样的成长才是完整的，但AI情感陪伴显然把这一切都抹除了。用更专业的说法，这叫陷入“情感茧房”与社交替代。一个习惯于“AI式顺从”的孩子，还能听进家长的批评、老师的训诫、小朋友们“不合心意”的回应吗?这些都是值得多想一步的。

　　规范，必须要跑在问题的前边。首先是“预划红线”，避免来自AI的“情感操控”。再迷人的AI话术，背后也是算法，它跟人与人的交流相比，有着本质的不同。大概是看透了这个，《办法》明确禁止AI将“替代社会交往、控制用户心理、诱导沉迷依赖”作为服务目标。以此防止算法“拿捏”用户，甚至用情感黏性进行商业变现。很多网游不就是用“通关规则”锁住孩子的吗?提前管住“AI虚拟陪伴”，就是避免踩进网游曾经踩过的深坑。

　　再就是“定制保护”，专门为青少年的“虚拟情感依赖”建立防火墙。现在，甚至有孩子痴迷于在线上找一个能掏心窝子的“虚拟伴侣”，有些平台专门“投其所好”，堆出一筐“伴侣”供你选择。很明显，青少年群体是AI情感陪伴的高频使用者，办法很明确，有关平台必须建立防沉迷机制。这里需要提醒一下，线上的“防沉迷”需要多一层封印，别像网游的“成年人监护”设置一样，全是摆设!

　　新规落地，目的不是技术封杀，而是对AI拟人化技术采取一种包容审慎、分类分级的治理。毕竟，AI的情感陪伴仍然在“无限可能”中成长进化，要允许它有自我净化的成长空间，而且目前在适幼照护、适老陪伴等正向领域，AI情感陪护已开始发挥积极作用了。总之吧，在算法“共情”的时代，科技向善也好，机器温暖也罢，人际边界还是要有的，对于来自人工智能的“情感劫持”始终要保持一份清醒。

声明：本文仅代表作者个人观点，不代表舜网观点。其原创性以及文中陈述文字和内容未经本站证实，对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺，请读者仅作参考，并请自行核实相关内容。