警惕AI“一本正经胡说八道”

黎青　作

　　生成式AI技术极大提高了创作效率，诸如文本、图片、视频等创作变得轻而易举，从输入提示到生成结果，仅需短短几秒，令创作者如虎添翼，这让AI技术得到了快速应用。然而，由于目前AI技术尚不成熟，创作出来的作品良莠不齐，甚至存在一些低级错误，导致其结果并不理想。更为尴尬的是，AI大模型还会产生“AI幻觉”，一本正经地胡说八道，输出大量假消息、内容垃圾，进而误导用户。

　　此次曝光的关于“宁波公交年满65岁优惠政策”的“AI说谎”事件，就是典型的“AI幻觉”现象。比如，有AI软件是通过搜索公共号、抖音视频里的内容，将其汇总整理，作为答案交给用户。由于这些源头信息并非出自权威渠道，内容质量低劣、不真实、可信度偏低，而AI软件缺乏辨识真伪的能力，将其当成真实信息提供给了用户，就会扭曲变成“真实的谎言”。

　　而且，AI软件还存在迎合、讨好用户的情况，会随着用户提示信息的变化，随时改变立场和答案，甚至随意编造一些虚假内容。目前，在AI使用量快速提升之际，AI内容垃圾也泛滥成灾，不仅误导用户，还形成反噬效应，对大模型的未来发展构成威胁。随着高质量数据的急剧减少，仅依赖原始数据无法满足AI模型的庞大需求，转而抓取大量数据进行训练，而被AI内容垃圾充斥的低质量数据不断增加，导致模型输出的质量和性能亦面临下降风险，给用户提供的答案愈发不可信。

　　正所谓“假作真时真亦假”，AI“公然说谎”，警示用户不宜过度依赖AI软件，在咨询、搜寻一些涉及个人权益、重要信息、政策法规等内容时，还是要摆脱AI路径，通过权威渠道获得真实可靠答案。同时，用户在获得AI生成内容后，也不要急于分享，不妨先验证下内容真伪再作定夺，以免被“AI谣言”误导，触犯了造谣传谣的法律红线。

　　至于始作俑者，AI软件开发商亦需重视“AI说谎”问题，持续迭代升级技术，筛选可靠信源，提高逻辑推理判断、真伪信息甄别能力，优化大模型体验，逐渐消除“AI幻觉”，让AI输出内容真实可靠。同时，监管部门亦应跟踪AI技术发展潮流，及时出台规范标准，了解分析用户的反馈投诉情况，督促AI平台、软件开发商堵漏、升级，并对违法违规行为予以惩治。

声明：本文仅代表作者个人观点，不代表舜网观点。其原创性以及文中陈述文字和内容未经本站证实，对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺，请读者仅作参考，并请自行核实相关内容。