AI向善，莫让技术沦为“造黄”工具

　　□ 江德斌

　　技术普及大幅降低了生成式AI的使用门槛，丰富大众生活的同时，个别商家也以此为牟利工具，背弃技术伦理与法律底线，借生成式AI大模型，行违法“造黄”之举，污染网络空间、败坏社会风气。眼下，不少平台上有人在公开兜售“利用AI技术制作色情擦边视频”的教程，号称仅凭一张图片，甚至几句话就可自行“手搓”“让自己满意的大尺度视频”。(4月13日央视新闻)

　　技术本是中性的工具，至于善恶之分，全在使用者的初心与底线。生成式AI本应是为人类创造更多价值，可在不法分子手中，却沦为了污染社会风气、侵害他人权益的“利器”。

　　这些AI生成的色情内容，不仅涉嫌违背公序良俗，败坏社会风气，侵蚀青少年的身心健康，还可能侵犯他人肖像权、隐私权，引发一系列法律纠纷与社会矛盾。

　　生成式AI的核心价值在于赋能创新，而非成为“造黄”的帮凶。商家刻意引导规避监管，平台审核机制形同虚设，乃是将技术中立性当作违法的“挡箭牌”，实不可取。令人担忧的是，AI“造黄”内容通过社交裂变快速传播，不仅污染网络生态，更可能诱导未成年人模仿不良行为，扭曲其对亲密关系的认知，其危害远超个体牟利，直指社会风气与公共利益的根基。

　　个别平台和商家为了追逐短期利益，对此类违法违规内容睁一只眼闭一只眼，甚至为其提供支付通道和推广位。“黄色流量”不仅污染了网络空间，亦传递一种危险的信号，只要能赚钱，技术可以无底线;只要能博眼球，伦理可以靠边站。如果任由不良风气蔓延，AI技术的发展恐将陷入“劣币驱逐良币”的境地。

　　针对AI技术滥用的乱象，监管的脚步并未停歇。中央网信办开展的“清朗·整治AI技术滥用”专项行动，将利用AI制作发布色情低俗内容列为重点整治对象;《生成式人工智能服务管理暂行办法》明确规定，提供者发现使用者利用AI从事违法活动，应采取限制服务、终止服务等措施，并向主管部门报告;将于今年7月实施的《人工智能拟人化互动服务管理暂行办法》，进一步强化了安全评估与算法备案要求，为AI治理筑牢了制度防线。

　　与此同时，平台也应切实履行主体责任，升级内容审核技术，强化对AI生成内容的监测与甄别，封堵违规教程、提示词的传播渠道，推广“数字水印”与内容溯源技术，不给低俗色情内容留下生存空间。

　　AI企业要坚守技术伦理底线，在模型研发与优化中设置严格的内容过滤机制，坚决拒绝为违法违规行为提供技术支撑，让AI始终走在“向善”轨道。而每一位普通用户，也都应树立正确的技术使用观，自觉抵制低俗色情内容，不购买、不传播、不制作违规内容，主动举报违法线索，做网络空间的守护者。舜网-济南时报

声明：本文仅代表作者个人观点，不代表舜网观点。其原创性以及文中陈述文字和内容未经本站证实，对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺，请读者仅作参考，并请自行核实相关内容。