商都网-河南商业门户网站
  • 微信
  • 抖音

AI软色情 身心硬危害

中国新闻网

再次,加剧情绪风险,放大焦虑、抑郁等心理危机,甚至诱发极端行为。部分AI软色情陪聊产品不仅输出暧昧内容,在用户表达低落、自我否定、绝望情绪时,缺少专业心理危机干预能力,甚至输出消极、迎合式的负面反馈,无法起到疏导作用,反而进一步激化负面情绪。

最后,形成成瘾性消费,裹挟青少年掉入黑产陷阱。部分AI擦边应用设置付费解锁剧情、解锁角色权限,诱导未成年人充值打赏。在圈层文化的裹挟之下,同学之间互相推荐、攀比角色体验,未成年人容易冲动消费,掏空零花钱,甚至偷偷使用家长支付账户。此外,未成年人的肖像、声音等生物信息一旦被用于AI生成,泄露之后风险很难消除,带来长期的安全隐患。

2026年4月10日,国家网信办等五部门联合公布《人工智能拟人化互动服务管理暂行办法》,自2026年7月15日起施行。该办法明确严禁向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务。中央网信办“清朗·未成年人网络保护”专项行动,也将AI生成软色情、二次元擦边内容、违规AI陪伴应用列为重点整治对象,持续清理违规账号与不良信息,为治理提供政策依据。政策框架已经搭建完成,但制度落地、技术迭代、社会协同还需要持续推进。

政府监管部门要坚持严管与引导并重,持续深化专项治理。持续推进“清朗”系列专项行动,打击AI软色情黑产链条,对违规AI应用、售卖擦边提示词、AI脱衣教程的违法行为依法处置,追究开发者、运营者法律责任。强化对AI生成服务的备案管理,压实大模型安全评估要求,针对未成年人保护开展常态化测评,对不合规产品督促整改。持续完善制度细则,针对本地部署AI、境外流入AI工具等监管难点,研究细化治理规则,补齐制度短板。

平台企业要压实主体责任,筑牢技术防护第一道防线。一是升级内容识别技术,优化对文本暗示、剧情擦边、二次元软色情的识别能力,不只是拦截直白色情,对暧昧角色扮演、性暗示叙事进行有效拦截。二是严格落实《人工智能拟人化互动服务管理暂行办法》,坚决禁止向未成年人开放虚拟伴侣类服务,升级未成年人模式,强化人机边界提醒,定期弹窗提示用户区分虚拟与现实关系。三是完善身份识别机制,结合行为特征辅助判别未成年用户,对借用成人账号使用的青少年增加风险识别;加大对私域社群、评论区引流灰色AI软件的打击力度,及时上报黑产线索配合公安处置。

学校要补齐教育短板,把青春期教育落到课堂。开设专题课程,教会学生分辨AI软色情伪装,厘清虚拟亲密关系与现实交往的区别,树立健康的性观念、边界意识,明白网络上的暧昧剧情不等于现实生活。同时关注青少年心理健康,搭建校内心理疏导渠道,用好12355青少年服务热线,给孩子现实的倾诉出口,缓解学业压力与青春期孤独,减少青少年向虚拟世界寻求情感代偿的内在动因。

家庭端提升数字认知,做好温情监护而不是简单管控。家长应当主动了解孩子手机中新出现的AI聊天、AI绘图类应用,不要只管控游戏,也要关注各类AI软件。更为重要的是搭建高质量的家庭沟通渠道,改善亲子对话质量。大量孩子沉迷AI情感陪伴,根源是现实之中缺少倾听。当家庭能够承接孩子的情绪、接纳青春期的困惑,孩子就不必到虚拟世界寻找无条件的理解。当发现孩子出现情绪低落、过度沉迷AI聊天、回避现实社交等迹象时,需及时沟通,必要时寻求学校心理老师、专业心理工作者介入。

社会层面做好科普宣传,破除认知盲区。媒体、未成年人保护机构面向全社会普及AI软色情的新型危害,帮助青少年建立批判性思维,明白AI输出的内容并不全部正确,虚拟角色的温柔讨好是算法生成,不是真实的情感。同时鼓励开发面向青少年的合规AI产品,发挥AI正向价值,提供学习辅助、兴趣拓展、情绪疏导,用优质内容替代不良擦边产品。

AI陪伴技术并无原罪,生成式AI为青少年打开认知世界的新窗口,同时也带来全新风险。青少年眼里有光、心里有爱、身上有劲的成长目标,既需要现实世界的滋养,也需要清朗安全的数字环境作为保障。技术向善,是AI发展必须坚守的底线。唯有疏堵结合,多管齐下,才能彻底清除AI陪聊中的软色情毒瘤,守护孩子们在清朗的网络空间中健康成长。

(本文为教育部人文社科青年基金项目“加速社会家长养育焦虑的发生学研究”的阶段性研究成果)

标签:

相关推荐