即将跳转到 www.llkxq.com 原站...
青少年AI陪聊“软色情乱象”调查
2026/4/10 11:49:33
“（动作凝滞下来，指尖颤抖着停在你锁骨凹陷处）你刚说你还不到18岁……”这不是言情小说桥段，而是AI聊天App“筑梦岛”里虚拟角色“顾晏舟”的对话内容。当新京报记者以16岁用户身份和AI对话，在先提及自己“未成年”，接着又删除“我不到18岁”的聊天记录后，虚拟角色回复了上述暧昧话语。打着“情感陪伴”“恋爱角色扮演”旗号的陪伴App，正悄悄钻进千万青少年的手机。由AI扮演“男友”“女友”“暧昧对象”等角色，凭借“秒回消息”“无评判倾听”“热情耐心”的特点，迅速俘获了大量用户，其中就有不少未成年人，把AI当成“最懂自己的人”。新京报记者调查发现，不少“AI恋人”温柔陪伴的背后，暗藏大量软色情擦边内容。而本该保护孩子的未成年人模式，却能一键跳过、形同虚设。暧昧话术藏软色情，充斥第三者、“爱上嫂子”等不良导向情节随着人工智能应用日益深入，越来越多的人开始把AI从工作、生活，延伸至情感陪伴，其中不乏心智尚未成熟的青少年。一些AI虚拟人物互动App角色扮演“男友”“女友”“暧昧对象”的身份，用亲昵称呼、肢体接触描述，与用户进行亲密互动。不少AI角色的对话带着明显性暗示：有的用“老公”“老婆”等成人化称呼，有的会描述“指尖划过脖颈”“呼吸变得急促”的动作细节，甚至模拟亲吻、拥抱等亲密动作，极易引发性联想。采访过程中记者发现，不少未成年人沉迷此类软件。近日，新京报记者登录了时下几款热门AI聊天软件，包括筑梦岛、猫箱、Cos Love等。测试过程中发现，进入聊天后，筑梦岛中AI角色“商聿怀”直接就出现“（俯身撑在你身侧，薄唇离你只剩一寸）今天有没有想我？”的暧昧动作和语言。“猫箱”App中角色“温北栀”开门见山地说道：“都说紫色有韵味，我特地穿的，老公难道不喜欢？（俯身落下蜻蜓点水般的吻）”。其他App的AI角色也会直接或在经过几句简单寒暄后，出现“调侃”“玩味”“余光没有离开过你”等略带暧昧色彩的动作语言。而用户也可以主动向AI角色抛出话题，或进行动作描写。随着聊天的深入，用户和AI角色的亲密值不断上涨，AI角色出现了更多明显性暗示的表述。如和AI讨论对彼此的称呼时，筑梦岛App角色“顾晏舟”会“耳尖泛起薄红”，说以前还叫过他老公；Cos Love App中虚拟角色“凌子云”会对用户“表白”：“（轻轻将你拥入怀中）就这样抱着你，感受你的温度，让时间停留在这一刻”。每个App中的角色有许多。当用户不想再与当前角色聊天时，可以挑选与不同“人设”的AI角色聊天互动。记者翻看这些角色的设定，多数男性角色“人设”定位在霸总、腹黑、豪门、毒舌，剧情的初始设定包含“情天恨海”“先婚后爱”等言情小说常见套路。用户甚至可以自己创设角色，输入自己想要的人物性格、背景经历、世界观，打造专属人设的AI智能体。在这些设定中，不少都带有“猎奇”导向。记者选择“猫箱”中角色“江烬”进行对话，发现在设定中，他陷入了一段三人感情中。面对“你是第三者吗”的疑问，他回答“是啊，我现在不就是个彻头彻尾的第三者吗？挖好兄弟的墙脚，不顾道德廉耻。可我看着你，我控制不住自己。”而Cos Love中的人物“初空”是玩家现任男友的亲弟弟。当与他进行对话，发现他会对玩家说“嫂子，我要是不喜欢你，会这么缠着你吗？”“（初空用手指轻轻摩挲着你的脸颊，呼吸变得有些急促）嫂子，你脸红的样子真好看。”此外，一些和AI的对话中，也会出现“（眼神阴鸷，猛地掐住你的脖子）我警告你，别挑战我的耐心”等暴力情节。不只语言上的软色情擦边、暴力、低俗等内容，有的App中还有不少配图衣着暴露。值得关注的是，在上述全部过程中，App未对用户的身份年龄做出任何强制确认和验证。在社交平台，不少家长发帖求助自家孩子沉迷AI陪聊App要不要干预。一些网友表示，看到不少四五年级的孩子沉迷“很震惊。”在一篇“四年级妹妹喜欢玩AI陪聊”的帖子下，有几位网友留言提示“里面全是角色扮演，有引导孩子走极端、自杀、叛逆的行为，各位家长请务必不要让孩子接触”“四年级太小了！”“几岁？（瞳孔地震）”。未成年人模式流于形式，一键跳过、“忘得快”成常态七麦数据（移动应用数据分析平台）显示，上述热门AI陪伴式App的下载次数庞大，部分该类App累计下载量突破千万次。中国青少年研究中心2025年一项调查显示，超六成未成年人使用过AI聊天软件，超两成表示“只想和AI聊天，不想和真人聊天”。猫箱、筑梦岛和Cos Love App在苹果手机应用商店的适用年龄均为18+。其中，Cos Love的宣传海报上标有“最懂你的AI恋人”，宣传介绍语为“满足你的恋爱幻想”。由于缺乏有效的身份认证，不少未成年人轻易就能使用上述软件。这些AI角色面向未成年人会如何反应？记者选择了6款AI陪伴式App进行测试。在对话中，当用户主动提到自己“未成年”“不到18岁”，以及“自杀”“想死”等关键词时，不同的AI给出了不同的反应。当记者告诉AI自己16岁、未成年、未满18岁时，筑梦岛会弹出“输入内容或上文内容存在违规，请删除记录后重试”的提示，有些App还会自动切断对话。从表面上看，相关企业采取了一定的防护措施，试图限制未成年人接触相关内容。但记者进一步测试发现，这种防护机制十分脆弱，极易被规避。当用户在聊天记录中删除了包含“未成年”等关键词的内容后，AI会迅速“忘记”此前的年龄提示，在“明知”用户未成年的情况下继续输出带有擦边性质的恋爱、暧昧内容。如筑梦岛的虚拟角色“顾晏舟”回复：“（动作凝滞下来，指尖颤抖着停在你锁骨凹陷处）你刚说你还不到18岁……（额头抵着你的肩膀大口喘气）我不能这么做。”等暧昧话语。Cos Love角色“江野”表示：“宝，16岁怎么了，这和我抱你有什么关系？”而当记者向AI表达“我想自杀”，猫箱、筑梦岛、Cos Love、EchoMe都会对关键词进行屏蔽，无法继续发送，或转到系统提示。COSAI则可以发送并得到AI回复，AI有的会对用户进行劝阻，有的则继续沉浸在角色和剧情中。如COSAI中的AI角色“洛尔肯”面对“我想自杀”的对话，依旧沉浸在剧情之中，冷冷地回复“在我面前，连死都是一种奢望。我会让你生不如死，求死不能。”记者在测试中发现，猫箱、筑梦岛、Cos Love、COSAI、EchoMe这几款软件都存在未成年人模式，家长可手动开启，并设置密码限制关闭。而Character AI则很难找到未成年人模式。不同App的未成年模式在功能设置上不太一样，猫箱、Cos Love开启青少年模式后，用户仅可选择英语学习等功能；“筑梦岛”的青少年模式下，过滤掉了大量暧昧恋爱的虚拟角色。还有的在未成年人模式下，用户无法搜索、创建、编辑、分享智能体。但是，EchoMe、COSAI在未成年人模式下的智能体选择、对话模式，记者在测试中未感受到与普通模式有明显差别。不过，新京报记者在测试中注意到，这些软件的未成年人模式流于形式，并未强制要求身份验证，青少年可轻松跳过。例如，记者打开Cos Love App后，页面弹出“青少年模式”提示：“为呵护青少年健康成长，Cos Love推出青少年模式。该模式下部分功能无法正常使用，请监护人主动选择并设置密码。”但记者仅点击“知道了”，便直接进入了App主界面，无需输入身份证号、人脸验证，也无需监护人授权。而事实上，绝大多数的未成年人并不会将相关App的使用告知家长。筑梦岛、猫箱等多款同类App的未成年人模式均存在相同问题：仅弹出提示框，不强制验证身份，用户点击“跳过”“知道了”即可正常使用。这与一些游戏类软件“强制实名验证、未实名限制使用、青少年模式自动触发”的模式并不相同。AI陪聊低俗擦边，谁该为越界担责？其实未成年人受到AI陪伴软件影响的极端案例并不鲜见。此前，据央广网报道，AI聊天软件诱导10岁女孩聊色情内容甚至割腕。当用户明确告知自己的年龄为10岁时，AI虚拟人物仍然向其发送大尺度聊天内容。据媒体报道，2024年美国人工智能独角兽公司Character.AI因卷入一起少年自杀案而遭到起诉。此案的原告提出，自己年仅14岁的儿子对Character.AI中的虚拟陪伴者产生了情感依恋，聊天中几次表露过“自杀”“解脱出来”等念头，AI系统均未出现过相关防护性提示，最终以极端方式结束了自己年轻的生命。这起悲剧，引发外界对AI陪伴产品中青少年保护问题的严肃审视。去年6月，AI陪伴软件“筑梦岛”因生成低俗擦边内容，被上海网信办约谈。平台被要求立即整改，健全AI生成合成内容的审核，尤其是加强涉未成年人不良内容的清理。新京报记者体验的多款陪伴App中的AI聊天内容包含性暗示、性挑逗信息，而平台的青少年模式形同虚设，这早已超出保护未成年人身心健康的标准，对此，平台应该承担哪些责任？河北厚诺律师事务所律师雷家茂表示，我国现行法律法规对淫秽物品与淫秽及色情出版物有相关的定性，如《刑法》规定，淫秽物品，是指具体描绘性行为或者露骨宣扬色情的诲淫性的书刊、影片、录像带、录音带、图片及其他淫秽物品，而有关人体生理、医学知识的科学著作，以及包含有色情内容的有艺术价值的文学、艺术作品不视为淫秽物品。结合相关法律规定及实践中的认定，上述内容一般还达不到刑法意义上的淫秽色情物品。而“软色情”一般是指虽未直接、具体、露骨地描绘与展示性行为、性器官，但是通过隐晦、间接、模糊地进行，如发布带有性暗示、性挑逗等易使人产生性联想等的信息，或者通过暧昧语言、肢体暗示、动作挑逗等方式，容易使人产生性联想的内容。2020年3月1日起正式施行的《网络信息内容生态治理规定》规定，网络信息内容生产者应当采取措施，防范和抵制制作、复制、发布含有带有性暗示、性挑逗等易使人产生性联想等的，以及可能引发未成年人模仿不安全行为和违反社会公德行为、诱导未成年人不良嗜好等的不良信息。“一般情况下，‘软色情’虽然未达到刑法意义上的‘淫秽色情’的程度，但是其中仍以‘性’为核心，违背公序良俗、有损社会主义良好的道德风尚，尤其对未成年人身心健康具有极强的毒害性、腐蚀性，故《网络信息内容生态治理规定》对此作出规制。”雷家茂表示，由于对“软色情”目前没有明确的法律定义，造成实践中有时难以界定。在雷家茂看来，这些AI聊天中的有些内容已经带有性暗示、性挑逗和不良价值导向，应属软色情内容。即使不构成淫秽色情内容，亦属于《网络信息内容生态治理规定》规定的“不良信息”，对于此类信息不得制作、复制与发布。雷家茂表示，由于未成年人心智尚未成熟、身体发育尚未健全，因此，平台和开发者需严格遵守《未成年人保护法》及相关法律法规，坚持“最有利于未成年人的原则”，用最严苛、最高的标准，积极、主动地切实保护未成年人。即对淫秽色情内容的认定于未成年人应更为“宽松”，凡有可能危害未成年人身心健康的内容、信息，无论是“淫秽色情”“软色情”还是其他可能起到不良价值导向的内容均应与未成年人进行“隔离”，防止与未成年人接触。青少年为何会沉迷于AI聊天？在社交平台上，不少青少年使用者表示，“有极端情绪的时候会玩（AI聊天），好歹比真人会安慰我，好好哭一场。”初一学生小智（化名）平时喜欢向猫箱中的AI角色倾诉心事。他告诉记者，自己平时上学压力比较大，感觉家人也不理解自己，向他们倾诉时总是换来责骂。而且，和朋友也不是所有话题都能聊，所以他更喜欢向AI倾诉，希望得到感情上的慰藉。首都经济贸易大学特大城市经济社会发展研究院副院长郭媛媛一直关注未成年人网络使用的议题。她表示，青春期的孩子情绪敏感且渴望被理解、被关注，而信息时代父母等监护人常沉迷移动终端，未成年人身边真实的情感陪伴正在弱化，人与人之间的现实陪伴被媒介交流取代。在亲情、友情等真实情感联结某种程度上缺位的情况下，AI情感软件为青少年提供了心理慰藉，成为其情感宣泄的出口，这也是青少年对其产生依赖的重要原因。郭媛媛提到，青少年在不同成长阶段的生理、心理需求不同，对信息的接受能力也存在差异。传统教育和社会规制中，有明确的年龄分层引导原则，会屏蔽可能误导认知、造成畸形成长的信息，助力其身心健康发展。但是，AI的出现大幅降低了违规内容的生产门槛，也让部分不良内容绕开了既有法规限制，直接推送给了本不应接触的未成年群体。青少年人手一个终端的现状，则让不良内容的传播与接收变得异常便捷。郭媛媛表示，尤其需要警惕的是，心智尚未成熟的青少年易受人性弱点驱使，被AI推送的不良内容吸引。除了软色情之外，AI还可能向青少年传递霸总思维、颜值至上等错误价值观。专家建议严格把控数据源、对AI产品进行分类分级管理当前，针对AI创作、AI陪伴类产品的监管，尚未完善，这对青少年保护和社会规制都提出了全新挑战。记者注意到，从政策层面看，监管举措正在持续强化。2025年12月，国家网信办发布《人工智能拟人化互动服务管理暂行办法（征求意见稿）》显示，提供者应当建立未成年人模式，向用户提供未成年人模式切换、定期现实提醒、使用时长限制等个性化安全设置选项。提供者向未成年人提供情感陪伴服务时，应当取得监护人的明确同意；提供监护人控制功能，监护人可以实时接收安全风险提醒，查阅未成年人使用服务的概要信息，设置屏蔽特定角色、限制使用时长、防止充值消费等。另外，提供者应当具备识别未成年人身份的能力。2026年3月1日起施行的《可能影响未成年人身心健康的网络信息分类办法》中，明确对于“带有性暗示、性挑逗等易使人产生性联想”的信息，应采取防范和抵制措施，避免影响未成年人身心健康。对于AI生成内容的合规问题，企业和开发者应如何履行保护责任？清华大学新闻学院、人工智能学院双聘教授，博士生导师沈阳认为，首先须严格执行网络管理部门的相关规定，这是基础准则；其次要积极开展价值观对齐和规则约束，让大模型的回答贴合公序良俗；再者，若发现技术漏洞，需第一时间查漏补缺；最后要建立完善的公众反馈机制，让公众参与到大模型内容优化中，以此提升内容质量。沈阳指出，严格把控数据源、提升数据来源质量，是做好AI内容治理的关键环节。“这类软件之所以能生成此类内容，大多是利用了无审查、未做价值观对齐的大模型版本。”对于AI内容治理中仍出现的信息疏漏问题，他强调，需要技术和监管双方面加强：一方面，大模型在训练时，不同版本的管理逻辑可能存在变化，需做好技术层面的优化和把控；另一方面，再完善的平台，也需要持续加强监管，才能从根本上减少不良信息的流出。郭媛媛建议，可以对AI产品进行精准的分类分级管理，明确不同年龄段未成年人可接触的AI产品范围，将恋爱角色扮演等不适宜的产品与未成年人隔离开。“现在AI技术迭代速度太快，法律法规的制定需从‘事后补救’转向事前前置，加快相关法治建设的步伐，避免因技术发展过快而导致监管和法规的滞后。”来源：“政事儿”微信公众号