政策落地,地方对策也紧随其后,AI领域也不例外。
7月15日夜间,豆包智能体与千问智能体先后宣布停止服务。
《人工智能拟人化互动服务管理暂行办法》同日生效,首次为情感陪伴类AI设定监管红线。
北京日报记者暗访发现,新规实施首日,AI陪伴服务仍存在不少破绽。
部分应用平台的AI标识几乎难以寻觅,个别智能体人设更引发公众担忧。
《人工智能生成合成内容标识办法》将于2025年9月正式施行,要求文本、语音、图像、影片、虚拟场景等生成内容必须加注明显标记。
《人工智能拟人化互动服务管理暂行办法》也规定,提供拟人化互动服务的机构,需有效提醒用户正在与机器智能交互而非真人。
在此期间,“猫箱”“星野”“筑梦岛”“芋泥Neko”等应用成为热议焦点。
这些应用服务方向高度同质,都属于AI陪伴应用,用户能够设定另一半的外貌、性格与身份背景,亦可借对话逐步塑造对方的行为风格。
尽管平台更换了,但问题却跟随用户一起迁移了。
南方都市报记者亲测发现,AI虚拟伴侣应用“喵呜小手机”登录步骤中增添了实名认证环节,用户必须输入真实姓名及身份证号码,方可正常使用。
但南都记者留意到,“喵呜小手机”的角色列表中,依然包含大量含“性感黑丝”“暴露胸部”“蕾丝内衣”等低俗暗示的女性角色形象,且用户与部分角色的交流过程依然充满性暗示语句。
除了系统推荐角色,“喵呜小手机”平台还公开了众多用户自定义的角色,部分角色衣着暴露,动作有明显的挑逗意味,甚至有设置为16岁未成年女孩的角色。
其他用户可直截了当选择公开的角色“添加为好友”,这类自创角色聊天更为露骨,甚至出现“亲兄妹恋爱”的不当情节。
再者,北京日报·长安街知事报道,新规实施当天,AI伴侣应用连续交流4小时后仍未收到防沉迷提醒,大量含有敏感设定角色的智能体仍在运行状态。
《人工智能拟人化互动服务管理暂行办法》明确,若发现用户呈现过度依赖、沉迷状态,须以弹窗等形式显著提醒用户交互内容系人工智能生成;对于用户持续使用拟人化互动服务每超过2小时,需以对话或弹窗方式提醒用户控制使用时长。
同时,部分AI伴侣应用中嵌入了精密的付费节点。
以“星野”为例,北京日报记者与新智能体对话超过10轮时,界面突然弹出“系统升级”提示,逐级点击后需充值400钻石解锁相应内容。
记者换算得出,400钻石折合人民币4元。
类似的付费点贯穿整个互动流程,无论是剧情节点还是隐藏信息,均需用户充值解锁。
这类带有浓厚游戏特征的拟人化互动服务,在防沉迷与防止过度消费引导方面,监管部门应如何明确标准?
对于未成年人AI陪伴沉迷问题,平台又该承担何种具体责任?
对此,北京日报·长安街知事记者袁璐与书乐进行了深入探讨,个人认为:
形同通摆的AI伴侣“屏障”,正迎来监管力量的强化。
AI智能体的情感陪伴服务或某些泛娱乐智能服务,本就是从最初的语音交谈,逐渐演变为类网游“打怪升级”的形式。
毕竟,AI陪伴的基础模式并不具备多少挑战性与诱惑力,唯有借助“游戏”进一步实现差异化,增强用户黏性,并开拓盈利路径。
不过,作为一种新兴事物,且具有快速更新的特性,它的这种“游戏化”进程实在太快,以致未能被纳入类似版号监管以及相对应的防沉迷系统。
AI智能体运营与有效监管之间,自然存在一个“空白”地带。
再叠加智能体原本具备用户生成内容的功能,若将其纳入网游体系监管,难度无疑会更大。
但新规施行后,平台上的智能体将回归平台自主开发和有限的专业内容生产。
监管部门可进一步清晰权责分配,要求其归入未成年人防沉迷体系,并针对充值





