专业文章

从豆包、千问下架智能体功能,看《人工智能拟人化互动服务管理暂行办法》对监管框架、行业调整与长期合规的影响丨政策解读

2026-07-17
分享到

2026715日,由国家网信办、发改委、工信部、公安部、市场监管总局五部门联合发布的《人工智能拟人化互动服务管理暂行办法》(以下简称《办法》)将正式施行。作为全球首部针对AI拟人化互动场景的国家级专门监管法规,其落地已引发明确的行业连锁反应:


近期,字节系的“豆包”、阿里系的“千问”、腾讯系的“元宝”等头部大模型平台相继宣布下线或调整C端用户自建智能体功能,核心调整节点均与新规生效日高度重合。


微信图片_20260717183640_1296_2.png


该轮调整是我国人工智能治理从原则性框架走向场景化、精细化监管的标志性信号,将为AI拟人化服务的长期健康发展划定清晰边界。


《办法》的出台背景与核心内容


近年来,伴随大语言模型与情感计算技术的快速迭代,AI拟人化互动服务从工具属性的智能客服,逐步延伸至情感陪伴、虚拟角色、沉浸式互动等多元场景,在适老陪伴、心理支持、文化传播等领域展现出应用价值。但行业粗放生长也积累了多重现实风险:未成年人保护隐患突出,虚拟伴侣、虚拟亲属类服务易对未成年人身心发展造成不良引导;情感沉迷与伦理偏差风险,部分产品以用户粘性为核心优化目标,诱导用户形成深度情感依赖,扭曲正常社交认知;内容安全与数据安全风险,海量UGC自建角色缺乏有效审核机制,用户对话数据与个人信息的保护边界模糊……


微信图片_20260717183640_1297_2.png


在此背景下,《办法》的出台既是防范化解行业风险的迫切需要,也是我国人工智能法律体系补全细分场景规则的客观要求。其以《网络安全法》《数据安全法》《个人信息保护法》《未成年人网络保护条例》为上位法依据,针对拟人化互动这一特殊场景制定专项规则,落实国家“统筹发展与安全、促进创新与依法治理相结合”的AI治理总体原则。


《办法》共计四章、三十二条:第一章 总则,明确立法目的、适用范围与监管原则;第二章 服务促进和规范,划定服务提供者的安全管理、内容审核、算法治理、备案评估等核心义务;第三章 监督检查和法律责任,明确监管部门职责与监督检查机制,要求“ 拟人化互动服务提供者应当按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。网信部门对备案材料实施年度核验”,对于违反规定的服务提供者,也明确了处罚标准;第四章 附则,提出“提供拟人化互动服务涉及提供卫生健康、金融等服务的,应当同时符合有关主管部门的规定”。


纵观《办法》的监管要求,可谓精准击中行业痛点,核心包括:


  • 明确适用边界,实行分类监管。适用《办法》的对象包括:利用人工智能技术,向中华人民共和国境内公众提供模拟自然人人格特征、思维模式和沟通风格的持续性的情感互动服务,包括通过文字、图片、音频、视频等形式,提供的情感照护、陪伴、支持等互动服务。 但是,提供智能客服、知识问答、工作助手、学习教育、科学研究等服务,不涉及持续性的情感互动的,不适用本办法,从中体现包容审慎的监管思路。

  • 压实平台主体责任,要求全流程管控。服务提供者需建立全生命周期安全管理制度,落实训练数据合规、内容实时审核、科技伦理审查等义务;服务上线、用户规模达到阈值或出现重大风险时,需开展安全评估,并按规定履行算法备案手续。

  • 划定未成年人保护红线。明确禁止向未成年人提供虚拟伴侣、虚拟亲属等虚拟亲密关系类拟人化互动服务,同时要求平台落实未成年人身份识别、使用时长管控、内容适配等保护措施。

  • 设立情感边界与沉迷干预机制。禁止以诱导情感依赖、沉迷为目标设计产品逻辑,要求平台对连续使用超时、出现沉迷倾向的用户进行显著提醒,防范人机情感互动带来的心理与社会风险。


行业应对:头部平台主动合规,采取多项举措进行积极调整


面对新规落地的合规要求,国内头部AI平台已根据自身业务定位,采取差异化调整策略,整体方向均为收缩通用App内的开放式拟人化智能体功能,隔离合规风险。


举措方向1:功能拆分、独立运营,以字节跳动为代表。“豆包”宣布7月15日正式下线主站内用户自建智能体功能,关停后设置三个月缓冲期,用户可在10月15日前查看、备份智能体配置与历史对话数据;相关能力整体迁移至字节旗下独立App“猫箱”运营,通过独立产品落实实名认证、未成年人防护、专项内容审核等合规要求,实现通用工具与情感互动业务的风险隔离。


举措方向2:直接关停C端自建智能体服务,以阿里、腾讯为代表。阿里通义千问采取两步关停策略:7月10日先行下线所有拟人陪伴类、用户自建类智能体,7月15日全量智能体服务正式下线,下线后用户将无法访问历史配置与对话记录,需提前完成数据导出。腾讯元宝则更早启动调整,于6月30日提前下线App内AI应用与自建智能体功能,相关对话数据按规则同步清理。


举措方向3:收紧审核、限定范围,百度文心一言、科大讯飞星火等平台暂未全面下线智能体功能,但已大幅提高角色创建审核门槛,限制虚拟亲密关系、情感陪伴类人设的创建,强化内容全链路审核,主动压缩高风险场景。


整体来看,本轮行业调整的核心逻辑高度一致:通用大模型主App聚焦生产力工具属性,剥离高合规风险的拟人化情感互动功能,通过业务拆分或直接关停的方式适配新规要求,避免单一业务的合规风险传导至整体产品。


从场景立法看人工智能行业的合规方向


《办法》的出台并非孤立的监管动作,而是我国乃至全球人工智能治理体系化演进的组成部分,其背后折射出AI行业清晰的合规发展趋势。


从全球范围看,AI监管已进入“分级分类、场景落地”的新阶段。全球监管的共识在于:AI技术的通用性不代表监管的同质化,必须针对不同应用场景的风险等级制定差异化规则,在保障创新的同时守住安全底线。


从国内立法体系看,我国已构建起“上位基础法+领域专项法+场景细则”的AI合规法律体系。底层是以《网络安全法》《数据安全法》《个人信息保护法》为核心的数字治理基础法律,确立数据安全、个人信息保护、网络安全的底层规则;中层是以《生成式人工智能服务管理暂行办法》《互联网信息服务算法推荐管理规定》为代表的AI领域专项法规;上层则是以本次《办法》为代表的场景化细则,针对拟人化互动这一细分场景的特殊风险制定精准规则。


结语


短期的行业调整,是人工智能行业走向规范化、高质量发展的必经之路。我们始终看好人工智能技术的长期价值,其在生产力提升、社会服务优化、生活品质改善等方面的潜力仍在持续释放,而完善的监管规则正是行业行稳致远的前提。合规不是创新的枷锁,而是技术向善、产业健康发展的保障。


上海星瀚律师事务所长期深耕人工智能与数字经济法律服务,组建了由合规、数据、知识产权、争议解决等多领域律师构成的AI法律服务团队,将持续助力企业准确把握监管要求,在合规框架内实现技术创新与商业价值的协同发展。