豆包、千问同日下线智能体：一份AI拟人化监管新规的技术合规深度解读

前言

2026年7月4日，字节跳动旗下豆包和阿里旗下通义千问几乎同时宣布：

• 豆包：智能体功能将于7月15日下线，用户可导出历史数据至10月15日
• 通义千问：拟人化互动类及用户自建智能体7月10日先行下线，全部智能体功能7月15日关停

同日下线的背后，是《人工智能拟人化互动服务管理暂行办法》（以下简称《办法》）将于7月15日正式施行。这不是巧合，是监管节点下的风险处置。

本文将逐条拆解《办法》的合规要求，分析大平台为什么选择下线而非整改，以及这对AI行业意味着什么。

一、《办法》到底管什么？

先把一件事说清楚：不是所有AI功能都要关。

《办法》第二条的原文是这样定义的：

利用人工智能技术，向中华人民共和国境内公众提供模拟自然人人格特征、思维模式和沟通风格的持续性的情感互动服务。

特征拆解如下：

同时，《办法》第二条第三款明确排除了：

提供智能客服、知识问答、工作助手、学习教育、科学研究等服务，不涉及持续性的情感互动的，不适用本办法。

也就是说，豆包的AI搜索、写作、编程助手等功能不受影响，千问的知识问答、文档分析也不受影响。受影响的是“能聊天的角色”——即所有涉及持续情感互动的AI角色。

此外，《办法》由国家网信办、发改委、工信部、公安部、市场监管总局五部门联合发布，2026年4月10日公布，留给行业的准备期仅3个月。

二、哪些条款让大平台三个月内合规困难？

以下每一条对应的都是一个大工程。

2.1 第14条：未成年人保护的"硬约束"

不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系的服务。
向不满十四周岁未成年人提供其他拟人化互动服务的，应当取得监护人同意。
应当建立未成年人模式，提供定期现实提醒、使用时长限制等安全设置。

平台必须做到的几件事：

• 准确识别用户年龄（不能全凭用户自报）
• 识别哪些智能体属于"虚拟亲密关系"类别
• 对不满14岁的用户，还要获取监护人同意
• 提供监护人管理后台：风险提醒、角色屏蔽、消费限额

技术难点在于用户创建角色的意图判断——用户说"帮我创建一个温柔的知心姐姐"和"创建一个学习助手"，边界在哪里？

2.2 第13条：极端情绪干预

发现用户出现极端情绪的，应当及时生成情绪安抚和鼓励寻求帮助等相关内容。
发现用户明确表示实施自残自杀等威胁生命健康的极端情境的，应当采取提供相应援助等必要措施予以干预，并及时联络用户监护人或者紧急联系人。

对产品来说，这需要：

• 实时检测对话中的极端情绪信号（NLP模型+规则引擎）
• 分级响应：轻度→生成安抚内容，重度→人工干预+联系紧急联系人
• 建立7×24小时应急处置链路，包括人工审核团队和紧急联系人机制

第12条还要求平台必须事先收集用户的监护人或紧急联系人信息，这本身就是一个巨大的用户流程改造。

2.3 第18条：AI身份标识和使用时长提醒

应当以弹窗等显著方式动态提醒用户互动内容为人工智能服务生成。
对用户连续使用拟人化互动服务每超过2个小时的，应当提醒用户注意使用时长。
发现用户出现过度依赖、沉迷倾向的，应当动态提醒。

这不是加一行免责声明的事。平台需要：

• 在对话流中持续标注"这是AI生成"
• 检测用户"沉迷倾向"（什么样的行为算沉迷？需要定义+模型判断）
• 准确统计连续使用时长，并在超2小时时弹窗

2.4 第16条：交互数据保护

应当向用户提供交互数据复制、删除等选项。
除取得用户单独同意外，不得将属于用户敏感个人信息的交互数据用于模型训练。

对AI角色产品来说，用户与AI的聊天记录是核心资产，也是最大的隐私风险。不能用于训练意味着过去积累的交互数据可能需要重新走授权流程。

2.5 第22条：安全评估

注册用户100万以上或者月活跃用户10万以上的，应当开展安全评估，并向所在地省级网信部门提交评估报告。

豆包和千问的用户规模是亿级，必然触发。评估内容（第23条）包括：

1. 安全保障措施建设情况
2. 训练数据处理情况
3. 用户极端情境的识别、应急处置、干预管理
4. 用户规模、使用时长、年龄结构
5. 未成年人、老年人等网络保护措施
6. 用户申诉和投诉举报受理处置情况
7. 重大安全风险问题整改情况

一套完整的评估走下来，几个月是起步价。

2.6 第26条：算法备案

应当按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。网信部门对备案材料实施年度核验。

算法备案本身就需要较长的审批周期，年度核验意味着后续持续投入。

2.7 法律责任（第30条）

拒不改正或者情节严重的，责令停止提供相关服务，可以并处一万元以上十万元以下罚款；涉及危害公民生命健康安全且有危害后果的，并处十万元以上二十万元以下罚款。

罚款金额对巨头不算高，但"责令停止提供相关服务"是平台不可承受的。

小结

大平台三个月内难以合规的根本原因，不是某一条红线，而是：用户自建智能体 + 情感互动 + 未成年人保护 + 心理风险干预 + 数据合规 + 安全评估备案，这几个系统同时需要重做。三个月连其中一个系统都未必能跑通。

三、为什么字节保留"猫箱"但关掉豆包智能体？

这是很多人没读懂的部分。豆包把用户导到了猫箱，这不是在"绕监管"，而是在做产品线切分。

3.1 豆包的定位问题

豆包是通用AI助手，主要用户用来查资料、写文案、编程辅助。智能体（角色扮演功能）是附属功能，不是核心价值。

根据《办法》第二条的排除条款，工具型AI服务不受影响。对豆包来说，最稳妥的策略是：

1. 剥离智能体的"拟人化互动"属性
2. 让豆包回归"不涉及持续情感互动"的工具定位
3. 把情感互动赛道交给专门的App来合规运营

3.2 猫箱反而更容易合规

猫箱（原名猫盒）是字节旗下独立的虚拟角色互动App。专门产品反而更容易做合规：

• 注册时就签单独的服务协议（第12条）
• 收集用户年龄、监护人、紧急联系人等必要信息
• 建立完善的未成年人模式和年龄识别机制（第14条）
• 限制虚拟伴侣、虚拟亲属等敏感功能
• 做AI生成标识和连续使用提醒（第18条）
• 走安全评估和算法备案流程（第22/26条）

字节的逻辑：豆包不能被智能体功能拖入高风险监管分类；猫箱作为独立产品，承担拟人化互动服务的合规成本和风险隔离。

3.3 字节 vs 阿里的战略差异

字节是"保留情感互动业务，但换容器"；阿里是"降低C端智能体复杂度，让千问回到工具型助手定位"。两种策略没有对错，取决于各自的产品矩阵和战略判断。

四、对AI生态的深远影响

4.1 C端AI产品将两极分化

过去那种"万能助手 + 角色广场 + 用户自建智能体"的全能型产品会收缩，变成清晰的分类：

• 工具型助手：问答、写作、办公、学习 → 归一般AI监管
• 情感陪伴/虚拟角色： → 归拟人化互动专项监管

不再有中间地带。

4.2 UGC智能体模式显著降温

过去智能体平台的核心增长模式是：用户自由创建角色、人设、提示词、记忆和对话风格。这种模式增长快，但新规后每层都有成本：

• 角色创建 → 需要审核机制（第9条）
• 用户对话 → 需要实时监控和极端情绪干预（第13条）
• 历史数据 → 需要存储、删除、导出选项（第16条）
• 未成年人 → 需要识别、屏蔽、限制使用（第14条）

对中小团队来说，合规成本可能直接超过商业收入。这也解释了为什么字节要把这块业务放到猫箱单独做——合规成本必须由专门的业务线来承担。

4.3 AI陪伴赛道不会被消灭，但会被"正规化"

《办法》第3条明确写着"鼓励拟人化互动服务创新发展"，第28条提到"人工智能沙箱安全服务平台"。这说明监管的意图不是消灭这个行业。

未来能合法合规的AI陪伴产品，大概率是这样的：

1. 明确的年龄门槛和身份验证
2. 弱化或禁止虚拟伴侣、虚拟亲属类角色
3. 强制的AI身份持续标注（不是仅首次提示）
4. 使用时长限制和沉迷风险预警
5. 保留人工干预和紧急联系人链路
6. 完成安全评估和算法备案

4.4 上海下架1.4万个违规智能体只是前奏

6月26日，上海市委网信办通报，累计下架违规智能体1.4万余个，涉及稀宇、小红书、B站等平台。清理内容包括"一键脱衣"、赌球博彩、AI托管运营等违规内容。

这释放的信号很明确：监管的关注点不只是大模型本身，而是模型之上的应用形态、角色生态和用户互动内容。7月15日之后，全国范围内会有更多清理动作。

五、对技术开发者的建议

如果你正在做AI角色/伴侣/陪伴类产品，以下是几个思考方向：

5.1 尽早做分类

判断你的产品是否落入《办法》管辖：

• 如果是工具型助手（问答、写作、编程、搜索），大概率不受影响
• 如果有"持续情感互动"成分（角色扮演、情感陪伴、虚拟关系），则必须合规

5.2 尽快启动合规流程

如果在管辖范围内，建议：

1. 完成算法备案（第26条）—— 审批需要时间，尽早提交
2. 建立年龄识别和未成年人保护机制（第14条）—— 这是硬约束
3. 建立极端情绪检测和干预链路（第13条）—— 需要NLP模型+人工团队
4. 制定数据分类存储和删除方案（第16条）—— 用户有权导出和删除
5. 实施AI生成内容标识（第18条）—— 动态提醒，不是仅首次声明
6. 准备安全评估（第22条）—— 月活超10万就要触发

5.3 考虑产品线切分

如果你的产品既有工具功能又有角色功能，参考字节的策略——考虑拆分为两个产品，把情感互动部分放到专门的App里独立做合规，不要让整个产品被拖进高风险分类。

5.4 关注沙箱安全平台

《办法》第28条提到的"人工智能沙箱安全服务平台"值得重点关注。它可能成为新产品合规上路的重要通道。

结语

2026年7月15日，是中国AI行业的一个标志性节点。

在此之前，监管重点在"大模型有没有备案、内容有没有红线"；在此之后，进一步推进到了“AI与人建立长期情感关系时，平台要承担什么责任”。

豆包、千问同日下线，不是巧合，而是头部平台对监管节点的风险处置。这不是行业的冬天，而是从野蛮生长到规范发展的必经之路。

对于有合规意识和技术实力的团队来说，这个赛道的竞争反而会因为门槛提升而变得更公平。

参考来源：

• 国家网信办等五部门《人工智能拟人化互动服务管理暂行办法》
• 每日经济新闻《豆包、千问将下线智能体功能》（2026年7月4日）
• 上海市委网信办"清朗·整治AI应用乱象"专项行动通报（2026年6月26日）