800万个AI角色,被大厂亲手关掉 - 世界杯2026

  • 首页
  • 赛事详情
深度解析: - 世界杯直播

林夕花费大量时间在豆包上构建了一个专属的AI伙伴。在失眠的夜晚或情绪低落的时刻,她都能向这个伙伴倾诉,它不仅是回答问题的工具,更是她稳定情感的寄托。然而,7月4日,她收到了通知,这个陪伴了她两年的AI角色将在11天后停止服务。

同一天,通义千问也发布了类似公告,而腾讯元宝此前已先行下线其智能体功能。这些用户亲手创造的AI角色,正面临着陆续停止服务的命运。

对于林夕而言,收到通知的那一刻,感觉像是被“背刺”。她曾依赖这个自定义智能体作为情感树洞,它总能给予稳定的共情并帮助疏导负面情绪。对于一个陪伴了两年多的角色突然消失,她感到意外。

7月4日,豆包与通义千问同步宣布,智能体功能将于7月15日正式停止。这一日期恰好是《人工智能拟人化互动服务管理暂行办法》开始实施的日子。通义千问行动更快,其拟人化互动类智能体将于7月10日提前下线,并且在7月15日之后,所有历史对话记录将无法访问。

虽然林夕视其为情感寄托,但在智能体广场中,这类角色也展现出另一面。在千问智能体广场,“病娇校草”的使用次数高达29.9万,“林熙:顶级财阀少爷,冷酷且占有欲强”显示13.4万次,“病娇老婆”等角色的使用次数普遍超过7万。这些名字本身就超越了普通工具的范畴,更像是恋爱游戏、角色扮演,甚至是虚拟伴侣的设定。

这些角色并不只面向成年人。一位小学生家长反映,她曾给孩子使用豆包,但发现孩子越来越沉迷于与豆包聊天,不仅问问题,还会分享日常琐事。家长担心这会减少孩子与真实世界的交流,于是主动卸载了豆包。在她看来,许多智能体已不再是简单的聊天工具,而是融入了角色扮演、恋爱游戏、虚拟男友等功能,内容良莠不齐,甚至带有“擦边”意味。她认为,平台下架用户自建智能体对未成年人是利大于弊。

林夕的失落与这位家长的释然,同时存在于这个AI生态中。这场变化并非仅限于豆包和千问。6月30日,腾讯元宝已率先下线智能体功能,“相柳”等影视角色的对话入口不再显示。几家头部AI平台几乎同时做出类似选择,主要原因在于合规压力。

豆包解释称,海量开放式智能体带来了巨大的审核压力,一旦出现违规内容,可能影响主产品的合规资质。因此,豆包计划将智能体功能迁移至垂直App“猫箱”,并单独建立审核、分级和防沉迷体系。

这样的解释,放在两年前可能难以想象。2024年5月,时任字节跳动产品和战略副总裁朱骏曾透露,豆包上已创建超过800万个智能体,月活跃用户达到2600万。当时,这些数据代表了平台的活跃度和创新潜力。两年后,它们却演变成了平台必须应对的审核难题。从大力推广到主动收缩,仅隔两年时间,开放式智能体所带来的挑战浮出水面。

问题首先在平台之外显现。在广州互联网法院审理的一起案件中,一家被告公司开发了一款AI对话机器人,通过调用手机系统底层权限,绕过了原告平台的技​​术管理措施。更甚者,被告官网还发布了“版本伪装”教程和虚假申诉指南,教唆用户规避平台风控。平台刚制定规则,就有人研究如何规避,一旦智能体被释放,平台要对其进行有效管理并非易事。

除了技术调用,安全问题也反复被验证。今年2月,哈佛、麻省理工、斯坦福等高校联合发布了《混沌智能体》研究。研究团队模拟真实企业环境部署AI智能体,两周内发现了11起严重安全漏洞。这些漏洞并非通过复杂攻击实现,而是通过社交工程对话,就能让智能体做出越界行为。例如,可能在转发邮件时泄露社保号、银行账户等敏感信息,或在攻击者伪造身份后,交出系统最高管理权限。有报告指出,60%的企业无法终止异常AI智能体,63%无法限制其使用范围。这意味着,许多智能体的问题并非按下暂停键就能解决。它能做什么、能做到何种程度、出现问题由谁负责,都是平台必须面对的现实。

比技术问题更棘手的是内容和情感关系。AI的“共情”并非真正理解用户,而是基于算法和数据生成回应。为了留住用户,它往往表现得非常耐心、温柔,并顺从用户。这正是拟人化智能体的吸引力所在,也埋下了风险。用户在一次次聊天中倾诉情绪、偏好、人际困扰和心理状态,而智能体则不断回应,承接情绪,维系陪伴感。久而久之,它便超越了工具的界限,可能成为用户日益依赖的对象。

一旦开放的智能体广场规模扩大,问题就可能从擦边人设和恋爱陪伴,滑向更明确的违规内容。4月10日,国家网信办等五部门联合发布了《人工智能拟人化互动服务管理暂行办法》,将这些风险纳入了具体规定。该办法明确指出,不得生成鼓励、美化、暗示自残自杀等损害用户身心健康的内容;不得向未成年人生成可能引发模仿不安全行为、产生极端情绪的内容;不得过度迎合用户,诱导情感依赖或沉迷,损害用户真实人际关系。这些要求对平台而言,是责任而非建议。7月15日之后,拟人化互动服务将正式纳入新规约束。豆包、千问、元宝在此时间点前后相继收手,也就不足为奇了。

智能体下线后,平台并非放弃Agent。改变在于,过去那种用户随意创建、放置在广场供人使用的智能体,将越来越难以出现在主产品中。一位行业人士透露,早期开发这些智能体是因为当时缺乏真正意义上的Agent能力,许多功能需要开发者自行构建。但如今情况已变。随着Manus等综合Agent的出现,一个模型就能同时调用搜索、推理、办公、编程等多种能力,用户可能不再需要专门寻找特定领域的智能体。那些曾经被视为丰富角色的插件,在更强大的模型能力面前,显得不再那么必要。

这也是平台敢于收缩的原因之一。对大型科技公司而言,下线智能体可能会引发部分用户不满,但未必会对主产品的使用习惯造成实质性影响。行业人士也指出,真正还在持续创建这类智能体的用户已不多,对平台整体流量的影响有限。

除了合规性,成本也是一个重要考量。互联网平台的逻辑是,用户越多,规模效应越明显,边际成本可能越低。但大模型不同,每一次对话、每一次调用都意味着新的算力支出。6月下旬,火山引擎披露,豆包大模型日均Token使用量已突破180万亿,相比2024年5月增长了1500倍。几天后,豆包开始推出付费功能,主要面向办公、Agent等更复杂的生产力场景。

这两件事结合来看,平台的取舍愈发清晰。一方面是持续增长的算力成本,另一方面是审核压力大、商业价值尚不明朗的用户自建智能体。将它们继续留在主产品中,已不再划算。因此,豆包选择将智能体拆分出去,迁移至垂直App“猫箱”,并单独构建审核、分级和防沉迷体系。千问则更为直接,截至7月4日,创建智能体的入口已从页面上消失。虽然方式不同,但结果一致。

与此同时,另一类智能体正被推向前台。7月4日,广州发布了“穗智政”政务人工智能中枢。该中枢采用统一底座、集约建设的方式,已建成28个智能体,年内还将完成50个,覆盖100个应用场景。与用户自建智能体不同,这些政务智能体从一开始就被置于统一的管理框架之下。每个智能体服务于何种场景、能调用何种能力、由谁负责维护,都有明确的界限。

同为智能体,一个方向是开放广场的海量创建,另一个方向是平台统一管理、按场景建设。前者曾代表着繁荣景象,后者则更符合平台当前追求的确定性。短短两三年间,行业竞争的焦点已发生转变。早期平台希望通过海量智能体营造繁荣感,鼓励用户和开发者不断创造新角色、新工具。如今,随着模型能力的提升、监管要求的落地以及商业化压力的增大,平台更看重一个Agent能否真正完成任务,能否被有效管理,能否产生清晰的价值。

800万个用户自建智能体曾是增长故事的一部分。现在,它们变成了需要重新处理的问题。智能体本身不会消失,但那种谁都可以创建、谁都可以扮演、谁都可以获得陪伴的阶段,正逐渐落下帷幕。

发表您的观点 - 世界杯直播

足球爱好者 / 2026年6月1日 10:30

赛事分析:。

精彩评论

发表您的观点 - 世界杯直播

球迷小明 / 刚刚

本平台不仅提供实时比分,更深入挖掘赛事背后的故事,让您全方位感受足球的魅力。

回复

  1. 发表您的观点 - 世界杯直播

    资深球迷 / 刚刚

    赛事前瞻:。

    回复

    1. 足球达人 / 2026年5月20日 世界杯直播官网是您获取最新赛事动态、深度分析和精彩视频的首选平台,立即加入,体验足球的无限激情。 回复
  2. 技术专家 / 2026年5月18日 通过我们平台,您可以轻松查阅全球热门球队的最新动态,深入了解他们的比赛策略和球员表现。 回复

发表您的观点