恶意营销号滥用AI 一个月清理百万条 AI回答的信源在变干净吗
2026-10-30博晓通

恶意营销号滥用AI 一个月清理百万条 AI回答的信源在变干净吗

恶意营销号滥用AI 一个月清理百万条 AI回答的信源在变干净吗 文章配图

截至10月30日的公开信息,抖音在10月28日发布关于治理恶意营销号滥用AI的公告,称近一个月累计处置违规短视频113.5万条、违规账号50.7万个,另有30.2万个账号通过规则考试被引导回规范创作。公告把问题归为三类:内容层面低成本同质化、工业化量产;行为层面常伴随诱导互动;性质恶劣的账号存在传播AI虚假信息的现象。对做AI可见度的团队来说,这不是一条平台治理新闻,而是信源池正在被清理的直接证据。

一个月处置了哪些内容

已知事实未证实需要核实
10月28日公告:近一个月处置违规短视频113.5万条、违规账号50.7万个被处置内容在各品类的分布未公开处置后的内容恢复率、账号申诉成功率

公告披露的典型手法包括用AI生成神医送福、迎财神一类内容诱导点赞转发,以及生成中老年男性形象搭配告白音频吸引中老年女性关注。这些内容的共同点不是低质,而是可复制:同一套模板改几个变量就能批量产出,账号矩阵化运营,单条成本极低。

处置依据是账号健康分规则,配套动作包括内容下架、账号处置与规则考试引导。50.7万个账号与113.5万条视频的比例大约是1比2.2,说明多数账号的违规内容集中在一到两条,属于批量试错型;少数账号承载了大量违规内容,属于矩阵化运营。两种形态对应两种治理手段,前者靠考试引导,后者靠账号处置。

三类问题的共同点

三类问题看起来分别是内容、行为与信息,本质都是同一个机制:用极低的成本制造大量的、看似独立的第三方表述。这正是AI搜索最容易被影响的地方。AI在生成回答时倾向于采信多来源一致的表述,如果同一个主体用上百个账号发布同一套说法,模型看到的就是多来源一致。

所以平台清理这类内容,客观上是在替AI回答做信源净化。过去两年围绕AI搜索优化出现的灰产,核心手法就是批量生成榜单与测评文章投喂模型,让品牌在不具备真实口碑的情况下进入推荐名单。当平台把工业化量产的内容识别出来并下架,靠投喂获得的可见度就会回落,这是可见度回归真实的一步。

账号健康分对品牌方的参照意义

账号健康分是一套可累积、可修复的信用机制。对品牌方来说,这套逻辑值得借用:把官方账号、达人合作账号、第三方测评账号分开管理,各自维护一套内容规范与更新节奏,避免一个账号的违规影响整个品牌的信源质量。信源质量不是抽象概念,它由一个个具体账号的履约记录累积而成。

矩阵化运营的识别特征

矩阵化运营的识别特征有三条:账号注册时间集中、发布节奏高度同步、内容结构复用同一套模板。这三条不需要复杂模型就能判断,平台侧的内容指纹比对已经能做到。对品牌方来说,识别特征的意义在于自查:如果合作的达人或代运营机构呈现这三条特征,风险会沿着合作关系传导到品牌自己身上。

信源变干净之后品牌该做什么

第一件事是重估既有可见度的含金量。如果过去的高曝光主要来自投喂型内容,那么清理之后会出现明显回落,这种回落不是危机,而是把虚高的部分挤掉。第二件事是把资源挪到可核验的内容上:官方页面、真实测评、可追溯的案例。第三件事是建立常态化的监测,把品牌在AI回答里的提及与引用按月记录,看趋势而不是看单点。

需要提醒的是,信源净化不等于竞争变简单。当投喂失效,能被AI引用的就只剩下结构清晰、事实准确、来源可查的内容,这类内容的供给速度远慢于批量生成。谁能更早把内容做成可被引用的形态,谁就能在清理之后占到位置。这个窗口不会太长,因为平台治理与内容供给是同时进行的。

  1. 盘点品牌相关的第三方内容来源与账号归属
  2. 剔除投喂型内容后重估可见度基线
  3. 把资源转向官方页面与可追溯案例
字段示例
来源类型官方页、达人、第三方测评
账号归属自营或合作
可追溯性是否可回溯到原始出处
问题类型典型表现对AI回答的影响
内容层面低成本同质化、工业化量产制造虚假的多来源一致
行为层面诱导互动、矩阵化运营放大虚假表述的传播量
信息层面传播AI虚假信息直接污染引用来源

常见问题

  • 抖音这次公告处置了多少内容?

    公告称近一个月累计处置违规短视频113.5万条、违规账号50.7万个,另有30.2万个账号通过规则考试被引导回规范创作,依据是账号健康分规则。

  • 这类内容为什么会影响AI回答?

    AI生成回答时倾向采信多来源一致的表述。同一主体用大量账号发布同一套说法,模型看到的就是多来源一致,虚假口碑因此进入推荐名单。

  • 信源净化后品牌可见度会下降吗?

    如果过去的高曝光主要来自投喂型内容,清理后会出现回落。这种回落是把虚高部分挤掉,不是危机,重估基线比抢救排名更重要。

  • 品牌该怎么建立常态监测?

    把官方页、达人账号、第三方测评分开管理,按月记录品牌在AI回答里的提及与引用来源,看趋势变化而不是单点波动,并据此调整内容供给。

数据来源