AI生成健康谣言被点名 信源标注成了硬要求
2026-11-14博晓通

AI生成健康谣言被点名 信源标注成了硬要求

AI生成健康谣言被点名 信源标注成了硬要求 文章配图

截至 11 月 12 日的公开信息,中央网信办的「清朗·整治科普健康类网络谣言」专项行动已在全国铺开,为期两个月,四类问题被点名,其中一类正是「滥用人工智能技术生成健康科普谣言」。治理措施里有一条对内容方格外重要:要求平台严格标注医疗科普信息来源,建立谣言关键词库与典型案例库,扩大权威科普内容池,并提升对 AI 生成合成内容的识别与处置能力。对做品牌信源的人来说,这条要求把「谁说的」变成了可核查的字段。

四类问题里有一类直接指向 AI

已知事实未证实需要核实
专项行动为期两个月,重点整治四类问题,包括编造民生健康谣言、冒用专业身份、滥用 AI 生成健康科普谣言、虚构康复案例各地落地的时间安排专项行动结束后的常态化机制
AI 相关情形包括批量生成同质化文案图片音视频、换脸换声盗用专家形象、诱导大模型生成虚假死亡率与存活率数据各类情形的占比平台识别的准确率
治理措施包括要求严格标注医疗科普信息来源、建立关键词库与典型案例库、扩大权威科普内容池、提升 AI 合成内容识别处置能力标注的具体字段与展示形式违规账号的处置尺度

把四类问题并排看,会发现它们共用同一条链路:先制造一个看起来专业的内容,再借身份或场景获得信任,最后导向私域成交。AI 在其中承担的是产能角色——批量生成同质化文案、伪造专家形象、诱导模型输出虚假数据,把过去需要人力的环节压缩到几分钟。链路没变,成本降了一个量级。

这也解释了为什么治理措施里有一半落在信源侧。只删内容,账号换个名字还能重来;只有把「谁说的、依据什么、什么时候发布」变成平台必须展示的字段,识别的成本才会下降。关键词库与典型案例库解决的是发现效率,权威内容池解决的是替代供给,两者缺一,谣言被删掉之后留下的空白仍会被新的伪科普填上。

三条治理措施,两条与信源有关

第一条是加大违规账号与机构查处力度,要求强化医疗科普账号身份资质核验认证、清晰展示资质信息,不得以账号简介模糊暗示,严格标注医疗科普信息来源。第二条是加强重点环节管理,严禁在榜单与推荐位推送谣言,建立关键词库与案例库,扩大权威内容池,及时标记辟谣标签。第三条是提升平台对 AI 生成合成内容的识别与处置能力。

措施具体要求对内容方的影响可核验产物
主体资质核验清晰展示资质信息,禁止简介模糊暗示机构号需备齐资质与执业信息资质页与账号认证信息
来源标注严格标注医疗科普信息来源内容需挂可追溯的出处来源字段与原文链接
重点环节管理榜单与推荐位不得推送谣言,标记辟谣标签流量分配向权威内容倾斜辟谣标签与内容池收录
AI 合成识别换脸换声与虚拟人检测、深度合成鉴伪AI 生成素材需可溯源素材元数据与生成记录

这张表第二行与第四行是一组对照。来源标注要求内容说清依据,AI 合成识别要求素材说清来源,两者指向同一个能力:任何一段被传播的内容,都要能回答「它从哪里来」。对品牌而言,这不只是合规问题,也直接影响内容能否被 AI 搜索采信——模型的回答依赖可检索、可归属的页面,缺少来源的内容在检索环节就先输了一步。

品牌语料被污染的路径

同质化文案与伪造通报

公开披露的 AI 相关情形里,有两种最容易被品牌无意卷入。一种是批量生成同质化内容制造热点,短期把某个说法推上榜单;另一种是伪造权威通报与官方健康提示,借机构的公信力完成背书。前者污染的是语料密度,后者污染的是语料可信度,两者都会让模型在回答相关问题时采信错误版本。

品牌被卷入的方式通常是间接的:投放素材里出现了未经核实的功效表述,被转载稿反复引用;或者合作内容里引用了伪造的数据图,几年后仍留在可检索范围。这类痕迹清理起来很慢,因为它们已经进入第三方页面,而品牌能直接改的只有自己的站点。可做的预防动作是把功效表述与数据引用纳入发布前的核验清单,与法务审核同一道关。

把「谁说的」做成字段

权威内容池是长期资产

治理措施里提到扩大权威科普内容池,这句话对品牌的含义是:能被收录进池子的内容,会在后续的检索与推荐里获得更稳定的位置。进入的条件并不复杂——主体身份可核验、来源可追溯、发布时间明确、数据有出处。四项都具备的内容,既能通过平台的合规要求,也更容易被 AI 回答引用。

反过来,缺少这四项的内容即使短期获得了流量,也很难沉淀。对做长期信源建设的团队,判断标准可以简化成一句:这段内容如果被别的模型引用,读者能不能顺着链接找到发布主体、发布时间与原始依据。能,就值得投入;不能,就只是一次性的曝光。

常见问题

  • 问:这次专项行动持续多久、重点整治什么?

    答:为期两个月,重点整治四类问题:编造民生健康谣言、冒用专业身份传播伪科学、滥用 AI 生成健康科普谣言、虚构康复案例夸大疗效。

  • 问:平台被要求做哪些具体动作?

    答:强化账号资质核验、严格标注医疗科普信息来源、建立关键词库与典型案例库、扩大权威科普内容池、提升 AI 合成内容识别与处置能力。

  • 问:品牌为什么要注意 AI 生成内容的合规?

    答:投放素材中的功效表述与数据引用若被转载反复引用,会长期留在可检索范围,进而影响模型对品牌的描述,清理成本很高。

  • 问:什么样的内容更容易被权威内容池收录?

    答:主体身份可核验、来源可追溯、发布时间明确、数据有出处,四项齐备的内容既满足合规要求,也更容易被 AI 回答引用。

数据来源