“瑞安某中学5名学生怀孕”“张家界大峡谷玻璃桥坍塌”……5月25日，公安部网安局公布五起打击整治网络谣言典型案例，其中多起系通过AI工具生成虚假文案和视频。近年来，AI技术在文本生成、图片和视频创作等方面的应用越加广泛，但也为网络谣言的滋生和传播提供了便利。如何更高效精准地识别、处置谣言，成为平台治理的焦点。
近日，抖音宣布将AI大模型技术应用于谣言治理和辟谣运营工作一年以来，谣言被处置时的平均浏览量下降62%，谣言内容从发布到被处置的窗口期显著缩短。同时，抖音还发布“十大辟谣案例”，覆盖社会事件、健康养生、公共安全等谣言高发领域。
南都记者了解到，抖音在网络谣言治理上取得成效，得益于“以AI治AI”的思路，借助大模型能力提升，摆脱从前“事后被动辟谣”模式，构建起主动识别查验、自动化处置等全链路治理机制。抖音还推出了“AI求真”功能，在内容搜索、视频播放页面为用户提供事件真实信息，旨在激发其求真意识，形成谣言社会共治体系。
“AI求真”功能建立识谣辟谣的认知防线
“截至2024年末，80后死亡率突破5.2%，相当于每20个80后中就有1人已经去世。”“80后的死亡率已经超过70后。”2025年2月，一组“80后死亡率”相关数据在互联网疯传，引发了不少网友的担忧、焦虑甚至恐惧情绪。在被官方部门证实为谣言后，多名造谣者受到行政处罚、接受批评教育。
南都记者注意到，在AI技术迅速发展和信息高速流转的当下，网络谣言的生成和传播呈现低门槛、高逼真、批量化等特征。以上述事件为例，尽管官方部门介入及时迅速“打假”，但经过个人、自媒体账号大量引用转载、抓取发布，这样的谣言仍产生较广泛的负面影响，严重污染网络信息生态。
面对这一现状，加强网络空间治理成为当务之急。要保障公众科学认知，维护社会秩序和社会信任，需以真实的力量“打压”虚伪，而平台作为内容发布和传播的重要关卡，为公众提供真实准确的信息意义重大——抖音去年推出的“AI求真”功能便是如此。在用户搜索、浏览相关内容时，该平台通过卡片、条幅链接等形式呈现真伪鉴定结果及核心事实信息。
为体验这项功能，南都记者在实测中选取了一些可能存在误导或争议的话题进行搜索，发现相关视频下方会浮现“AI求真”提示条，点击后即可前往“求真卡”获知事件溯源、权威媒体报道、当事方回应等信息。
比如，在浏览与“湖北多地芽麦抢收”相关内容时，抖音相关视频内容下方会出现关联话题“AI求真·‘湖北多地抢收芽麦’核查”提示条，点击后即进入AI综合全网权威信息生成的回答页面，且多以文字+视频复合形式呈现。在“女子将1000万存进银行”相关视频下，也出现了“AI求真·‘女子千万存款消失’核查”提示条。
搜索页面则更加直观地向用户提供真实信息。例如，在抖音上搜索“双黄蛋是激素蛋”词条，结果页会出现“关于‘大量激素蛋涌入市场，长期食用致癌’的事实核查”相关内容，“求真卡”上显著标明鉴定结果为“谣言”。值得注意的是，“求真卡”每一段内容的尾部，还会附注参考信息链接，其大多为官方机构、权威媒体的报道，点击可进一步查看。
在另一条“广东开放大学免考试缴费包过”搜索页面，“求真卡”尾注标明引用了“光明网”“环球网”等媒体报道，结果页信息系AI技术综合而成。
从上述功能设置可以看出，除了把虚假信息“排”出去，“引”进真实内容是平台更深层的目标。抖音通过增加链接入口、显著提示等方式帮助用户更便捷地获取事实、提升辨别能力，意在与公众共筑“认知防线”，降低谣言影响力。
23秒完成一则谣言的识别查证
AI时代下，网络谣言的新特征决定了以往响应滞后、覆盖有限的“人工审核+事后辟谣”被动模式已难以应对治理挑战。一方面，该模式下谣言从产生到被拦截之间存在较长的传播期，一些谣言内容已经造成了负面影响；另一方面，受早期模型精度限制，平台机审存在误判可能。
为了更主动、更快速应对上述挑战，2025年，抖音上线AI求真大模型，它像一个24小时巡逻的“网络治安官”，在谣言传播的萌芽阶段就能主动完成筛选识别，通过大模型搜索权威信源查证，并在复杂判断中引入人工复核，实现对虚假信息的早发现、早处理。在这一技术的助力下，2025年全年，抖音谣言内容曝光量下降90%。
该机制下，一条谣言具体是如何被发现的？以“女子向丈夫索要5元买早餐遭拒后轻生”为例，AI求真大模型首先提炼视频内容，包括“女子向丈夫索要5元”“女子想买早餐遭拒”“女子轻生”几大核心信息，识别出“公共性风险”信号后进入查证环节。
在RAG（Retrieval-Augmented Generation，检索增强生成技术）的加持下，AI求真大模型启动多轮搜索，挖掘权威信源——山东省互联网联合辟谣平台官方信息明确指出，经向省内各地和有关部门核实，该网传信息不实。大模型随即给出此内容为谣言的研判结果，总耗时23秒。随后，系统可对该谣言内容完成自动处置，并录入平台谣言库，实现新增内容实时拦截。
南都记者还在实测中发现，当前网络空间泥沙俱下，尤其社会热点的事实真空期长、存在反转，即便是所谓“权威信源”，也可能出现不同主体或不同时段报道结论不一致的情况，如何辨别？
为此，2026年，抖音AI求真大模型上线了DeepResearch和交叉验证等能力，一项具体功能是“权威信源分级”，在系统内部给所有信息来源划分“可信度等级”。比如，中央新闻单位、中央和国家机关等政务发布平台为最高优先级，而一些自媒体、论坛帖子的可信度较低。
过去，一个谣言点常延伸出同质化文案和高度相似的变体，占用大量审核人力和资源。以“峨眉山猴子攻击游客、被射杀”谣言为例，同一段核心内容被改编为“九寨沟猴子”“张家界猴子”“猥亵女游客”等多个版本传播。造谣者往往以AI生成视频或将无关图文“移花接木”讲故事，煽动情绪、收割流量。
这种“穿马甲”反复出现的同质谣言也能被AI求真大模型精准捕捉。如今，大模型的语义理解能力能够匹配出相似的谣言案例，由机器直接复用判定结果、自动处置，进一步实现从“人找谣言”到“模型主动出击”。
建立网络谣言社会共治体系
对内容平台而言，谣言治理的关键在于能够将治理节点提前，最大限度降低其影响力，这要求抖音从海量新增内容中精准筛选出“未知谣言”。
筛查潜在谣言的过程，既怕“挂一漏万”，也怕“宁枉勿纵”。南都记者了解到，从方向上看，具有公共价值、近期发生的具有误导性、且可以被证实的资讯内容往往成为重点关注范畴。为了降低误判率，抖音还在AI研判之前设置了两道过滤关卡，谣言领域大模型与谣言风险过滤模块。前者面向全平台从题材和体裁风险角度筛选容易产生谣言的内容，后者更多从公共性风险上进一步做判断。
值得一提的是，以往机器研判缺乏人的情感与情境理解能力，比如面对“没有一只鸭子能活着走出南京城”的说法，机器可能一板一眼地查资料认定此为“谣言”——因为南京有活着的鸭子。“谣言领域大模型”训练素材来源于抖音多年积累的人工研判经验，为模型注入“人文思想”，这类问题得到明显改善。
在处置环节，抖音方面介绍，针对事实清晰、依据明确的谣言，AI求真大模型会自动化处置并将其录入谣言库，往后搜索这一事件即能获知权威辟谣内容。对于疑似谣言内容，将采取降低推荐权重、挂载风险提示等方式进行管控。涉及公共安全、自然灾害、金融市场等高风险领域内容，则将启动人工协同复核。
在AI广泛赋能内容生产的当下，谣言也借助这一技术便利频繁滋生。抖音采用“以AI治AI”的思路，开辟了从“被动拦截”到“主动防控”的治理新路径。随着谣言治理技术“防火墙”越修越高，也应认识到，谣言从生成到传播，往往寄附于复杂的社会土壤之上，具有长期性、多变性，仅依靠平台的技术能力提升，难以达到建设清朗网络空间的目标。
建立社会共治体系，是谣言治理难题的真正解法，平台、新闻媒体、官方机构、广大网友都应参与其中。平台谣言识别和判断机制的运转基础在于全网提供的权威信息，因此新闻当事人、官方机构与新闻媒体的多方核实与及时澄清至关重要，这些主体提升信息发布时效性与精准性，能从源头减少谣言滋生空间。
随着AI打破“有图有真相”的固有观念，要在纷繁复杂的网络空间中寻找“真相”，对公众认知水平、网络素养亦提出了更高要求。网友应拒绝偏听盲信，勤于思考求证，不传播存疑的网络信息，共同维护网络空间秩序。
采写：南都N视频记者 樊文扬
华泰优配提示：文章来自网络，不代表本站观点。
