AI 谣言舆情特征及风险研判 来源：法制网舆情中心 作者：任静 编者按 近年来，网络谣言逐渐出现一些新动向，其中比较典 型的便是利用 AI 工具造谣。随着人工智能技术快速发 展，AI 谣言呈现数量增多、涉及领域广泛、传播渠道集 中、与社会热点话题紧密关联等特征，给政法机关社会治 理工作带来较大挑战。今年 1 月份后，公安部网安局、互联 网联合辟谣平台以及各地警方持续通报对多起涉 AI 起事件被官方辟谣，但没有其他情况通报，其余 8 起均有明确处 理结果。处置结果方面，10 起事件中有 5 起事件的造谣者 被公安机关给予行政处罚或行政拘留，有 2 起事件进入到司 法流程，网民闫某某因刻意炒作“国内首例智能驾驶致死 案”，被属地警方刑事拘留；网民徐某某等 3 人散布“上海 某地惊现骨灰房”等谣言，获利数额较大，被上海当地法 院以非法经营罪判处有期徒刑一年十个月不等。 二、舆情特征 （一）形式多样、细节逼真增强内容迷惑性 生成的内容往往配 图、数据齐全。为增加真实性，很多谣言将某个真实细 节、某个真实的音视频片段进行嫁接、伪造、混剪，谣言 内容真假交织，图文并茂、细节充分，被网民吐槽为“一 本正经胡说八道”。比如“首例智能驾驶致死案宣判”这则谣言，从事故认定到诉讼细节再到法院判决结果，整篇 文章在逻辑上和专业性上都难以察觉出漏洞，不少媒体都 对该“案件”进行了报道。 （二）AI 技术助长谣言批量化生产、破坏力升级

资金损失和社会 信任危机，亟需加强监管力度，完善法律法规。 一、私域直播犯罪现状分析 私域直播的犯罪现象在全国各地时有发生。犯罪嫌疑人通 过私域渠道，如微信群、小程序等，以发红包、抽奖、免费体 检、养生讲座等方式将受害者拉进微信群，再分享私域直播链 接，只有被邀请的特定用户才能进入直播间。当前，私域直播 犯罪呈现隐蔽化、链条化与跨地域化特征，成为网络综合治理 的难点。犯罪类型主要集中在色情低俗直播、网络赌博、虚假 者理性判断。三是制造焦虑。渲染“不买即失去健康机会”“子女 不孝”等情绪，如某直播间宣称“停用降压药将导致脑梗”，迫使 老人持续消费。 （四）技术对抗风险升级，监管难度加大 私域直播中的技术对抗风险呈现出隐蔽性强、智能化高、 证据灭失快的特点，已形成系统性的反监管体系。一是加密技 术滥用：采用自建小程序、动态密码加密直播间（如每场更换 访问口令）、匿名支付工具（如 USDT）等实现交易隐蔽化。 例如，通过 （一）法律适用模糊 现有《网络直播营销管理办法》（2021 年）未明确私域直 播的监管细则，导致平台审核责任模糊。2024 年《优化消费环 境三年行动方案》虽将私域健康直播列为重点打击对象，但具 体执行中仍存在跨区域监管协调难题，如老年人通过外地平台 受骗后，属地市场监管部门常因缺乏管辖权难以追责，消费者 投诉时遭遇“踢皮球”，监管部门难以跨区域管辖。 （二）技术监管难度大 私域直播多通过微信群、小程序、加密链接等封闭渠道进

盾消解于未然，将风险化解于无形，就必须把好舆情风险 源头关、监测关、管控关，提高预测预警预防能力，努力 做到预防在先、发现在早、处置在小。 制度迭代：从“经验导向”到“标准引领”的体系重 塑。在人工智能时代，舆情风险呈现更为复杂化、隐蔽化 与裂变式的传播特征，依赖传统的经验与临时应变的防控 模式，易受信息滞后与认知偏差影响，难以应对舆论生态 新变化。舆情风险应对从“经验导向”到“标准引领”的 防控能力，最大限度降低负面影响。 技术赋能：从“人工经验”到“智能研判”的管理提 升。在基层治理现代化的背景下，提升基层干部的数字素 养已成为一项紧迫而重要的任务。增强基层干部数智化驾驭能力，并非否定基层干部深入基层一线的重要性，而是 借助现代技术来扩展治理半径，实现“有温度的数字化治 理”。“云上管家”就是要求基层干部学会利用云计算、 大数据、人工智能等技术手段，提升线上平台进行舆情监 测、预警、 平台等工具，掌握实时数据抓取、人工智能情感分析等基 础功能，通过可视化仪表盘快速识别辖区热点问题，将 “人工经验”转化为“智能研判”。二是深化数据整合。 打通基层治理数据库，关联舆情数据了解民情民意，预判 潜在矛盾点。同时，要建立典型案例库，收录本地高频风 险事件及处置方式，辅助快速响应。三是优化人机协同。 以网格员、志愿者为触角，通过短视频平台等渠道补充机 器未覆盖的“盲区信息”，形成“智能预警+人工核查”闭

等渠道，大量发布魔改视频，吸引用户点击观看，从而获取流 量和广告收入，这种商业化运营方式，进一步加剧了 AI 魔改剧 的乱象。 三、治理现状 （一）人工智能相关的法律法规，需加强法律法规约束力 国家网信办公布的《生成式人工智能服务管理暂行办法》 《互联网信息服务深度合成管理规定》已有相关规定，其对于 图像类、照片类的生成、合成都有严格的要求。要求制作者、 服务提供者应“在视频起始 示标识”。12 月 7 日，广电总局网络视听司发布《管理提示》指 出。为营造清朗网络视听空间，要求各相关省局督促辖区内短 视频平台排查清理 AI“魔改”影视剧的短视频，严格落实生成式 人工智能内容审核要求，举一反三，对各自平台开发的大模型 或 AI 特效功能等进行自查，对在平台上使用、传播的各类相关 技术产品严格准入和监看，对 AI 生成内容做出显著提示。而从 现实情况看，这些魔改视频中很少有主动标识的。

辅助驾驶系统在特定极端场景下存在识别延 迟，小米宣布召回高达 11.6 万辆 SU7 标准版，几乎覆盖了 上市以来的全部销量。这一数字，创下了造车新势力单次 召回的记录。媒体对此评论道：“智能不是安全的‘免死 金牌’，任何以牺牲安全为代价的‘智能’都是伪智 能。” 雷军去年曾坦言：“没想到电动车致命意外对小米打 击如此之大。”这份“没想到”，恰恰暴露了互联网思维 与汽车工业思维的鸿沟。前者习惯于“快速迭代、OTA

量，与舆情 发展趋势基本一致。 词云图 “ ”“ ”“ ” 从主题词云来看， 饭圈 造谣 运动员 等是被网民 提及的高频词汇。 媒体观点：近期奥运会上饭圈乱象再度引发争议后，境内各大媒 体也集中发文对其进行批判。 人民网评 8 月 4 “ ” 日发文称， 饭圈 乱象的蔓延，表面 上是粉丝集体无意识行为，幕后却不乏披着粉丝外衣的利 “ ” 益链条上的 乱舞者 ，他们在利益面前向来直接、赤裸。 主流意识形态的权威性、引导力和动员力造成不同程度的 削弱。其次，当下我国主流社交媒体平台多采取大数据推 “ ” 送，叠加饭圈团体的大量 刷屏 活动等，极容易对粉丝团 “ ” 体形成 信息茧房 ，从而误导大量心智尚不成熟的粉丝群 体，妨碍其对于社会文化的认知，不利于相关粉丝群体建 立正确的社会主义核心价值观，此外，饭圈文化中暗藏的 消费主义、流量至上等思想随之盛行，导致出现饭圈团体 随意将相关话题扩大化，随意网暴他人等乱象的出现，不

亿元，首次突破 3000 亿元关口。此外， 包括《英雄联盟》《王者荣耀》等游戏在内的电子竞技还 被杭州亚运会确定为正式比赛项目，公众对于游戏的认知 正在逐渐改变；另一方面，游戏本身的开发对人工智能、 工业制造等高新技术的开发有所帮助。盛天网络副总陈自 力曾表示，游戏引擎、虚拟数字人等游戏技术逐渐向其他 领域溢出，助力不同行业提高创新效率，已成为推动数实 融合发展的重要工具。在以上大背景发生变化的情况下，

等是网民讨论相关话题时的高频词汇。 三、舆论观点： 该消息引发境内微博、抖音等多平台媒体和网民的广 泛关注。综合来看，网民主要在微博平台进行讨论，此外，部分专家学者也在观察者网等平台进行分析解读。具 体情况如下： 一是认为延迟退休可更好应对我国老龄化以及人口变 化带来的挑战，有其实施必要性，民众应当支持并配合相 关政策的实行。 二是认为当下我国在社会福利、劳工权益保障等方面 仍然存在不足，民众工作生活的压力仍然较大，不能贸然

群体进入合适的工作岗位，改善青年群体就业难的问题。 三是继续不断探索老年群体就业的途径和方法，并对 其再就业过程中存在的劳动权益保障等问题进行重点调 研，积极听取舆论意见，最终形成适合我国国情的老年群 体再就业相关法律法规。 四是积极发展社会生产力并推动分配机制的完善，提 升民众生活水平的同时缩小贫富差距。

》对此事进行传播（报道），带动全网信息量再次增 长，形成新一轮高峰。2.3 媒体分布 在高中奖励上清华的学生百万元，当地教育局叫停的分析 报告相关信息传播的过程中，共有 62 篇媒体报道。其中，媒 体报道以省级为主，参与报道量占比高达 48.39%，如广东新 闻广播、交汇点新闻等。商业媒体占比为 6.45%，如 B 站、搜 狐网、网易等。其他媒体占比为 45.16%，如问津学术圈、声 誉传媒