ChatGPT 到 AGI:生成式 AI 的媒介特质与伴生风险 （九） 。 ·数据泄露风险。大模型需要海量数据，数据在清洗、 处理、传输过程存在数据非法获取或泄露风险，包括个人隐 私数据、商业敏感数据、政府机密数据等各种类型数据。如 果大模型在训练数据时看到很多密钥信息，它很可能在内容 生成时输出真实的密钥信息。2024 年 1 月，意大利隐私监管 机构 Garante 发布调查结论，ChatGPT 攻击、提示注入、指令攻击等多种恶意攻击。大模型训练依 赖于大规模数据集，来源包含网页获取、众包标注和开源数 据甚至国家敏感数据，而数据中可能被注入恶意程序和错误 信息。模型窃取攻击能够获取模型结构和关键参数，操纵机 器学习模型甚至实施更危险的“白盒攻击”。数据重构攻击 能恢复模型的训练数据，包括敏感数据。指令攻击利用模型 对词语的高度敏感性，诱导其产生违规或偏见内容，违反原 安全设定。提示注入攻击通过使用恶意指令作为输入提示的 种：直接提示注入是指直接向模型输入恶意指令，引发意外 或有害的行为；间接提示注入是将恶意指令注入到可能被模 型检索或训练的文档中，从而间接地控制或引导模型。注入 攻击是大模型与外部数据、API 或其他敏感系统的交互往往 面临投毒攻击，被注入错误参数、恶意代码和恶意命令等。大模型一旦被恶意攻击，其关联业务面临整体失效风险，威 胁以其为基础构建的应用生态，尤其是在政治、军事、金融、 医疗等关键领域，恶意攻击会带来严重的后果。2024

险防控能 力。 认知升维：从“被动灭火”到“主动控温”的思维转变。 党的二十大报告指出，推动公共安全治理模式向事前预防转 型。面对舆情风险，有的基层单位往往后知后觉，缺乏对网 络舆情影响的敏感性和重要性的认识，从而错过最佳应对时 机。从“被动灭火”到“主动控温”的转变，注重在舆情风 险发生前进行预防和控制，避免事态扩大。这需要基层干部 摒弃“重危机处置、轻风险预防”的错误观念，将舆情风险 学框架、量化指标的系统化治理跃迁。通过借助现代技术来 构建起一套涵盖风险识别、评估、处置的全流程标准框架， 推动敏感词监测、热点溯源、处置进度可视化。一是风险识 别标准化。结合基层实际，构建舆情风险的“立体式预警指 标体系”。在社会情绪方面，通过关注相关网络平台，及时 获取敏感词、点击量、转发量、跟评量等监测指标，一旦发 现异常，第一时间启动舆情预警机制，将舆情应对端口前移；在利益冲突方

“以舆扰法”的手段和方法多种多样，这些手段往往旨在影响公众对某一具体 社会事件或司法案件的看法，从而间接或直接影响社会舆论乃至司法判决。以下 是一些常见的手段和方法： 干扰手段和方法： 制造话题：通过社交媒体平台发布与案件相关的敏感或争议性话题，引起公 众讨论。 舆论引导：利用网络水军或机器人账号发布大量支持或反对某一立场的信息，试图塑造公众意见。 虚假信息传播：发布未经证实的消息或假新闻，误导公众判断。 情绪化宣传： 重大社会事件的舆情引爆点：在重大社会事件发生时，公众情绪往往处于高 度敏感与激动状态，此时任何微小的信息偏差或误导都可能成为舆情爆发的导火 索。因此，在重大社会事件的发展过程中，必须高度警惕并妥善应对可能出现的 重特大舆情危机。 全球化背景下的国际舆论交织：在全球化日益深入的今天，国际舆论对国内 法律案件的影响日益显著。特别是在涉及跨国企业、国际争端等敏感领域时，国 际舆论的介入往往使案件更加复杂多变，对司法公正与舆论引导提出了新的挑

非全是空穴来风，一些偶然的网络事件之所以能够成为社会热点，是因为它们集 中代表或反映了某些社会情绪或社会心理，比如官员贪腐问题之所以能演化出网 络次生舆情，背后正反映了公众对官员贪腐问题的不满。 敏感性与话题性。在舆情指向的主体、议题与具体内容方面，次生舆情都可 能是对原生事件舆情新的补充或发展，甚至比原生舆情更具话题性。比如，次生 舆情多指向容易刺激社会神经的公权部门、官员、明星、名人 和

会立即受到质疑。游泳向来是我国优势项目，奥运前夕就频发 多起涉我兴奋剂风波，此次奥运需警惕美西方国家借机挑事炒 作，以兴奋剂为由干扰我奥运成绩，影响我运动员发挥。 2. 正值敏感时间节点，需警惕奥运期间意识形态风险波及 我国。进入 7 月，新疆议题下多个敏感节点先后出现，境外反 华势力可能会借机持续炒作我国历史问题、民族政策、意识形 态、人权等问题。就奥运会而言，此类情况并非没有先例。早 在北京奥运会，就有“藏独”分子在圣火传递时干扰破坏，并

人定律表明，每一个人身后，约有 150 名亲朋好友。 如果赢得了一个人的好感，就意味着赢得了 150 个人的好感； 反之，如果得罪了一个人，也就意味着得罪了 150 个人。营 销专家对这个情况最为敏感。美国宾夕法尼亚州立大学商学 院曾发布一个调查报告，题目是《Twitter 作为一种电子流言 的力量》，调查者搜集了数以万计包含商品品牌的微博评论， 其中超过 50%是负面的，33%是批评性的。报告提醒商家，1

................8 1. 全球化舆论联动加剧，境内外信息互动频繁 ............................................. 8 2. 青年发展成敏感议题，关注“价值虚无”情况的泛滥 ................................9 3. 需警惕舆论对立性、煽动性、极端化趋势加剧 ....................... 勒斯坦国旗，引发 境内外舆论关注。除此之外，在这个“大选年”全球多国政权交替，印 度、美国等选举进程，以及候选人、新执政党的对华政策成为讨论焦点， 相关话题也频频登上热搜。 2. 青年发展成敏感议题，关注“价值虚无”情况的泛滥 一是就业环境与职场心态变化不匹配，劳动者权益保护呼声泛起。 从网传宁德时代 896，到网红王妈翻车，再到百度公关副总裁争议，都 体现了企业管理者与普通员工之间，职场心态的撕裂。在普遍追求生活

养维度，顺应五育并举教育方针，整合品德行为、艺术素养、劳14 动参与情况与身心健康状态等非认知因素，打造“立体化”学情分 析体系，实现对学生发展全貌的全息化描绘；其二，在学情数据 上，加强数据安全与伦理规范，保障学生个体敏感信息的安全； 打通不同系统间的数据壁垒，实现数据互联互通与综合分析；优 化算法设计，提高算法可解释性，增强师生对分析结果的理解与 信任。综上，未来学情分析应紧密结合新课标，从“知识本位”向 一，构建教育测量与人工智能技术协同研发机制，联合教育学专 家优化评价模型权重设计，去努力破解算法教育公平性争议；其 二，建立家校社数据共享激励机制，通过区块链等技术保障综合 素质评价数据的真实性，并通过隐私计算技术实现敏感数据可用 不可见，突破数据孤岛瓶颈；其三，开发教师端智能分析助手， 将评价报告自动转化为教学干预策略，形成“评价-反馈-改进”的 教育闭环。综上，未来综合素质评价可从教育测量与技术协同研 发 机构在 设备部署与后期维护方面的资源压力，提升方案的可推广性与稳 定性；其二，在数据安全与隐私保护上，建立基于联邦学习的隐 私计算机制与分级授权策略，统一生物特征数据的加密标准，缓 解多模态敏感信息在采集、传输、应用过程中的安全与伦理风险。 综上，未来智能体育训练可从硬件架构优化与数据安全保障等方 面协同推进，持续提升其在基础教育中的应用效果与可持续性。 (4) 智能劳动教育 智能

政府在舆情治理领域的责权，提高了治理效能和治理能力。 在失真舆情的萌发阶段，舆情呈现出分散、零星、密集发生的特征，言论的影响力较小，不能对网络秩序 造成直接影响。但这些失真舆情和虚假信息并非无迹可寻，往往伴生于热点事件和敏感议题。在萌发阶段，政府 不宜承担直接干预的角色，应将常态化巡查的职责交由平台行使。政府在舆情萌发阶段坚持“政府管平台，平台 管用户”的治理策略，加强对平台的监督。政府应当充分发挥行政指导的作用，要求平台制定完善公平的公约和

AI选题 收稿 翻译 三审 申领书号 装帧设计 排版校对 质量检测 征订 出片下厂 入库发货 销售服务 AI辅助 传统模式 ◆自动检测语法错误 ◆内容一致性检查 ◆版权和引用验证 ◆敏感内容过滤 三审三校大模型 ◆AI文字出版物内容创作 ◆AI 图片出版物内容创作 ◆AI 音像出版物内容创作 ◆AI工具实操培训 AI生成内容服务 ◆虚拟作者 ◆互动阅读体验 ◆品牌形象代言 动态进化：随着个人数据的不断更新和累积，具备自我 学习和调整的能力，实现对用户变化的动态适应。 ] 智能融合：将专属的个人模型和通用大模型进行智能融 合，以发挥两者的优势，实现更优的性能。 ] 隐私计算：针对敏感的个人数据，采用隐私计算等先进 技术，确保数据的安全和隐私。 ] 全景理解：通过跨越社交、通讯、浏览、电商、搜索等 多个领域的数据分析，实现对用户全方位、全景式的理 解。AI与AR：轻量突破