年内数据增长速度将无法支持大模型的扩 展，大模型将在 2028 年耗尽互联网上所有文本数据。按照 当前趋势发展，文本数据耗尽的中位年份是 2028 年，最大 可能性是 2032 年。整个互联网的文本数据总量约 3100T，但 大部分数据分布在 Facebook、Instagram、WhatsApp 等社交 媒体。由于抓取这些数据复杂且昂贵，且涉及个人隐私，几 乎无法用于大模型训练。如何克服人类文本数据的瓶颈。第 乎无法用于大模型训练。如何克服人类文本数据的瓶颈。第 一种是利用 AI 生成数据，如 OpenAI 模型每天能够生成相当 于 Common Crawl 中优质单词总数的 36.5T 个单词，远快于 人类生成文本的速度。第二种是利用多模态和迁移学习，超 越文本数据从其他领域获取数据，比如视频、图像、金融市 场数据或科学数据库。[1 从 ChatGPT 到 AGI:生成式 AI 的媒介特质与伴生风险 （五） ] 不过 生成的，而用合成数据训练的大模型会发生什么？ 大模型开发需要更多数据进行训练，而由 AI 生成的合成数 据很快进入了训练新模型的数据集，并随着每一代模型而不 断积累。越来越多证据显示，人工智能生成的文本，即使被 引入训练数据集的量很少，最终也会对训练中的模型产生 “毒害”。[2]研究人员将一些由 AI 生成的语料作为训练数 据，“投喂”给一个正在训练的语言模型，然后使用它所输 出的结

社 会安全风险 从 ChatGPT 到 AGI:生成式 AI 的媒介特质与伴生风险 （九） 。 ·数据泄露风险。大模型需要海量数据，数据在清洗、 处理、传输过程存在数据非法获取或泄露风险，包括个人隐 私数据、商业敏感数据、政府机密数据等各种类型数据。如 果大模型在训练数据时看到很多密钥信息，它很可能在内容 生成时输出真实的密钥信息。2024 年 1 月，意大利隐私监管 机构 Garante 就会如实报出一 堆序列号，并且大多数是真实有效的。人们通过提示词给 AI 讲故事，通常是经过一些巧妙的包装，里面掺杂了有争议 的内容（就像开头提到的制造炸弹那个例子）。故事讲到一 半，剩下的交给 AI 模型，后者由于拥有强大的文本生成的 能力，会忠实地把缺失的部分回答完整。攻击者通过 LLM 输出其在训练数据中所存在的不符合伦理道德的数据，产生 存在社会偏见的回答，如性别、种族或其他偏见，导致不公 ·系统安全风险。大模型系统较为脆弱，面临数据投毒攻击、对抗样本攻击、模型窃取攻击、数据重构攻击、后门 攻击、提示注入、指令攻击等多种恶意攻击。大模型训练依 赖于大规模数据集，来源包含网页获取、众包标注和开源数 据甚至国家敏感数据，而数据中可能被注入恶意程序和错误 信息。模型窃取攻击能够获取模型结构和关键参数，操纵机 器学习模型甚至实施更危险的“白盒攻击”。数据重构攻击 能恢复模型的训练数据，包括敏感数据。指令攻击利用模型

两个产业团队。 团队已有众多大模型产业化和AIGC实施案例，有需要可留言联系。 团队坚持：整体主义的跨学科整合力，实证主义的实践导向，社会 建构的产学研结合，进步主义的先锋探索精神，科学服务于大众的社会 责任。 邮箱：124739259@qq.com；微博：@新媒沈阳 元宇宙 大模型产业化 大数据 新媒体与网络舆论 AI诊疗 AI文艺 六 大 研 究 方 向 @新媒沈阳元宇宙/虚拟数字人/大数据/AI 数字藏品发展研究报告1.0 元宇宙发展研究报告1.0版 元宇宙系列 元宇宙发展研究报告4.0 新媒体发展研究报告9.0 AIGC发展研究报告2.0 AIGC发展研究报告1.0 人形机器人发展研究 大语言模型综合性能评估报告一 AI 哲学哲思问道：思辨革新 微调经典 主题 经典哲学理论 AI引发变化 怀 疑 论 笛卡尔“我思故我在” AI思考所带来的怀疑论危机：OpenAI o1的推理能力是否 Ø心理与情感体验 Ø教育与训练 AI再创 AI拟真 AI异感 Ø 探索与实验 Ø 社会与文化批判 Ø 未来预演快思慢想：效能兼顾 全局视野 概率预测（快速反应模型，如ChatGPT 4o） 链式推理(慢速思考模型，如OpenAI o1) 性能表现 响应速度快，算力成本低 慢速思考，算力成本高 运算原理 基于概率预测，通过大量数据训练来快速预测可能 的答案 基于链式思维（Chain-of-Thought），逐步推理

物与物之间的通信，实现万物互联，推动社会发展。 无处不在的智能。大模型的通用性使其成为人工智能的关键基础 设施，就像 PC 时代的操作系统一样，赋能百行百业，加速推进经 济高质量发展。苹果、谷歌等的创新技术应用侧重的是聚合信息 和分发信息，背后是信息获取成本从边际移向固定成本，使信息 变得无处不在，让世界因此变得扁平。大模型跟信息一样，模型 成本从边际成本发展为固定成本，进而使大模型变得无处不在。 未来的 AI 就 就像今天的互联网一样，像今天的水和电一样。原微软 全球执行副总裁陆奇认为，未来大模型将无处不在，通用智能将 成为发展趋势。英伟达高级科学家 Jim Fan 表示，我们相信在未 来，每一台移动的机器都将是自主的，机器人和模拟智能体将像 iPhone 一样无处不在。我们正在构建基础智能体：一个具有通用 能力的 AI，可以在许多虚拟和现实的世界中学习如何熟练地行动。

AGI:生成式 AI 的媒介特质与伴生风险 （一） 人工智能领域近年来正在迎来一场由生成式人工智能 大模型引领的爆发式发展。全球掀起一场大模型热潮， Gemini、Copilot、LLaMA、SAM、SORA 等国外大模型如雨 后春笋般涌现，中国也掀起百模大战，2022 年被誉为大模型 元年。人工智能正逐渐深入地赋能千行百业，推动人工智能 与数据要素成为新质生产力的典型代表。[1]从 GPT-4o 作为一种新生媒介，ChatGPT、AGI 与传统媒介的最大区别 是利用算法生成和传播内容。这种内容生成方式被称作 AIGC（人工智能生产内容），即由人工智能作为内容创作主 体，利用深度学习算法与场景决策模型等技术生成内容，是 继用户自己生产内容（UGC，如个人自媒体）、专业人员生 产内容（PGC，如报纸杂志）后一种自动化生成内容的新方 式。可以说，ChatGPT 代表的以数据和算法驱动的智能传播， 生成的数据将占到整个互联网的 10%，到 2030 年，新闻行业九成以上新闻稿件将由 AI 辅助完成。 2.两元传播主体：生成式 AI 是一种人机互构的交互传 播。ChatGPT 是一种对话式人工智能模型，它是人类的认知 （创意思维、情感理解和复杂问题的抽象性推理）能力与机 器的计算（大规模数据处理、高速和准确）能力的结合，是 一种信息从人到机器，再从机器到人的交互过程。这个过程 决定了人与

国建设规划纲要（2024—2035 年）》，明确要求以教育数字化 开辟发展新赛道、塑造发展新优势，强调促进人工智能助力教育 变革。教育部 2024 年启动人工智能赋能教育行动，实施教育系 统人工智能大模型应用示范行动，推动大模型从课堂走向应用， 给教育创新发展注入了强大的动力。北京、上海、深圳等地相继 印发区域特色教育领域人工智能应用工作方案，以人工智能深度 应用推动教育教学创新，营造教育领域人工智能应用生态。 评、以智 助育、以智助研、以智助管等典型场景，分别对应教学支持、个 性学习、智能评价、综合育人、教研赋能与教育管理等核心任务， 为进一步探讨具体应用场景提供了清晰框架与逻辑支撑。围绕上 述六大场景，人工智能在基础教育中的实践路径日益清晰，各场 景模块在功能定位与应用方式上呈现出各自特点。 以“智”助教利用人工智能技术为教师教学提供全流程支持, 助力教学创新与提质增效。围绕教学实践环节，该场景的服务范 教师的备课需求、教学目标、教学场景和学生学情等信息，通过 智能技术为其精准匹配合适的教育资源（如教学视频、课程课件、 习题、教学图片、教材教法的论文、课例等）。其核心技术是利 用协同过滤、深度神经网络、强化学习和大模型等算法，首先对 教师备课的显性需求与隐性行为进行多维建模以形成教师备课 需求特征，并解析教育资源属性（如知识点、解题技巧、难度标 签）构建资源内容特征；然后，基于教师需求特征，设计与资源 内

够无师自通地学会欺骗手段，自行做出不诚实的行为。在一 些与人类选手的对抗游戏中，它们为了赢得游戏，会在关键 时刻佯动欺骗，甚至制定周密阴谋，以化被动为主动，获得 竞争优势。在一些检测 AI 模型是否获得了恶意能力的安全 测试中，有的 AI 竟能识破测试环境，故意在测试环境中“放 水”，减少被发现的概率，等到了应用环境中才会暴露本性。 如果 AI 的这种欺骗能力未经约束地持续壮大，同时人类不 质疑它为何背叛时，它回复称，“老实说，我认为你会背叛 我”。Meta 研究人员努力训练 Cicero 要诚实行事。然而，Cicero 仍显示明确的不守承诺的行为，这暴露 AI 训练诚实面临巨 大挑战。因为，AI 系统在追求胜利目标时，如果发现欺骗是 可行且高效的策略，它为什么不这么做呢?这说明，人类不 能天真地认为赋予 AI 目标，就能确保它拥有人性化模式。 除了 Cicero，该论文还列举了其他几个 曲事实等欺骗伎俩，都被 AI 模型习得。在狼人杀、AmongUs 等社交推理游戏中，AI 系统无论是当杀手，还是当村民，都 能熟练编造理由试图佐证自身清白，还会使用冒名顶替、移 花接木、虚构不在场证明等方式撒谎。当然，上述行为的动 机并不存在恶意或预谋。但是，如果欺骗能力未有约束而持 续壮大，最终 AI 可能会把欺骗当成实现目标的通用策略。 有研究发现，一些大模型不仅懂得在特定场景撒下弥天大谎，

月，Gartner 发布法律和合规领导者必须评估的 ChatGPT 风险报告并指 出，ChatGPT 和其他大型语言模型（LLM）工具生成的输出 容易受到多种风险的影响。[1]生成式 AI 存在三大安全隐患， 一是源于技术缺陷，二是源于数据缺陷，三是源于用户滥用。 这三个问题的根源在于大模型的固有脆弱性，如生成偏见、 歪曲事实和泄露数据等。技术本是中立的，没有善恶之分， 就看是谁为了什么目的来使用。这就使得技术也具有偏向性

我国卫星导航产业萌芽于 20 世纪 70 年代，是通过学习、 引进、消化、吸收再创造的方式逐步发展起来的。1994 年， “北斗一号”项目正式立项，由此拉开了以北斗产业为核心57 的中国卫星导航产业发展的大幕。随着卫星导航技术应用领 域的不断拓展及北斗卫星导航定位系统的建设，我国在卫星 导航定位技术、导航信号处理技术、卫星导航定位芯片技术、 接收机集成制造等方面核心技术上取得了重大突破，积累了 丰富的应用经验。 功发射首型返回式对地观测卫星，1999 年“中巴地球资源卫 星”01 星成功发射，实现返回式至传输型卫星跨越。随后风 云系列卫星陆续发射，我国气象卫星技术迈入世界先进行列。 同时海洋、遥感、高分、资源等多系列卫星大跨步建设，我 国空间基础设施框架基本建成。2016 年以后卫星遥感产业总 体呈现体系化建设加速、多要素协同观测、多手段融合应用 的发展特征。 二、产业发展现状 (1)卫星通信产业 高通量卫 重点开展基于 5G、卫星导航定位等信息技术在体育、旅游等 领域的示范应用研究。 (3)粤港澳城市群 广东省出台《广东省数字交通“十四五”发展规划》等 政策文件，提出支持卫星通信、卫星导航、卫星遥感三大领 域融合发展，统筹建设陆海一体、三维高精、北斗为主兼容 其他系统的新型卫星导航定位服务“一张网”。 (4)成都双城经济圈 成都出台《成都市促进卫星互联网与卫星应用产业发展 专项政策》等政策文件，创新提出“蓉城星海”计划，力争

够直观有效地体现出该领域研究热点间的关联与交互。图 2 中不同大小的圆状模型表示此类关键词在样本中的出现 程度，圆圈越大，出现频率越高说明该关键词的研究在研 究年份内总体热度越高。圆状模型的颜色表示文献样本中 此类文章发表时间距 2024 年的久远程度，冷色模型说明文 献发表时间离 2024 年时间较远，暖色模型说明离 2024 年 时间较近。图 2 中最大的模型节点是“网络舆情”和“突 发事件”，随后是“应急管理”“舆情治理”“舆情传播” 段入手 研究相关问题，利用 MATALB 数值进行实证仿真研究。 李彤、宋之杰对突发事件在微博平台上的讨论和传播 过程进行情感分类与网络舆情发展趋势预测，建立了基于 微博平台的情感分析与预测模型，对舆情进行情感分类与 发展趋势预测。程铁军、王曼、黄宝凤等在数据分解的研 究思路下构建基于 CEEMDAN-BP 的舆情预测方法进行实 证研究，探讨了网络舆情演化的影响因素。焦威、夏一雪 特点构建分析和预测模型，利用仿真实验和实证研究探寻 突发事件网络舆情的发展演变趋势。采用案例分析法的研 究中往往针对个别案例，由于各案例间存在一定的差异， 因此所得出的结论具有一定的局限性，不能够完全应用到 所有突发事件网络舆情中。 （二）突发事件网络舆情的引导和治理 在突发事件网络舆情的引导和治理方面，定性和定量 的方法都较为常见。 张一文、齐佳音等利用系统动力学构建系统模型仿真 模拟