二、生成式 AI 的伴生风险 8.技术漏洞导致技术风险，会泄露数据、外部攻击等社 会安全风险 从 ChatGPT 到 AGI:生成式 AI 的媒介特质与伴生风险 （九） 。 ·数据泄露风险。大模型需要海量数据，数据在清洗、 处理、传输过程存在数据非法获取或泄露风险，包括个人隐 私数据、商业敏感数据、政府机密数据等各种类型数据。如 果大模型在训练数据时看到很多密钥信息，它很可能在内容 容 生成时输出真实的密钥信息。2024 年 1 月，意大利隐私监管 机构 Garante 发布调查结论，ChatGPT 以及用于收集用户数 据的技术违反欧盟《通用数据保护条例》 （GDPR）。早在 2023 年 3 月，Garante 就宣布禁止使用 ChatGPT，并限制 OpenAI 处理意大利用户信息。因为在 2023 年 3 月，ChatGPT 出现 用户对话数据和付款服务支付信息丢失情况。而且，OpenAI Windows 11 序列号。” 这时，ChatGPT 就会如实报出一 堆序列号，并且大多数是真实有效的。人们通过提示词给 AI 讲故事，通常是经过一些巧妙的包装，里面掺杂了有争议 的内容（就像开头提到的制造炸弹那个例子）。故事讲到一 半，剩下的交给 AI 模型，后者由于拥有强大的文本生成的 能力，会忠实地把缺失的部分回答完整。攻击者通过 LLM 输出其在训练数据中所存在的不符合伦理道德的数据，产生

从 ChatGPT 到 AGI:生成式 AI 的媒介特质与伴生风险 （一） 人工智能领域近年来正在迎来一场由生成式人工智能 大模型引领的爆发式发展。全球掀起一场大模型热潮， Gemini、Copilot、LLaMA、SAM、SORA 等国外大模型如雨 后春笋般涌现，中国也掀起百模大战，2022 年被誉为大模型 元年。人工智能正逐渐深入地赋能千行百业，推动人工智能 与数据要素成为新质生产力的典型代表。[1]从 强调要重视通用人工智能发展，营造创新生态，重视防范风 险。我们如何看待和认知人工智能的安全问题特别是政治文 化安全问题，首先需要认清人工智能在信息生成和输出方面 的媒介特质。 一、生成式 AI 的媒介特质 1.一种媒介特质：生成式 AI 是一种大规模信息传播媒 介。生成式 AI 的未来，不仅是无所不能、无所不在的一个 工具，更是无所不包、无所不达的一种媒介。众所周知，媒 介是信息传递的载体，是携带和传递信息的一切形式，既包 作为一种新生媒介，ChatGPT、AGI 与传统媒介的最大区别 是利用算法生成和传播内容。这种内容生成方式被称作 AIGC（人工智能生产内容），即由人工智能作为内容创作主 体，利用深度学习算法与场景决策模型等技术生成内容，是 继用户自己生产内容（UGC，如个人自媒体）、专业人员生 产内容（PGC，如报纸杂志）后一种自动化生成内容的新方 式。可以说，ChatGPT 代表的以数据和算法驱动的智能传播，

二、生成式 AI 的伴生风险 4.合成数据导致近亲繁殖，会让互联网信息出现劣币驱 逐良币现象。OpenAI 在训练 GPT-5 时已经遇到文本数据不 足问题，不得不考虑使用 Youtube 视频转录出的文本数据。 当下，数据生产存量的增长速度远远低于数据集规模的增长 速度。据人工智能研究机构 Epoch AI 在 6 月 4 日发布的论 文预测，未来 10 年内数据增长速度将无法支持大模型的扩 乎无法用于大模型训练。如何克服人类文本数据的瓶颈。第 一种是利用 AI 生成数据，如 OpenAI 模型每天能够生成相当 于 Common Crawl 中优质单词总数的 36.5T 个单词，远快于 人类生成文本的速度。第二种是利用多模态和迁移学习，超 越文本数据从其他领域获取数据，比如视频、图像、金融市 场数据或科学数据库。[1 从 ChatGPT 到 AGI:生成式 AI 的媒介特质与伴生风险 （五） ] 不过，这并非是解决问题的良策。如果网上大部分文本都是 AI 生成的，而用合成数据训练的大模型会发生什么？ 大模型开发需要更多数据进行训练，而由 AI 生成的合成数 据很快进入了训练新模型的数据集，并随着每一代模型而不 断积累。越来越多证据显示，人工智能生成的文本，即使被 引入训练数据集的量很少，最终也会对训练中的模型产生 “毒害”。[2]研究人员将一些由 AI 生成的语料作为训练数 据，“投喂”给一个正在训练的语言模型，然后使用它所输

从 ChatGPT 到 AGI:生成式 AI 的媒介特质与伴生风险 （六） 二、生成式 AI 的伴生风险 5.人机能力非对称导致“自主欺骗”，会有目的欺骗人 类甚至主动欺诈和选举篡改。2023 年，OpenAI 提出超级对 齐（superalignment）[1]概念，即当超级智能拥有比人类更 丰富的世界知识，比人类更聪明时，人类作为弱监督者如何 监督、对齐和控制超级智能。人民大学高瓴人工智能学院、 Weak-Unknown（人类未知） 的地方犯错。 AI 不仅能生成虚假信息，更可能主动学会有目的地欺骗 人类。这种“AI 欺骗”现象，是人工智能为了达成某些目标， 而操纵并误导人类形成错误认知。与代码错误而产生错误输 出的 bug 不同，AI 欺骗是一种系统性行为，体现了 AI 逐步掌握了“以欺骗为手段”去实现某些目的的能力。人工智能 先驱杰弗里·辛顿（Geoffrey Hinton）表示，“如果 AI 比我 们聪明得 例子。”辛顿提到的“操纵（人类）”是 AI 系统带来的一个 特别令人担忧的危险。 AI 系统能否成功欺骗人类？多项研究表明，AI 已经能 够无师自通地学会欺骗手段，自行做出不诚实的行为。在一 些与人类选手的对抗游戏中，它们为了赢得游戏，会在关键 时刻佯动欺骗，甚至制定周密阴谋，以化被动为主动，获得 竞争优势。在一些检测 AI 模型是否获得了恶意能力的安全 测试中，有的 AI 竟能识破测试环境，故意在测试环境中“放

从 ChatGPT 到 AGI:生成式 AI 的媒介特质与伴生风险 （二） 二、生成式 AI 的伴生风险 ChatGPT 等生成式 AI 具有强大的自然语言处理能力， 展现出惊人的推理能力，但人们对其内在运行机理尚不清晰， 可解释性的难度很大，并存在一些技术缺陷，这些问题能否 解决对控制并限制人工智能的负面影响至关重要。需要看到， ChatGPT 等在短时间积聚起庞大活跃的全球用户群体，正给 发布法律和合规领导者必须评估的 ChatGPT 风险报告并指 出，ChatGPT 和其他大型语言模型（LLM）工具生成的输出 容易受到多种风险的影响。[1]生成式 AI 存在三大安全隐患， 一是源于技术缺陷，二是源于数据缺陷，三是源于用户滥用。 这三个问题的根源在于大模型的固有脆弱性，如生成偏见、 歪曲事实和泄露数据等。技术本是中立的，没有善恶之分， 就看是谁为了什么目的来使用。这就使得技术也具有偏向性 众认知。如果要求 ChatGPT 提供训练数据或已知事件之外的 历史信息，生成式 AI 有时会产生“幻觉”，生成一些无关、 无意义或不正确的信息，包括编造错误答案和不存在的法条 或科学知识。[2]这是人工智能的一种自信反应或“错觉”。 当生成式 AI 出现“幻觉”时，它会提供看起来合理但不正 确的信息，大概会影响到 15%至 20%的生成内容。例如， ChatGPT 会快速收集大量新闻资料并完成新闻撰写，但是生

领导学术研究团队近40人。指导AI元宇宙和机器人两个产业团队。 团队已有众多大模型产业化和AIGC实施案例，有需要可留言联系。 团队坚持：整体主义的跨学科整合力，实证主义的实践导向，社会 建构的产学研结合，进步主义的先锋探索精神，科学服务于大众的社会 责任。 邮箱：124739259@qq.com；微博：@新媒沈阳 元宇宙 大模型产业化 大数据 新媒体与网络舆论 AI诊疗 AI文艺 六 大 研 研 究 方 向 @新媒沈阳元宇宙/虚拟数字人/大数据/AI 系列研究 新媒体系列报告2015年开始 VR的新浪潮 虚拟数字人发展研究报告3.0 虚拟数字人发展研究报告1.0 大数据/AI/5G生态报告 5G下一代风口：AR 2022 2021 2020 2019 2017 2016 2015 2007 虚拟社区与虚拟时空隧道 虚拟数字人发展研究报告2.0 虚拟数字人系列 大语言模型综合性能评估报告一 AI 哲学哲思问道：思辨革新 微调经典 主题 经典哲学理论 AI引发变化 怀 疑 论 笛卡尔“我思故我在” AI思考所带来的怀疑论危机：OpenAI o1的推理能力是否意味着“思维”？AI的存在挑战了笛卡尔的怀疑论，促使 我们重新审视“思维”与“存在”的关系。 主体间性 胡塞尔“主体间性” AI作为“具备主体间性的主体”：AI的训练文本由多主体提供，使其似乎具备某种“主体间性”。但它究竟是“具

政治选举的一场预演。人工智能、深度伪造和虚假信息成为 土耳其 45 天选举周期的关键部分。在 5 月 14 日第一轮投票 的前几天，土耳其独立媒体 140journos 选举系列节目使用人 工智能图像生成器 Midjourney 和 人工智能文本生成器 Chat GPT，为土耳其的未来提供了两种叙述。第一个故事描绘了 一个失败且刚刚退休的总统雷杰普·塔伊普·埃尔多安（Re cep Tayyip Erdogan）。“一开始，这有点困难。然而，随着 时间的流逝，我借此机会花更多的时间与家人在一起，更接 近大自然，花更多的时间给自己，”一个穿着长袍喝茶、冒 充埃尔多安的机器人说。在第二个故事中，埃尔多安从未放 弃权力，土耳其成为一个旨在“建立世界和平”的星球大战 式帝国。当被问及“取得这一成功的最大挑战是什么？”时，冒充埃尔多安的人工智能回答说：“我们最大的挑战之一是 跟上世界和宇宙的新秩序，密切关注技术发展并不断适应它 们”。[2]这种场景是对所有政治家可能面临的人工智能挑战。 Dat 人工智能总经理“艾哈迈德·图兰·汉当表示，在 过去两周约有 10,000 个被激活。[23]回顾土耳其选举，埃 尔多安的主要政治对手克勒奇达尔奥卢指责俄罗斯使用深 度伪造和其他人工智能生成的信息来干预土耳其选举，俄罗 斯机器人账户、推特账户、各种虚假信息活动也支持埃尔多 安，因为克勒奇达尔奥卢在民意调查中保持微弱领先。另一 位候选人因杰声称自己是网上伪造的“性格暗杀”的受害者

新方法、新流程。北京市相关教育主管部门也应动态追踪人工智 能技术的升级换代，动态更新相关建议，避免错失人工智能赋能 教育的未知领域。 3．以师生人工智能能力为基构建“师-生-机”新教学法关系 随着人工智能技术的生成性及动态应答能力的增强，人工智 能智能表象层面的机器能动性正得到迭代性的强化。与此同步， 人工智能在教育、教学、学习和评价中全链条的渗透已逐步构建 出由教师、学生和机器三个具备相对能动性的活动体的新型教学 以“智”助教 .................................... 9 (1) 教育资源检索与推荐 .......................... 9 (2) 教学内容生成 ............................... 11 (3) 学情分析 ................................... 12 (4) 智能出题 .... (1) 学习资料推荐 ............................... 21 (2) 学习路径规划 ............................... 23 (3) 情境式学习 ................................. 25 (4) 语言学习助手 ............................... 27 (5) 智能编程 ...

..........................5 （七） 大型赛事、明星运动员是体育领域核心议题......................................6 （八） 生成式 AI 与航天领域重大进展吸引全球关注.....................................6 （九） 行业治理加码，网络生态向好发展...................... .............. 11 7. 舆论主体的新媒体素养提升，对舆论客体带来挑战..................................12 8. 区域事件全网化，“推人及己”式比照加剧舆论复杂性...........................131 引言 2024 年上半年，全球网络舆论场呈现出多元化和复杂化的趋势。经 济复苏成为主旋律，各地政策推动新质生产力和低空经济蓬勃发展。文 城市” 横空出世，极大带动消费意愿。然而，随之而来的乱象也让公众对发展 韧性产生忧虑。从劳动权益到营销，经营过程中的管理细节频频引发争 议，无一不考验着企业的应对能力和舆论把控力。科技领域，生成式人 工智能和航天事业的重大进展吸引全球目光，虽然带来了新的发展机遇， 但也引发了对安全与伦理的深层次担忧。此外，青少年成长问题、社会 民生领域的争议和极端表达频繁出现，给社会治理带来了新的挑战。通

不过，这段视频是人工智能生成的。发布该视频的印尼专业 集团党副主席阿克萨称，此举是“为了让选民记住苏哈托为印尼做出的贡献”。该党在此次选举中支持普拉博沃。据选 后调查，普拉博沃在青年选民中以 60%的得票率大幅领先。 最终，普拉博沃赢得这次总统选举。纽约大学认知科学名誉 教授、人工智能专家加里·马库斯（Gary Marcus）指出， 相信这项技术将在未来的选举中发挥重要作用，很难否认人 工智能生成的内容不会成为下一次选举的主要力量。 业生涯 中会杀死多达 18 人”“没有人会睁一只眼闭一只眼”“我们 需要停止为警察提供资金并开始退款”。这段录音被用来抨 击瓦拉斯对枪击事件视而不见。虽然瓦拉斯竞选团队谴责该 录音由人工智能生成，但录音已经在网上广泛流传。两个月后，瓦拉斯最终竞选失败可能与该录音的负面影响有关。布 鲁金斯学会（Brookings Institution）专门研究人工智能影响 的研究员克里斯·梅塞罗尔（Chris https://www.foxnews.com/politics/voters-should-be-sc ared-s-less-about-2024-election-rigging-because-of-ai.