人工智能、深度伪造与政治选举（四） 四、人工智能对 2024 年全球政治选举的影响 如今，人工智能开始在政治选举中崭露头角，但它与政 治的融合既带来希望也带来陷阱。有专家推测，人工智能可 能在 2024 年对全球政治选举安全构成威胁，它们可能成为 错误信息的主要来源。[1]利用人工智能深度伪造的宣传威 胁对各国政治选举的影响不容小觑，特别是美国大选是全球 应对人工智能技术挑战的重大选举。 应对人工智能技术挑战的重大选举。 1.人工智能重新定义政治选举参与方式。2024 年 2 月 8 日，巴基斯坦国民议会选举投票在下午结束。由于发生多起 袭击事件，最终投票结果迟迟未能出炉，伊姆兰·汗和纳瓦 兹·谢里夫两名前总理分别宣布胜选。不过，他们宣布获胜 的方式截然不同。10 日凌晨，伊姆兰·汗所在的正义运动党 （PTI）通过伊姆兰·汗（Imran Khan）的 X 账号发布一段 人工智能制作的“真人讲话”视频宣布获胜。“你们兑现了 3 年，2024 年 1 月又因为泄 露国家秘密罪和非法出售国礼罪分别被判刑 10 年和 14 年， 一直在监狱中服刑。不过，伊姆兰·汗在入狱后仍多次通过人工智能视频向支持者发表讲话。早在 2023 年 12 月，正义 运动党就利用人工智能生成带有伊姆兰·汗照片的视频向支 持者发表讲话。这段讲话视频是在正义运动党的一个网上集 会上播放的，在 YouTube 上吸引 150 多万次观看，在其他社

人工智能、深度伪造与政治选举（三） 三、人工智能对政治选举结果的实际影响 深度伪造技术可能会对政治选举产生前所未有的影响， 对国家选举、政策制定以及社会可信度提出严峻挑战。[1] 我们不得不思考，有多少选票是通过深度伪造对政治选举实 施操纵性影响而产生的？这些选票又对政治选举结果产生 了多大影响？ 1. 人工智能在一定情况下对政治选举结果可能具有决 定性作用。2023 年的土耳其总统选举，就像是人工智能干预 年的土耳其总统选举，就像是人工智能干预 政治选举的一场预演。人工智能、深度伪造和虚假信息成为 土耳其 45 天选举周期的关键部分。在 5 月 14 日第一轮投票 的前几天，土耳其独立媒体 140journos 选举系列节目使用人 工智能图像生成器 Midjourney 和 人工智能文本生成器 Chat GPT，为土耳其的未来提供了两种叙述。第一个故事描绘了 一个失败且刚刚退休的总统雷杰普·塔伊普·埃尔多安（Re 弃权力，土耳其成为一个旨在“建立世界和平”的星球大战 式帝国。当被问及“取得这一成功的最大挑战是什么？”时，冒充埃尔多安的人工智能回答说：“我们最大的挑战之一是 跟上世界和宇宙的新秩序，密切关注技术发展并不断适应它 们”。[2]这种场景是对所有政治家可能面临的人工智能挑战。 2023 年的土耳其总统选举周期被社交媒体的大量错误信息 和虚假信息所破坏，关于政治家背景和言论的误导性信息很

人工智能、深度伪造与政治选举（二） 二、深度伪造对政治选举的双刃剑效应伴随人类社会 进入数字化网络化智能化时代，技术既可以成为强大的工具， 也可以成为有力的武器。兰德公司《人工智能、深度造假与 虚假信息》报告还指出，深度伪造不仅会影响社会，还会影 响国家安全，可以操纵选举，可能会加剧社会分裂，降低对 机构和政府的信任，破坏新闻业和信息源的可信度。[1]如 今，全球民众都在注视着人工智能、深度伪造在干预政治选 举这条危险道路上渐行渐远，努力应对其可能带来的复杂挑 战及其对国家政治的深远影响。 1. 人工智能成为提升竞选优势的强大工具。在激烈政 治选举当中，人工智能已成为政党和政客寻求在沟通、战略 和决策以及吸引选民支持方面获得优势的强大工具。例如， 人工智能在印尼政治中扮演着重要角色，许多政客为吸引粉 丝开始利用人工智能。许多候选人利用人工智能聊天机器人 来与选民互动。曾是苏哈托女婿的普拉博沃竞选团队使用人 工 统苏哈托的一段讲话视频出现在网上，吸引了许多选民关注。 不过，这段视频是人工智能生成的。发布该视频的印尼专业 集团党副主席阿克萨称，此举是“为了让选民记住苏哈托为印尼做出的贡献”。该党在此次选举中支持普拉博沃。据选 后调查，普拉博沃在青年选民中以 60%的得票率大幅领先。 最终，普拉博沃赢得这次总统选举。纽约大学认知科学名誉 教授、人工智能专家加里·马库斯（Gary Marcus）指出， 相信这项技

AIGC发展研究 清华大学 新闻学院、人工智能学院 @新媒沈阳 团队、 AIGC 2024年11月团队简介 沈阳为清华大学新闻学院/人工智能学院教授、博导，清华大学新 闻学院元宇宙文化实验室主任，清华大学新闻学院新媒体研究中心主任。 从事多个教学科研领域，包括新闻传播学、计算机科学、信息管理学、 医学。 领导学术研究团队近40人。指导AI元宇宙和机器人两个产业团队。 控制的 影响。天人智一：融通物我 和谐共生 中国古典哲学中的“天人合一”理念强调人与自然的深层和谐，将心或灵魂视为个体与宇宙沟通的纽带，展 现内在精神与外在自然的紧密联结。随着人工智能时代的到来，这一理念逐步向“天人智一”转变，即通过AI技 术延展人类智慧，攻克诸如意识起源、历史谜题等人类难题，大幅提升生产效率，从而解放人类劳动力，赋予更 多时间与空间去追求个人的诗意生活，实现人与自然、技术的全面和谐。 然的一部分，能理解并与 自然和谐共处。人的行为 和生活方式应与自然法则 一致，以实现内外和谐。 作为不同于人类和自然的 第三方，人工智能的介入 帮助人类提升生产力，并 更深入地理解世界与自身， 进而实现人、自然和技术 的和谐共处。 天（自然） 人（人类） 智（人工智能） 人工智能同人类灵魂融合 为一，进而极大的解放人 类生产力，提升工作效率。 借此，人类得以更深入理 解世界，实现人、机、自

人工智能赋能基础教育应用 蓝皮书 （2025 年） 智能技术与教育应用教育部工程研究中心 北京市数字教育中心（北京电化教育馆） 2025 年 7 月I 序言 人工智能时代：教育何为？“头雁”何为？ 北京市《人工智能赋能基础教育应用蓝皮书》以习近平总书 记关于人工智能的经典论述作为规划起点和实践落点，是人工智 能科技创新人才奠基的教育答卷，是智能化产业大变局中教育行 业变革的北 业变革的北京蓝图，更是首都在人工智能时代教育强国建设中如 何发挥“头雁”引领性的行动指南。 一、为谁赋能 愈是在智能化转型历史大变局的关键时刻，愈不能动摇教育 的政治属性、人民属性和战略属性。对“人工智能时代，教育何 为？”这一历史命题的应答必须回归对人工智能时代“培养什么 人、怎样培养人、为谁培养人”三个基础性问题的理论研判和实 践规划。 1．为强国建设所需创新人才赋能 为中国人工智能时代的强国建设源源不断输送具备新时代 历史阶段的具体体现。本《蓝皮书》配合北京市人工智能赋能基 础教育的综合战略目标，坚持五育并举并深入探索人工智能与五 育融合的有效实践模式，是为科技创新人才校正价值观罗盘的导 向之举。同时，以各学科和跨学科教学育人专题为落脚点，为人 工智能如何赋能科创人才培养提供了学科全覆盖的实践指南，是II 智能时代强国科创人才培养的总动员。本《蓝皮书》应被视为与 《北京市中小学人工智能教育地方课程纲要（试行）（2025

AGI:生成式 AI 的媒介特质与伴生风险 （一） 人工智能领域近年来正在迎来一场由生成式人工智能 大模型引领的爆发式发展。全球掀起一场大模型热潮， Gemini、Copilot、LLaMA、SAM、SORA 等国外大模型如雨 后春笋般涌现，中国也掀起百模大战，2022 年被誉为大模型 元年。人工智能正逐渐深入地赋能千行百业，推动人工智能 与数据要素成为新质生产力的典型代表。[1]从 GPT-4o GPT-4o 到 SORA，AGI（通用人工智能）的曙光显现，2024 年或将成 为 AGI 元年。 同时，技术嵌入政治文化和生活是一种历史必然。西方 国家对人工智能与安全问题的极端重视，始于 2016 年美国 总统大选和英国脱欧两只黑天鹅。在此之前，美西方国家凭 借硬实力优势和对全球舆论的强大掌控能力在世界各地进 行渗透，形成了一套干涉他国内政和渗透颠覆的手段。然而， 伴随互联网影 伴随互联网影响的深入，社交媒体的全球拓展，人工智能等 新兴技术开始介入政治文化生活，潜移默化的变革力量不断 累积。最终，这股技术力量在 2016 年充分爆发，影响了美 国大选和英国脱欧，改变了世界对人工智能安全风险的认知。 布鲁金斯学会发布报告《人工智能改变世界》指出，人工智 能将严重威胁国家安全。西方政要甚至发出人工智能将干扰2024 年美国总统大选的担忧。 可以预见，伴随 ChatGPT 快速迭代，人工智能向 AGI

丰富的世界知识，比人类更聪明时，人类作为弱监督者如何 监督、对齐和控制超级智能。人民大学高瓴人工智能学院、 腾讯微信研究人员针对“AGI 是否会在人类未知的地方欺骗 人类”问题开展实验。[2]实验结果发现，在不同冲突设定 下，“弱至强欺骗”现象存在，即 strong model（人工智能） 在 weak model（人类）的知道的知识区域表现得好，但是在 weak model（人类）未知的地方表现出不对齐的行为。而且， model（人工智能） 变得更倾向于在 Weak-Unknown（人类未知） 的地方犯错。 AI 不仅能生成虚假信息，更可能主动学会有目的地欺骗 人类。这种“AI 欺骗”现象，是人工智能为了达成某些目标， 而操纵并误导人类形成错误认知。与代码错误而产生错误输 出的 bug 不同，AI 欺骗是一种系统性行为，体现了 AI 逐步掌握了“以欺骗为手段”去实现某些目的的能力。人工智能 先驱杰弗里·辛顿（Geoffrey 实现目标的通用策略。麻省理工学院研究员彼得·帕克（Peter Park）等在权威期刊 Patterns（模式）发表论文，系统梳理 AI 具备欺骗行为的证据、风险和应对措施，指出“人工智能 的欺骗能力不断增强，带来严重风险，从短期风险（如欺诈 和选举篡改）到长期风险（如人类失去对人工智能系统的控 制）”。[3]AI 欺骗行为的雏形并非来自对抗性的网络钓鱼测 试，而是源于一些看似无害的桌游和策略游戏。该论文揭示，在多个游戏环境下，AI

展现出惊人的推理能力，但人们对其内在运行机理尚不清晰， 可解释性的难度很大，并存在一些技术缺陷，这些问题能否 解决对控制并限制人工智能的负面影响至关重要。需要看到， ChatGPT 等在短时间积聚起庞大活跃的全球用户群体，正给 人们的生产生活方式、思想行为观念带来重大影响。但是， 这种以数据和算法驱动的人工智能媒介，也存在虚假信息泛 滥、干扰舆论导向、挑动价值对立、传播不良内容等伴生风 险，就像一头正在向我们走来的灰犀牛。2023 众认知。如果要求 ChatGPT 提供训练数据或已知事件之外的 历史信息，生成式 AI 有时会产生“幻觉”，生成一些无关、 无意义或不正确的信息，包括编造错误答案和不存在的法条 或科学知识。[2]这是人工智能的一种自信反应或“错觉”。 当生成式 AI 出现“幻觉”时，它会提供看起来合理但不正 确的信息，大概会影响到 15%至 20%的生成内容。例如， ChatGPT 会快速收集大量新闻资料并完成新闻撰写，但是生 ChatGPT 编假不实信息牟利的国内首例 AI 虚假信息案。必须看到， 当不良企图者输入虚假信息，使用问题词语作为提示词时， 人工智能会迎合用户偏好，生成支撑错误信息的文本，导致 错误信息在“人机共识”框架下强化，让用户陷入错误信息 的“茧房”。可以预见，在人工智能加持下，基于迷之自信 幻觉的智虚假信息能够快速传播，甚至“病毒式”传播，而 网络核查制度往往是事后核查，远远跟不上虚假信息传播速

件迈进、向极综合交叉发力，不断突破人类认知边界。技术 创新进入前所未有的密集活跃期，人工智能、量子技术、生 物技术等前沿技术集中涌现，引发链式变革。与此同时，世 界百年未有之大变局加速演进，科技革命与大国博弈相互交 织，高技术领域成为国际竞争最前沿和主战场，深刻重塑全 球秩序和发展格局。我们学习贯彻总书记讲话必须看到，当 前以人工智能为代表的颠覆性新技术进入高速发展期，从技 术到应用迎来新一轮重大突破，呈现多点突破、交叉融合、 数字化、网络化、智能化浪潮，推进对现有互联网进行大重 构大设计，推动智能泛在、虚实共生的数字世界全面展现开 来，人类社会迎来第五次颠覆性革命浪潮。从云计算、区块链、大数据、数字人、元宇宙到 Web3，从人工智能、脑机 接口、卫星互联网到量子信息，它们既是助推现代经济社会 变革的强大引擎，也是助力国家治理现代化的重要工具。 颠覆性这个概念源于奥地利经济学家熊彼特提出的颠 覆性创新，既有秩序过程被打断打乱之意，也有结构上混乱、 ， 主要是看其是否会产生颠覆性技术和社会效果。例如，人工 智能自 1956 年在美国达特茅斯会议上就被首次提出，经过 6 0 多年发展才进入 21 世纪三大尖端技术（纳米科学、基因工 程、人工智能）行列，被公认为改变未来的颠覆性技术。一般来说，颠覆性技术具有四个特质：技术的先进性，即具有 超越性和替代性，打破原有技术体系，实现对传统或主流技 术的跨越式发展，作为新兴替代性技术形成新的技术轨道和

逐良币现象。OpenAI 在训练 GPT-5 时已经遇到文本数据不 足问题，不得不考虑使用 Youtube 视频转录出的文本数据。 当下，数据生产存量的增长速度远远低于数据集规模的增长 速度。据人工智能研究机构 Epoch AI 在 6 月 4 日发布的论 文预测，未来 10 年内数据增长速度将无法支持大模型的扩 展，大模型将在 2028 年耗尽互联网上所有文本数据。按照 当前趋势发展，文本数据耗尽的中位年份是 AI 生成的，而用合成数据训练的大模型会发生什么？ 大模型开发需要更多数据进行训练，而由 AI 生成的合成数 据很快进入了训练新模型的数据集，并随着每一代模型而不 断积累。越来越多证据显示，人工智能生成的文本，即使被 引入训练数据集的量很少，最终也会对训练中的模型产生 “毒害”。[2]研究人员将一些由 AI 生成的语料作为训练数 据，“投喂”给一个正在训练的语言模型，然后使用它所输 可以生成可识别的花朵或鸟类，但到了第三个模型，所生成 的图片就变得模糊不清了。研究人员不得不寻找没有被污染 的训练数据。随着 AI 生成的内容充斥互联网，它正在破坏 未来大模型训练的数据。 如今，人工智能已经强势侵入人类的互联网，极大地改 变了网上文本和图像的生成和传播系统。牛津大学、剑桥大 学、帝国理工大学、多伦多大学研究人员发现，使用 AI 合 成数据训练 AI，在进行 9 次迭代后，模