....................................................... 61 61 62 62 65 67 70 72 76 79 82人工智能安全治理框架2.0 前 言 ⼈⼯智能是⼈类发展新领域，
深刻改变⼈类⽣产⽣活⽅式，
给世界带 来前所未有发展机遇，

也带来前所未遇⻛险挑战。

落实《全球⼈⼯智能治 理倡 开源业态新挑战，

综合运⽤技术、

管理措施，

防范应对不同类型⻛险。

围绕 ⼈⼯智能研发应⽤⽣态链，

明确模型算法研发者、

服务提供者、

系统使⽤者 1.⼈⼯智能安全治理原则 人工智能安全治理框架2.0 - 2 -等主体的安全责任，

有机发挥政府监管、

⾏业⾃律、

社会监督等治理机制 作⽤。 1.4 开放合作、

共治共享。

在全球范围推动⼈⼯智能安全治理国际合 、

服务提供者、

⽤⼾、

政府部 ⻔、

社会组织等各⽅发现、

防范、

应对⼈⼯智能安全⻛险的措施⼿段，

以及 深化⼈⼯智能安全治理国际交流合作等建议，

推动相关各⽅协同共治。 人工智能安全治理框架2.0 - 3 -2.4
研发与应⽤的安全指引。

提出模型算法研发、建设部署、运⾏管理， 以及访问使⽤的引导性安全规范。此外，针对潜在的技术失控⻛险，提出可 信⼈⼯智能基本准则，引导国际社会共识。

人工智能、深度伪造与政治选举（四） 四、人工智能对 2024 年全球政治选举的影响 如今，人工智能开始在政治选举中崭露头角，但它与政 治的融合既带来希望也带来陷阱。有专家推测，人工智能可 能在 2024 年对全球政治选举安全构成威胁，它们可能成为 错误信息的主要来源。[1]利用人工智能深度伪造的宣传威 胁对各国政治选举的影响不容小觑，特别是美国大选是全球 应对人工智能技术挑战的重大选举。 应对人工智能技术挑战的重大选举。 1.人工智能重新定义政治选举参与方式。2024 年 2 月 8 日，巴基斯坦国民议会选举投票在下午结束。由于发生多起 袭击事件，最终投票结果迟迟未能出炉，伊姆兰·汗和纳瓦 兹·谢里夫两名前总理分别宣布胜选。不过，他们宣布获胜 的方式截然不同。10 日凌晨，伊姆兰·汗所在的正义运动党 （PTI）通过伊姆兰·汗（Imran Khan）的 X 账号发布一段 人工智能制作的“真人讲话”视频宣布获胜。“你们兑现了 3 年，2024 年 1 月又因为泄 露国家秘密罪和非法出售国礼罪分别被判刑 10 年和 14 年， 一直在监狱中服刑。不过，伊姆兰·汗在入狱后仍多次通过人工智能视频向支持者发表讲话。早在 2023 年 12 月，正义 运动党就利用人工智能生成带有伊姆兰·汗照片的视频向支 持者发表讲话。这段讲话视频是在正义运动党的一个网上集 会上播放的，在 YouTube 上吸引 150 多万次观看，在其他社

人工智能、深度伪造与政治选举（三） 三、人工智能对政治选举结果的实际影响 深度伪造技术可能会对政治选举产生前所未有的影响， 对国家选举、政策制定以及社会可信度提出严峻挑战。[1] 我们不得不思考，有多少选票是通过深度伪造对政治选举实 施操纵性影响而产生的？这些选票又对政治选举结果产生 了多大影响？ 1. 人工智能在一定情况下对政治选举结果可能具有决 定性作用。2023 年的土耳其总统选举，就像是人工智能干预 年的土耳其总统选举，就像是人工智能干预 政治选举的一场预演。人工智能、深度伪造和虚假信息成为 土耳其 45 天选举周期的关键部分。在 5 月 14 日第一轮投票 的前几天，土耳其独立媒体 140journos 选举系列节目使用人 工智能图像生成器 Midjourney 和 人工智能文本生成器 Chat GPT，为土耳其的未来提供了两种叙述。第一个故事描绘了 一个失败且刚刚退休的总统雷杰普·塔伊普·埃尔多安（Re 弃权力，土耳其成为一个旨在“建立世界和平”的星球大战 式帝国。当被问及“取得这一成功的最大挑战是什么？”时，冒充埃尔多安的人工智能回答说：“我们最大的挑战之一是 跟上世界和宇宙的新秩序，密切关注技术发展并不断适应它 们”。[2]这种场景是对所有政治家可能面临的人工智能挑战。 2023 年的土耳其总统选举周期被社交媒体的大量错误信息 和虚假信息所破坏，关于政治家背景和言论的误导性信息很

人工智能、深度伪造与政治选举（二） 二、深度伪造对政治选举的双刃剑效应伴随人类社会 进入数字化网络化智能化时代，技术既可以成为强大的工具， 也可以成为有力的武器。兰德公司《人工智能、深度造假与 虚假信息》报告还指出，深度伪造不仅会影响社会，还会影 响国家安全，可以操纵选举，可能会加剧社会分裂，降低对 机构和政府的信任，破坏新闻业和信息源的可信度。[1]如 今，全球民众都在注视着人工智能、深度伪造在干预政治选 举这条危险道路上渐行渐远，努力应对其可能带来的复杂挑 战及其对国家政治的深远影响。 1. 人工智能成为提升竞选优势的强大工具。在激烈政 治选举当中，人工智能已成为政党和政客寻求在沟通、战略 和决策以及吸引选民支持方面获得优势的强大工具。例如， 人工智能在印尼政治中扮演着重要角色，许多政客为吸引粉 丝开始利用人工智能。许多候选人利用人工智能聊天机器人 来与选民互动。曾是苏哈托女婿的普拉博沃竞选团队使用人 统苏哈托的一段讲话视频出现在网上，吸引了许多选民关注。 不过，这段视频是人工智能生成的。发布该视频的印尼专业 集团党副主席阿克萨称，此举是“为了让选民记住苏哈托为印尼做出的贡献”。该党在此次选举中支持普拉博沃。据选 后调查，普拉博沃在青年选民中以 60%的得票率大幅领先。 最终，普拉博沃赢得这次总统选举。纽约大学认知科学名誉 教授、人工智能专家加里·马库斯（Gary Marcus）指出， 相信这项

从语言到人工智能：每一次传播革命都是 一次人类社会的进步 撰文 | 南方封面图片来源 | Pixabay 人类传播媒介的发展历程，是一部波澜壮阔的文明 演进史诗。从远古时期语言的诞生，到现在人工智能的 崛起，每一次媒介变革都深刻地改变了传播格局与人类 社会的面貌，推动着人类文明不断向前发展。 媒介是人与人之间发生关系的介质或工具，传播是 人与人之间通过媒介所进行的、有目的的信息传递活动， 这两者密不可分。人类每一次传播革命或媒介革命，都 是人类意识的升华与延伸。 语言是嘴巴的延伸，文字是眼睛的延伸，广播是耳 朵的延伸，电视是耳朵和眼睛的延伸，互联网是眼睛、耳朵、嘴巴和手的延伸，人工智能是大脑的延伸。这些 带给人的是一次次思想革命和认知革命，带给社会的是 一次次升级和一步步进化。 一、语言：人类传播的起源与基础 语言的产生是人类进化史上的一个重大里程碑，其 诞生背景与 究参考。 在特定领域的知识传播方面，期刊发挥着关键作用。 期刊能够及时传播最新的研究成果和行业动态，促进知 识的更新和进步。如在人工智能领域，《人工智能》《机 器学习研究杂志》等期刊会定期发表关于人工智能算法、 模型、应用等方面的最新研究成果，以及对人工智能发 展趋势的分析和预测，为该领域的研究人员提供了重要 的信息资源。广播 广播的发明是众多科学家和发明家共同努力的结果， 其发展历程充满了探索与创新。1906

AIGC发展研究 清华大学 新闻学院、人工智能学院 @新媒沈阳 团队、 AIGC 2024年11月团队简介 沈阳为清华大学新闻学院/人工智能学院教授、博导，清华大学新 闻学院元宇宙文化实验室主任，清华大学新闻学院新媒体研究中心主任。 从事多个教学科研领域，包括新闻传播学、计算机科学、信息管理学、 医学。 领导学术研究团队近40人。指导AI元宇宙和机器人两个产业团队。 会控制的 影响。天人智一：融通物我 和谐共生 中国古典哲学中的“天人合一”理念强调人与自然的深层和谐，将心或灵魂视为个体与宇宙沟通的纽带，展 现内在精神与外在自然的紧密联结。随着人工智能时代的到来，这一理念逐步向“天人智一”转变，即通过AI技 术延展人类智慧，攻克诸如意识起源、历史谜题等人类难题，大幅提升生产效率，从而解放人类劳动力，赋予更 多时间与空间去追求个人的诗意生活，实现人与自然、技术的全面和谐。 然的一部分，能理解并与 自然和谐共处。人的行为 和生活方式应与自然法则 一致，以实现内外和谐。 作为不同于人类和自然的 第三方，人工智能的介入 帮助人类提升生产力，并 更深入地理解世界与自身， 进而实现人、自然和技术 的和谐共处。 天（自然） 人（人类） 智（人工智能） 人工智能同人类灵魂融合 为一，进而极大的解放人 类生产力，提升工作效率。 借此，人类得以更深入理 解世界，实现人、机、自

人工智能赋能基础教育应用 蓝皮书 （2025 年） 智能技术与教育应用教育部工程研究中心 北京市数字教育中心（北京电化教育馆） 2025 年 7 月I 序言 人工智能时代：教育何为？“头雁”何为？ 北京市《人工智能赋能基础教育应用蓝皮书》以习近平总书 记关于人工智能的经典论述作为规划起点和实践落点，是人工智 能科技创新人才奠基的教育答卷，是智能化产业大变局中教育行 业变革的北 业变革的北京蓝图，更是首都在人工智能时代教育强国建设中如 何发挥“头雁”引领性的行动指南。 一、为谁赋能 愈是在智能化转型历史大变局的关键时刻，愈不能动摇教育 的政治属性、人民属性和战略属性。对“人工智能时代，教育何 为？”这一历史命题的应答必须回归对人工智能时代“培养什么 人、怎样培养人、为谁培养人”三个基础性问题的理论研判和实 践规划。 1．为强国建设所需创新人才赋能 为中国人工智能时代的强国建设源源不断输送具备新时代 历史阶段的具体体现。本《蓝皮书》配合北京市人工智能赋能基 础教育的综合战略目标，坚持五育并举并深入探索人工智能与五 育融合的有效实践模式，是为科技创新人才校正价值观罗盘的导 向之举。同时，以各学科和跨学科教学育人专题为落脚点，为人 工智能如何赋能科创人才培养提供了学科全覆盖的实践指南，是II 智能时代强国科创人才培养的总动员。本《蓝皮书》应被视为与 《北京市中小学人工智能教育地方课程纲要（试行）（2025

AGI:生成式 AI 的媒介特质与伴生风险 （一） 人工智能领域近年来正在迎来一场由生成式人工智能 大模型引领的爆发式发展。全球掀起一场大模型热潮， Gemini、Copilot、LLaMA、SAM、SORA 等国外大模型如雨 后春笋般涌现，中国也掀起百模大战，2022 年被誉为大模型 元年。人工智能正逐渐深入地赋能千行百业，推动人工智能 与数据要素成为新质生产力的典型代表。[1]从 GPT-4o GPT-4o 到 SORA，AGI（通用人工智能）的曙光显现，2024 年或将成 为 AGI 元年。 同时，技术嵌入政治文化和生活是一种历史必然。西方 国家对人工智能与安全问题的极端重视，始于 2016 年美国 总统大选和英国脱欧两只黑天鹅。在此之前，美西方国家凭 借硬实力优势和对全球舆论的强大掌控能力在世界各地进 行渗透，形成了一套干涉他国内政和渗透颠覆的手段。然而， 伴随互联网 伴随互联网影响的深入，社交媒体的全球拓展，人工智能等 新兴技术开始介入政治文化生活，潜移默化的变革力量不断 累积。最终，这股技术力量在 2016 年充分爆发，影响了美 国大选和英国脱欧，改变了世界对人工智能安全风险的认知。 布鲁金斯学会发布报告《人工智能改变世界》指出，人工智 能将严重威胁国家安全。西方政要甚至发出人工智能将干扰2024 年美国总统大选的担忧。 可以预见，伴随 ChatGPT 快速迭代，人工智能向 AGI

一次生成式革命，如何重绘产业未来？ 人工智能生成内容（AIGC）正从幕后走向聚光灯前，不仅重塑了内容生产逻辑和创意表 达方式，更被塑造成“未来产业基建”，成为推动经济社会高质量发展的关键力量。在大语言 模型、跨模态生成、强化学习等技术突破与政策体系不断成熟的双轮驱动下，AIGC 已从单纯 的“创作工具”演化为全面渗透媒体、教育、医疗、金融、制造、零售及文旅等行业的重要生态。 国家层面，《生成式人工智能服务管理暂 03 03 01 AIGC 兴起的时代背景 AIGC 的快速发展，是 AI 基础技术、算力能力和大数据环境协同演进的综合产物，其核 心驱动力来自 AI 大模型的突破性进展。回顾技术演进路径，人工智能从最初的规则驱动，逐 步发展为以数据驱动的机器学习，再到以神经网络为基础的深度学习阶段，实现了特征学习的 自动化与性能的大幅提升。近年来，随着大语言模型的兴起，AI 在理解与生成方面实现了质 ���������� 从《新一代人工智能发展规划》到“人工智能 +”行动部署，AIGC 作为大模型应用场景 被多次强调。中央及地方产业政策体系加速形成，各地发布 AI 试验区、算力基础设施支持政策， 鼓励平台建设与产业应用落地。此外，监管探索同步推进。2023 年以来，国家与地方政策相 继出台，明确 AIGC 应用边界，推动合规化与普惠化共进。 国家层面以《生成式人工智能服务管理暂行办法》确立“发展与安全并重”的基调，通过

不少业界人士对这一模型给出极高评价。区块链行业媒 体“Cointelegraph”发文称，DeepSeek R1 的发布打破了 人们对人工智能的长期假设；风险投资家尼克·卡特 (Nic Carter）表示，中国开发的人工智能模型的发布打破了人们 对于中国只会生产闭源人工智能的观念，并削弱了硅谷相对 于全球竞争对手的优势。《黑神话：悟空》制作人冯骥更称 其“可能是个国运级别的科技成果”。DeepSeek 任期时，特朗普以“美国优先”为核心，通过抬高关税、技 术封锁、投资审查和经济制裁等一系列措施，企图削弱中国 的国际竞争力，推动中美经济“脱钩”。其中，芯片限制是 美国制裁我国核心手段之一。而人工智能的发展正是基于大 量高端芯片的基础之上发展的。因此，作为人工智能技术的 产物，deep seek 展示了当前我国 AI 领域的最新进展，证明 了我国仍然能够突破美国的重重围困，走出一条自己的道路， 这对于我国科技界来说，无疑是一剂有效的强心针。 提升我国在全球科技领域的地位。1 月 24 日，《纽约时报》 关于 DeepSeek 的报道就指出，如果最好的开源技术来自中 国，美国开发人员将在这些技术的基础上构建他们的系统。 从长远来看，这可能会让中国成为研发人工智能的中心。中 美在 AI 技术标准制定上的竞争也可能因此加剧。而技术标 准不仅影响市场准入，还关系到未来技术发展的方向。 其四，在公众认知与教育层面，DeepSeek 的存在可能会 提高公众对