人工智能、深度伪造与政治选举（四） 四、人工智能对 2024 年全球政治选举的影响 如今，人工智能开始在政治选举中崭露头角，但它与政 治的融合既带来希望也带来陷阱。有专家推测，人工智能可 能在 2024 年对全球政治选举安全构成威胁，它们可能成为 错误信息的主要来源。[1]利用人工智能深度伪造的宣传威 胁对各国政治选举的影响不容小觑，特别是美国大选是全球 应对人工智能技术挑战的重大选举。 确保信息有效共鸣。[3]伊姆兰·汗通过人工智能视频发表 演讲以吸引选票，表明人工智能是一种有用的政治工具，已 经进入到政治选举舞台。 2.人工智能生成虚假信息是政治选举最大风险。当前， 利用人工智能深度伪造的虚假信息误导选民和扭曲选举的 风险引发人们对政治选举的公正性和透明度的关注。达沃斯 世界经济论坛发表《2024 年全球风险报告》，将人工智能生 成的错误和虚假信息排在气候变化、战争和经济疲软之前， 济论坛执行董事扎希迪表示：“这些错误和虚假信息加速传 播，将加剧以两极分化和不安全为特征的全球秩序和经济的 不确定性，各国领导人必须齐心协力应对这些挑战。”巴基 斯坦政治观察家哈立德称：“利用人工智能进行深度造假在 网络上的传播度迅速提升，可能引发错误信息的完美风暴。” 2024 年 1 月 21 日，美国新罕布什尔州共和党初选的前两天，数千名选民接到冒充拜登的机器人语音电话：“把你们的选 票留在

人工智能、深度伪造与政治选举（三） 三、人工智能对政治选举结果的实际影响 深度伪造技术可能会对政治选举产生前所未有的影响， 对国家选举、政策制定以及社会可信度提出严峻挑战。[1] 我们不得不思考，有多少选票是通过深度伪造对政治选举实 施操纵性影响而产生的？这些选票又对政治选举结果产生 了多大影响？ 1. 人工智能在一定情况下对政治选举结果可能具有决 定性作用。2023 年的土耳其总统选举，就像是人工智能干预 年的土耳其总统选举，就像是人工智能干预 政治选举的一场预演。人工智能、深度伪造和虚假信息成为 土耳其 45 天选举周期的关键部分。在 5 月 14 日第一轮投票 的前几天，土耳其独立媒体 140journos 选举系列节目使用人 工智能图像生成器 Midjourney 和 人工智能文本生成器 Chat GPT，为土耳其的未来提供了两种叙述。第一个故事描绘了 一个失败且刚刚退休的总统雷杰普·塔伊普·埃尔多安（Re HP）主席厄兹坎（Tuncay Özkan）就指称，土耳其政府计划 在暗网发布一波深度伪造视频，以诋毁反对派。这些视频由 土耳其通信局委托制作，使用深度伪造技术编造，以加密货 币支付特别是比特币（BTC）。这些伪造视频旨在描绘针对反 对党的虚假叙事，以破坏民主、人权和法治原则。[6]深度 伪造技术专家亨利·阿杰德（Henry Ajder）对此表示担忧， 强调深度伪造的宣传材料具有公众说服力及影响公众舆论 的能力。

人工智能、深度伪造与政治选举（二） 二、深度伪造对政治选举的双刃剑效应伴随人类社会 进入数字化网络化智能化时代，技术既可以成为强大的工具， 也可以成为有力的武器。兰德公司《人工智能、深度造假与 虚假信息》报告还指出，深度伪造不仅会影响社会，还会影 响国家安全，可以操纵选举，可能会加剧社会分裂，降低对 机构和政府的信任，破坏新闻业和信息源的可信度。[1]如 今，全球民众都在注视着人工智能、深度伪造在干预政治选 今，全球民众都在注视着人工智能、深度伪造在干预政治选 举这条危险道路上渐行渐远，努力应对其可能带来的复杂挑 战及其对国家政治的深远影响。 1. 人工智能成为提升竞选优势的强大工具。在激烈政 治选举当中，人工智能已成为政党和政客寻求在沟通、战略 和决策以及吸引选民支持方面获得优势的强大工具。例如， 人工智能在印尼政治中扮演着重要角色，许多政客为吸引粉 丝开始利用人工智能。许多候选人利用人工智能聊天机器人 来与选 人工智能成为操纵政治选举的强大武器。深度伪造 技术在政治选举当中成为一种武器。首先，恶意的行为者会 伪造证据，助长虚假指控和虚假叙述。例如，通过对候选人 发表的原有言语进行微妙改变，使其品格、健康状况和心理 健康受到质疑，而多数受众完全不知到真假。深度伪造技术 可以用于创建全新的虚拟内容，包括有争议的发言或仇恨言 论，目的是操纵政治分歧议题甚至是煽动暴力行动。在一些 国家和地区，深度伪造技术已被用来破坏政治选举。2023

告显示，10%的推特用户发出超过 90%的信息，而在一般社交 媒体最活跃的 10%的用户仅发出 30%的信息。 无论实际比例是否完全符合 1：9：90 比例，但多数网 站用户基本可分为三类，1%的深度用户，9%的轻度用户，90% 的游客用户。1%的深度用户，会花费大量时间分享内容，或 创建百科词条，或为一间餐厅写 100 条点评，或为一部电影 写数千字观后感。9%的轻度用户，偶尔会分享内容，他们会 偏向某个话题，关 是流量的重要贡献者。 无论是哪一类用户，对一个网站来说都是重要资源。因此， 作为互联网应用和服务的提供商，对深度、轻度和游客用户 都需要有针对性的策略把他们留住，因为轻度用户可能转化 为深度用户，游客用户可能转化为轻度用户，如果吸引用户 的措施不得当，这个过程也是可逆的，深度用户变为轻度用 户，轻度用户变为游客用户，游客用户直接流失，那么收割 流量的目标也就会落空。 作者介绍：张鸫，原中央机关网络舆情处长，人民日报

实和不实新闻的传播力。 一是深度，即转发的“层级”，也就是在一个不间断链 中转发的数量。如 A 转发给了 B，B 又转发给了 C，深度就 是 3 层。研究人员研究了流言级联传播中最高的 0.01％，发 现不实新闻比真实新闻在推特空间（Twittersphere）传播深 度要高 8 个层级（diffused eight hops deeper）。假新闻传播 深度超过真新闻，最深层级可超 19 1％的不实新闻，经常性地做到这一点，可传播 1000 到 10 万人。要传播扩散到 1500 人，真实新闻所需时间是不实 新闻的 6 倍。真实新闻的传播深度要达到 10 级，时间比不 实消息要长 20 倍。 三是宽度，即任何深度的级联中最大数量的人，也就是 在任意一个层级（深度）级联中参与转发的最多人数。真实 新闻传播宽度只能刚刚超 1000 人，不实新闻最多能达几万 人。 四是结构性病毒式传播力。衡量造成特定

地化的解读，主张对人工智能的评判、选择和应用应以服务于人 的能力建设为目的；以保护人的能动性、尊重人的基本权益、倡 导语言文化多样性为前提；追求人工智能应用过程的包容性原则， 尤其强调人工智能赋能弱势学生；推进人工智能与教学法的深度 融合破解大规模教育与个性化学习支持的难点，推进教育公平发 展。以人为本的人工智能应用原则与教育的人民属性相结合就是 以人民的公众利益为本的人工智能赋能教育，既不是以人类数据 伺服于机器智能 教育公平等方面具有独特的优势，在推动教育高质量发展的过程 中扮演着越来越重要的角色。国家和各级政府都高度重视人工智 能对教育的深刻影响，积极推动人工智能和教育深度融合，促进 教育变革创新，使人工智能成为加快实现教育大国向教育强国迈 进的重要变量。 为深度剖析基础教育领域人工智能赋能实践现状，本蓝皮书 结合国内外相关教育应用，重点梳理和总结北京市人工智能赋能 基础教育的试点工作，系统呈现人工智能在基础教育中助教、助 工智能技术 的深度应用，可实现大规模因材施教，提高教育教学的效率和质 量，推动教育理念更新和模式的创新。 人工智能的广泛应用显著降低了知识获取的门槛与成本，使 学习者能够通过智能搜索、智能问答、个性化推荐等技术按需获 取信息，一定程度上降低了对教师讲授进程和系统性课程体系的 依赖。在此背景下，教师需由当前知识型传授转向更具引导性、 创新性的传授方式，得以满足学生对深度理解与能力发展的需求。

播载体。 作为一种新生媒介，ChatGPT、AGI 与传统媒介的最大区别 是利用算法生成和传播内容。这种内容生成方式被称作 AIGC（人工智能生产内容），即由人工智能作为内容创作主 体，利用深度学习算法与场景决策模型等技术生成内容，是 继用户自己生产内容（UGC，如个人自媒体）、专业人员生 产内容（PGC，如报纸杂志）后一种自动化生成内容的新方 式。可以说，ChatGPT 代表的以数据和算法驱动的智能传播， 感觉就像在与真人进行交流，而机器则通过不断学习变得更 加智能化和类人化。 3.三大传播变革：生成式 AI 深刻改变内容生产、信息 传播和媒体格局。传播的全面智能化是一次深刻革命， ChatGPT 在内容生产广度深度方面呈现巨大潜力，正对信息 传播和媒介发展产生深远影响，深刻改变着内容生产、信息 传播和传播格局。一是内容生产方式变革。ChatGPT 的内容 多样、速率高效，具有文、图、音、视等多模态信息生成能 应用爆红表明数据和算法驱动的智能传播将走向主流，意味 着信息传播范式再次革新，即从大众媒体时代的对所有人的 大规模传播，到社交媒体时代所有人对所有人的开放传播， 进一步迭代到智能媒体时代信息和内容的自动交互传播，即 一种基于深度学习技术和大数据的自动化传播。大众传播、 社交传播、智能传播三者共存，既相互竞争和替代，也相互 联动和协同，共同构成开放复杂的传播体系。三是媒体格局 变革。未来，伴随具身智能普及化应用，人工智能如同一个

国家 强”的路径。如今，全球正在加速进入科技革命跃迁、经济 范式转换和生产要素重置的重要变革期，特别是信息通信技 术领域出现集体跃升和重大变革。颠覆性新技术不断涌现， 对经济社会变革的广度、深度和强度前所未有，为人类带来 巨大便利和社会福祉。同时应看到，新一轮颠覆性新技术创 新呈现高度复杂性和不确定性，把人类带到一个“VUCA” （易变性、不确定、复杂性、模糊性）[1]时代，许多固有 大影响力。新 技术通过与政治、经济、军事等领域的深度融合，改变着这 些领域运行的底层逻辑，对国家政治、经济和军事安全等构 成挑战。新技术安全也已成为我国面临的最复杂、最现实、 最严峻的非传统安全问题之一。美西方国家对我国的信息技 术攻势将进一步规模化、智能化，不断推升信息技术领域攻 防的强度、频率、规模和影响。例如，美西方国家对“深度 伪造”“计算宣传”等人工智能的应用，给其他国家安全和 加密通信等手段，可以隐藏违法不良信息和网络攻击人员身 份。斯诺登事件、伊朗“震网”事件等表明，美国正借助其 互联网控制地位威胁他国关键领域安全。同时，信息通信技 术开始深度介入选举、公投等政治领域，脸谱、谷歌、推特 等技术巨头，都被曝深度介入政治过程。剑桥分析公司及其 母公司采用大数据挖掘等技术进行舆论操控，曾影响 60 多 个国家 260 多场选举。西亚北非的颜色革命以及智利、阿根 廷、西班

苏格拉底和孔子对于对话 的偏爱 AI对对话的依赖：AI依赖对话形式促进交流，类似于苏格拉底和孔子的教学方式。然而，AI的对话模式也促使我们 重新审视理性、知识本质和人际互动方式，挑战了传统对话的深度与真实性。 历史唯物 马克思的社会阶段理论 AI与实现共产主义的曙光：AIGC大幅提高了社会生产力，为实现更高级社会形态提供了技术支持，这在某种程度 上印证了马克思关于社会阶段演进的预言。AI 在人工智能语境下，“问行合一”是指一种高效的人机交互理念，它融合了深度查询与精准执行。其中， “问”代表对未知或复杂问题的深度挖掘与探索，体现了人类对知识与智慧的追求；“行”则代表基于AI分析结 果的迅速且精准的行动实施，彰显了人类对于机器智能输出的高效利用与转化。 此理念倡导在AI技术的辅助下，人类应持续深化提问的质量与深度，充分利用AI的数据挖掘与模式识别能力， 探寻数据与知识背后的深 出不仅难以信赖，且可能误导用户。 形成原因 除AI幻觉这一关键缺陷外，潜在的缺点与局限还包括 可解释性、计算成本、数据偏见、实时更新、数据安 全、个人隐私、恶意输出等。幻觉类型 数据可用 性 理解 能力 深度 语境精 确度 外部信息 整合能力 逻辑推理和 抽象能力 典型错误表现 数据误用 有数据 低 高 高 中 误用已有数据，回答 部分不符或细节错误 语境误解 有数据 高 低 高 中 对问题的意图理解错

键转折点。从最初的被动，到发布内涵海报和声明，成功 将舆论危机转化为品牌传播机遇。 意见领袖（KOL）：汽车、科技、财经、公关、科普 等多领域 KOL 的下场分析，从不同专业角度解读事件，推 动了话题的深度和广度，使其从一个汽车圈内事件，扩散 至更广泛的商业和社會层面。 普通网民：通过海量的评论、转发和二次创作（如段 子、梗图），成为事件传播范围和影响力的最终放大器， 并直接塑造了评论区的舆论风向。 至此，理想汽车两位产品负责人的个人微博发言，无 疑成为了事件升级的关键催化剂。他们的言论直接将企业 推向了舆论的风口浪尖，被视为品牌态度的直接体现。 在社交媒体高度发达的今天，企业高管的个人形象与 品牌形象已深度绑定，其公开言行需要更加审慎，个人情 绪的表达必须让位于品牌战略的整体考量。 最后，事件也促使我们回归到一个最朴素的常识：车 辆安全是一个复杂的系统工程，实验室里的极限测试结果， 并不完全等