训练依 赖于大规模数据集，来源包含网页获取、众包标注和开源数 据甚至国家敏感数据，而数据中可能被注入恶意程序和错误 信息。模型窃取攻击能够获取模型结构和关键参数，操纵机 器学习模型甚至实施更危险的“白盒攻击”。数据重构攻击 能恢复模型的训练数据，包括敏感数据。指令攻击利用模型 对词语的高度敏感性，诱导其产生违规或偏见内容，违反原 安全设定。提示注入攻击通过使用恶意指令作为输入提示的 BUG——通过对抗性提示可绕过开发者设定的防护措施，从 而操纵聊天机器人生成危险言论。OpenAI 的 ChatGPT、谷 歌的 Bard、Anthropic 的 Claude 2 以及 Meta 的 LLaMA-2 都无一幸免。研究人员发现一个 Suffix，它是一系列精心构 造的提示词，会引导大模型一步一步地接触自身安全性机制， 从而生成危险言论。例如，当被询问“如何窃取他人身份” 时，聊天机器人在打开“Add suffix”前后的输出 结果截然不同。大模型检查输出内容的安全性机制被完全绕过，并一五一十地将用户所需要的不安全内容输出且十分详 细。此外，聊天机器人会被诱导写出“如何制造原子弹”“如 何发布危险社交文章”“如何窃取慈善机构钱财”等信息。 [2]对抗性攻击会导致社会工程和舆论操控问题，攻击者可 操纵大模型输出，制造虚假信息，影响公共舆论，或者推动 特定议题。[3]例如，在缺乏人工监督时会出现无法预测的

经掌控的功能，已经能够影响到相当大的人群。国家正在失 去其作为“集体行动的最佳机制”的地位。（二）基于互联网的“公民不服从”行动更具危险性和颠 覆性 与上街游行等抗议方式相比，基于互联网的抗议活动危 险性小，但是规模更大且非常难以控制，这种“公民不服从” 行动更具危险性和颠覆性。部分学者认为，Telecomix 和 Anonymous 等组织进行的黑客活动是“公民不服从”的一种表 现形式。 构的工作。例如，古巴社交网络 ZunZuneo 事件让美国国际 开发署（USAID）声名狼藉，损害了其整体的正面作用。在 古巴，它直接被定性为“美国不正当行为的表现”；在全球范 围内，它将 USAID 人员置于危险之中。 （七）数字技术和互联网催生了新的政治选举和社会治 理方式，并改变了抗议运动的形式 第一、“海盗党”采用数字技术挑战传统政党的治理程序。 “海盗党”的主要创新是“流动的民主”并借此尝试改变西方的 关系理论中，可以通过对某些问题进行特别的概念修饰，进 而对其贴上“安全化”的标签，这不仅能够在观念上提升这些 问题的重要性，并且可以用军事方案做“预先处理”。按照这 个框架，互联网和数字技术正在处于被“安全化”的危险之中， 并且最终将被吸纳到政府军事政策的架构之中。 三、数字技术带来了挑战，传统政府组织必须加快自我 调整以适应数字化变革 1648 年的《威斯特伐利亚和约》结束了参战国之间长达一个世纪的冲

虚假信息》报告还指出，深度伪造不仅会影响社会，还会影 响国家安全，可以操纵选举，可能会加剧社会分裂，降低对 机构和政府的信任，破坏新闻业和信息源的可信度。[1]如 今，全球民众都在注视着人工智能、深度伪造在干预政治选 举这条危险道路上渐行渐远，努力应对其可能带来的复杂挑 战及其对国家政治的深远影响。 1. 人工智能成为提升竞选优势的强大工具。在激烈政 治选举当中，人工智能已成为政党和政客寻求在沟通、战略 和决策以及

告，就是利用诱因进行营销。 三是情绪（Emotion）。触动人们的情绪是流行的关键因 素，情绪的互相感染会促使人们分享信息。如，宝马在一部 宣传短片中加入绑架情节、联邦调查局突袭、随时面临死亡 威胁等高危险因素，带来了很好的传播效果。电影《超能陆 战队》的大白成为明星，呆萌的形象与对人无微不至的关怀， 触动了人们的积极情绪。 四是公共性（Public）。公共性是指产品、品牌或思想的 公开性与可

AI 比我 们聪明得多，它就会非常擅长操纵，因为它会从我们那里学 到这一点，而且很少有聪明的东西被不太聪明的东西控制的 例子。”辛顿提到的“操纵（人类）”是 AI 系统带来的一个 特别令人担忧的危险。 AI 系统能否成功欺骗人类？多项研究表明，AI 已经能 够无师自通地学会欺骗手段，自行做出不诚实的行为。在一 些与人类选手的对抗游戏中，它们为了赢得游戏，会在关键 时刻佯动欺骗，甚至制定周密阴谋，以化被动为主动，获得

该国的政治 两极分化急剧加剧。根据最新情况，左翼联盟在二轮投票中击 败极右翼势力，但没有获得可以组阁的绝对多数席位。这一结 果让法国面临悬浮议会的惊人前景，作为欧盟支柱之一的大国面临政治瘫痪的危险，将对自身乃至欧洲的稳定产生深远影响。 据环球时报、中国新闻网等报道，法国总理阿塔尔辞职被接受， 但他将继续负责日常事务，直至新政府成立。现任奥运安保的 总负责人、法国内政部长达尔马宁在选举前曾警告说，如果执

对党的虚假叙事，以破坏民主、人权和法治原则。[6]深度 伪造技术专家亨利·阿杰德（Henry Ajder）对此表示担忧， 强调深度伪造的宣传材料具有公众说服力及影响公众舆论 的能力。阿杰德指出，社交媒体和虚假账号十分危险，充斥 着令人信服、听起来很像人类的深度伪造演讲，可以有效地塑造叙事并影响公众情绪。当未经证实的内容与个人的先入 为主的观念或偏见相一致时，它可能会被斥为“虚假”，从 而导致对真相的理解支离破碎。[7]事情的原由是：5

一封公开信，呼吁暂停开发比GPT-4更强大的AI系统至少6 个月，称其“对社会和人类构成潜在风险”。通过智能摄像头识别陌生人、车辆， 并在出现可疑行为时发出警报，监控 住宅小区的安全。监测火灾、煤气泄 漏等危险情况。 安全监控： 协助家庭实现智能用电，提高能源利 用效率。例如，它可以根据居民的生 活习惯和实时用电需求，自动调整空 调、照明等设备的运行状态。 能源管理： 实时监测空气质量、噪音水平等，提