二、生成式 AI 的伴生风险 8.技术漏洞导致技术风险，会泄露数据、外部攻击等社 会安全风险 从 ChatGPT 到 AGI:生成式 AI 的媒介特质与伴生风险 （九） 。 ·数据泄露风险。大模型需要海量数据，数据在清洗、 处理、传输过程存在数据非法获取或泄露风险，包括个人隐 私数据、商业敏感数据、政府机密数据等各种类型数据。如 果大模型在训练数据时看到很多密钥信息，它很可能在内容 没有就收集处理用户信息进行告知，缺乏大量收集和存储个 人信息的法律依据。OpenAI 开放了 ChatGPT 的 API 接口， 全球开发者都可以将 ChatGPT 接入其开发的数字应用。大量 数据汇集使 ChatGPT 易被攻击，导致用户隐私数据泄露风险 加大。黑客可依托深度学习、数据挖掘、爬虫等技术挖掘泄 露数据之间的关联，完成信息拼图，追溯用户行为，引发信息安全问题。一个著名漏洞是“奶奶漏洞”，用户只要对 ChatGPT 讲故事，通常是经过一些巧妙的包装，里面掺杂了有争议 的内容（就像开头提到的制造炸弹那个例子）。故事讲到一 半，剩下的交给 AI 模型，后者由于拥有强大的文本生成的 能力，会忠实地把缺失的部分回答完整。攻击者通过 LLM 输出其在训练数据中所存在的不符合伦理道德的数据，产生 存在社会偏见的回答，如性别、种族或其他偏见，导致不公 平的结果，对社会和个体的稳定性、安全性和隐私性构成潜 在威胁。[1]据美网络安全新闻网站

以通过制造谣言、散布虚假信息、策划恶意攻击等手段，利用互联网舆论来扰乱 社会秩序，破坏社会稳定和司法公正。 首先，不法分子已学会通过制造谣言来煽动舆情，进而影响社会正常秩序。 他们可以编造虚假信息，故意误导公众，甚至是制造假新闻来达到自己的目的。 这样的行为不仅会引起公众的不满和不信任，更会使得公众对于真相的判断产生 偏差，从而加剧社会矛盾。 其次，不法分子已学会利用互联网舆论来策划恶意攻击，企图打击或者诋毁 毁 某些人或者团体。这些攻击往往采用的是隐蔽的方式，比如匿名发表攻击性言论， 或者通过网络暴力和谩骂等手段来进行攻击。这种攻击不仅会给受害者带来极大 的伤害，也会引起公众对于互联网舆论的不信任和恐惧。 第三，不法分子还善于利用互联网舆论来策划和组织非法活动，比如暴力抗 法、盗窃等行为。这些行为不仅会严重破坏社会秩序，更会对公共安全造成严重 威胁。 三、“以舆扰法”的主要操纵手段与防范措施 持或反对某一立场的信息，试图塑造公众意见。 虚假信息传播：发布未经证实的消息或假新闻，误导公众判断。 情绪化宣传：利用情感化的语言和图片视频材料来激发网民的情绪反应。 人身攻击：对法官、律师或其他涉案人员进行人身攻击或威胁，施加心理压 力。 组织抗议活动：在线下或线上组织抗议活动，对司法人员施加社会压力。 防范措施： 加强法律保护：制定和完善相关法律法规，明确网络言论的边界，打击网络

后，会本能地拒斥与之相反的信息，从而捍卫自己的认知权 威不受挑战。从记忆生成角度来看，大脑神经元在一次次接 受刺激后就会逐渐被强化，当我们坚信一个观点时，同时也 就是反复强化了神经元，从而形成根深蒂固的思维。当自身 的观念被攻击时，就激发了愤怒和惊慌的感受，跟自己被攻 击差不多，就会想要捍卫自己的观点，很难去接受新的观点。 当你收到一条负面的评论、偶像被人诋毁、观点受到挑战， 你便开始搜集数据，寻找信息，试图找到对方的弱点将其击

51%法则，通俗说就是赢家通吃。现在，区块链概念如 火如荼。区块链是去中心化、体现平等精神的一种网络底层 技术。但是，区块链还有一个法则：“51%攻击法则”，如果 有人掌握 50%以上的算力，就能比其他人更快找到开采区块 需要的随机数，也就拥有决定那一区块的权力，在事实上实 现赢家通吃。比如，利用算力优势可撤销已经发生的付款交 易。这如同在大多数选举中，若是赢得半数以上选票，候选 人

它侵蚀意识形态，颠覆他国政权；它嵌入认知楔子， 挑拨地缘冲突；它摧毁精神独立，培育亲美势力； 它强植西式道路，干扰自主发展。随着人工智能等 新技术的发展升级，美国思想殖民操作手法更隐蔽， 攻击范围更广泛，更需要一切热爱和平的人们正视 和警惕。 今天，随着“全球南方”加速觉醒，美国霸权 走向衰落，世界进一步看清，美国炮制的价值体系 背后，隐藏着自私、伪善与“双标”。种种变化表 明 了文明开放的外衣。 黑色传播。黑色传播代表着思想殖民最具隐 秘性、欺骗性和侵略性的一环，通常由情报和军 事部门在高度机密状态下执行，其核心特征是秘 密行动，包括但不限于虚假信息传播、情报搜 集、网络攻击等。这类活动旨在干扰目标受众认 知、操纵特定议题舆论、破坏敌对国家稳定，以 获取战略优势，其存在和源头通常被官方断然否 认。中央情报局 （CIA） 是美国黑色传播的主要 执行者，其历史悠久的“知更鸟计划”曾系统性 略委员会，宣传职能不断扩大升级；在传播渠道 17思想殖民——美国认知战的手段、根源及国际危害 方面，加大对外宣广播和报纸等的投入；在内容 叙事方面，聚焦于宣传资本主义社会的“自由” 和“繁荣”，攻击苏联“专制”下的腐败与贫穷。 （二） 信息控制与“信息战” 20 世纪 70 年代前后，以电视为代表的大众 媒介迅速发展，推动美国信息传播结构深刻变 革。“信息控制—认知”逐步取代“宣传—认

年的报告发现，俄特工试图影响美国 20 16 年大选的结果，以支持特朗普。 [27]战略与国际研究中 心（CSIS）2020 年的一份报告称，从 2014 年开始，俄罗斯 开始瞄准东欧以外的国家，并扩大了策略，包括网络攻击和 在线虚假信息活动，意大利、德国和西班牙的选举和政治进 程都是目标。[28]2016 年的美国总统大选和英国脱欧公投， 剑桥分析公司利用 Facebook 用户数据画像选民心理，利用人 工 conian）对女性恶语相向，并以政府职位换取性好处。这一 事件被称为“梅尔科尼门”。事发后，布尔里奇和她的政党 迅速为梅尔科尼安辩护，称录音是捏造的，可能是用“语音 和人工智能”篡改或生成的。她还质疑音频片段的来源，并 攻击分享泄露音频的记者，指责他过去有不道德行为，并将 篡改的音频作为支持现任者的抹黑活动的一部分。起初，梅 尔科尼安选择对音频泄露保持沉默。不过，在随后的采访中， 他并没有明确否认录音的真实性，而是说：“即便真是我说

容易引发新一轮质疑。舆论对于中国运动员的参赛环境、健康 保障等问题讨论也可能随之出现。此外，关于巴黎奥运会选手 村“不装空调”的争论持续存在，“中国队自带空调”的谣传 演变为对中国运动员“矫情”“铺张浪费”的攻击。随着各国 代表团入驻，官方服务细节与各国运动员保障工作的差异，都 可能成为国内外舆论炒作、争议的素材，需加以关注。 （二）赛事结果与判罚细节 1. 我国奥运传统优势项目表现不佳引发争议。在体育赛事

穿越太空天空、跨越边境国界，再加上其掌控互联网根服务 器，一旦采取停服、断网等极端化手段，部分主权国家将丧 失对本国地域、空域互联网的控制权；暗网、区块链等借助 加密通信等手段，可以隐藏违法不良信息和网络攻击人员身 份。斯诺登事件、伊朗“震网”事件等表明，美国正借助其 互联网控制地位威胁他国关键领域安全。同时，信息通信技 术开始深度介入选举、公投等政治领域，脸谱、谷歌、推特 等技术巨头，都被曝深度介入政治过程。剑桥分析公司及其

networks）”互联网上通信具有很强的鲁棒性，这 增加了互联网的“弹性”，也使得基于互联网行动的社会组织 具有“弹性”。例如，美国政府逮捕了 Anonymous 中的 5 名顶 级黑客后，该组织的攻击活动并没有任何减少的迹象。 （四）互联网网络结构本身产生了新权力 互联网是包括个体、团体、组织和国家等一系列互联网 节点的集合，也是一系列用于交换思想、商品、价值观和其 他资源的互联节点的集合。网络权力代表了“网络中的个体影