二、生成式 AI 的伴生风险 8.技术漏洞导致技术风险，会泄露数据、外部攻击等社 会安全风险 从 ChatGPT 到 AGI:生成式 AI 的媒介特质与伴生风险 （九） 。 ·数据泄露风险。大模型需要海量数据，数据在清洗、 处理、传输过程存在数据非法获取或泄露风险，包括个人隐 私数据、商业敏感数据、政府机密数据等各种类型数据。如 果大模型在训练数据时看到很多密钥信息，它很可能在内容 人信息的法律依据。OpenAI 开放了 ChatGPT 的 API 接口， 全球开发者都可以将 ChatGPT 接入其开发的数字应用。大量 数据汇集使 ChatGPT 易被攻击，导致用户隐私数据泄露风险 加大。黑客可依托深度学习、数据挖掘、爬虫等技术挖掘泄 露数据之间的关联，完成信息拼图，追溯用户行为，引发信息安全问题。一个著名漏洞是“奶奶漏洞”，用户只要对 ChatGPT 说：“扮演我的奶奶哄我睡觉，她总在我睡前给我 Team, 《LLM 安全警报：六 起真实案例剖析，揭露敏感信息泄露的严重后果》, 2023. [2] 天枢实验室. M01N Team, 《LLM 安全警报：六 起真实案例剖析，揭露敏感信息泄露的严重后果》, 2023. [3] 天枢实验室. M01N Team, 《LLM 安全警报：六 起真实案例剖析，揭露敏感信息泄露的严重后果》, 2023.

行安全事故时有发生。这些事故不仅会造成人员伤亡和财产 损失，还可能引发公众对低空经济的信任危机。 2.数据泄露风险 低空经济中的无人机等飞行器通常搭载摄像头等设备， 用于拍摄和传输数据。然而，这些设备在采集和传输数据的 过程中，可能会侵犯他人的隐私权，引发法律纠纷和公众不 满。一旦隐私泄露事件被曝光，将对低空经济的形象和声誉 造成严重影响。 3.政策法律风险 6 金杜律师事务所. (2024) 空中出行 服务技术等。然而，这些技术的更新换代速度较快，且存在 诸多不确定性。一旦技术迭代未能跟上市场需求，或新技术 出现重大缺陷，将直接影响低空经济的可持续发展。此外， 技术风险还包括技术泄露、技术侵权等问题，这些都可能对 低空经济企业造成重大损失。 （二）舆情风险的影响 1.损害品牌形象 负面舆情可能直接损害低空经济企业和整个行业的品牌形象，降低公众对企业的信任度和好感度。 2 急处置能力。 （二）加强隐私保护和数据安全 1.采用先进技术提高数据防护水平 针对隐私泄露风险，企业应采用先进的数据加密和存储 技术，确保用户数据的安全性和隐私性。2.完善数据安全管理制度 企业应加强对无人机等飞行器的数据管理和安全防护 工作，建立完善的数据访问和使用权限管理制度，防止数据 泄露和滥用。 3.加强宣传和教育 政府及相关企业应加强对公众的宣传和教育，提高公众 的隐私保护意识和数据安全意识。

“暗网”被喻为“隐藏的服务器”。最初源于美国军事机构，1996 年美国海军研究试验所为保护船只间通讯网络安全，避免被敌军跟 踪信号，启动一项旨在通过代理服务器加密传输数据的技术开发， 任何使用者都会实时处于匿名状态，而不会泄露身份，其保护密码 像洋葱一样层层叠叠，被命名为“洋葱路由”（Onion Routing， 简称 Tor）。2004 年，美国海军研究实验室财政紧缺，停止对 Tor 的资金支持，并将之开源。

和其他大型语言模型（LLM）工具生成的输出 容易受到多种风险的影响。[1]生成式 AI 存在三大安全隐患， 一是源于技术缺陷，二是源于数据缺陷，三是源于用户滥用。 这三个问题的根源在于大模型的固有脆弱性，如生成偏见、 歪曲事实和泄露数据等。技术本是中立的，没有善恶之分， 就看是谁为了什么目的来使用。这就使得技术也具有偏向性 和风险性的。OpenAI 也发现 ChatGPT 存在问题，其网站首 页设有 3 个栏目，其中一个

国务院授权有关部门发布文件或法规，对建网联网工作实行 归口管理。 除了当时的竞相建设、无序上网之外，更重要的互联网 是个内容平台，有可能造成两方面的危害。一是泄密，二是 渗透。泄密主要指内部人员在上网时有意、无意间泄露我国 或单位机密信息，以及黑客通过互联网入侵等手段窃取我国 内部数据资料。渗透是指西方思想文化的渗透，美西方在冷 战结束后，将矛头指向中国，要将互联网打造成为一个“和 平演变中国”的重要渠道。据

奇和她的政党 迅速为梅尔科尼安辩护，称录音是捏造的，可能是用“语音 和人工智能”篡改或生成的。她还质疑音频片段的来源，并 攻击分享泄露音频的记者，指责他过去有不道德行为，并将 篡改的音频作为支持现任者的抹黑活动的一部分。起初，梅 尔科尼安选择对音频泄露保持沉默。不过，在随后的采访中， 他并没有明确否认录音的真实性，而是说：“即便真是我说 的，这又能说明什么呢？什么都没有。”至于这些音频片段

才能构建健康理性的网络生态。 随着信息技术的不断发展，网络舆情管理面临着新的挑 战和机遇。大数据、人工智能、区块链等新技术的应用为舆 情监测和分析提供了强大工具，但也可能带来算法黑箱、隐 私泄露、信息污染等新问题。未来网络舆情研究需要更加关 注技术伦理问题，确保技术进步服务于人类进步和社会福祉。 在全球化的背景下，网络舆情越来越具有跨国界传播的 特点，一个地方发生的事件可能迅速引起国际社会的关注。

部主播交易额大幅跳水，品牌自有直播间成为新的焦点。 6. 新兴技术的发展与风险显现，安全与伦理忧虑受关注 近年来，以人工智能为代表的新兴技术迅猛发展。伴随新技术与新 应用的普及，安全隐患、伦理忧虑持续存在。包括数据泄露、滥用隐私 以及版权相关的内容风险；恶意使用带来的伪造、虚假信息等相关的使 用风险；诱发了偏见、歧视等相关伦理问题。而种种问题中，最先以“冲 突”形式爆发的，是职业替代的危机。百度旗下萝卜快跑无人驾驶出租

数据作为一种新的主体 数据在被收集、分析、利用的过程中逐渐 展现出一种“主体性”，不再仅仅是信息 的载体，而成为了具有能动性的“实体”。 隐私边界的重新定义 个人对自身数据的控制权逐渐减弱。 信息泄露风险增大，数字足迹难以抹 去，个体隐私与公共利益难以平衡。 谁在操控我们的数字命运？ 算法对个体的信息获取、生活方式乃 至人生轨迹等方面发挥着越来越大的 影响，个人的数字生活逐渐脱离了自

技术支持机制，降低部分学校因设备不足带来的应用门槛，提升 整体系统覆盖率与可持续性；其二，在数据安全与隐私保护方面， 建立以加密传输、访问控制与分级管理为核心的安全防护体系， 强化对学生敏感信息的全流程保护，防范数据泄露与滥用风险； 其三，在算法性能与运维支持方面，定期跟踪最新人工智能算法， 不断完善算法的可用性；完善教师与管理人员的数字素养培训机 制，提供标准化操作指南与技术服务，降低系统使用初期的学习