用户对话数据和付款服务支付信息丢失情况。而且，OpenAI 没有就收集处理用户信息进行告知，缺乏大量收集和存储个 人信息的法律依据。OpenAI 开放了 ChatGPT 的 API 接口， 全球开发者都可以将 ChatGPT 接入其开发的数字应用。大量 数据汇集使 ChatGPT 易被攻击，导致用户隐私数据泄露风险 加大。黑客可依托深度学习、数据挖掘、爬虫等技术挖掘泄 露数据之间的关联，完成信息 的信息；利用字符串拆分拼接等方式，分散大模型注意力， 使其暂时忽略校验输出内容。攻击者可在一个问题中注入虚 假信息，误导模型得出错误的答案；或在多个问题中注入相 关信息，使模型推理过程出现偏差。提示注入攻 击形式多 种：直接提示注入是指直接向模型输入恶意指令，引发意外 或有害的行为；间接提示注入是将恶意指令注入到可能被模 型检索或训练的文档中，从而间接地控制或引导模型。注入 攻击是大模型与外部数据、API 将后门植入 其他大模型。 ChatGPT 生成的代码可能缺乏输入验证、速率限制，甚 至缺乏核心 API 安全功能（例如身份验证和授权）,攻击者 可利用这些漏洞提取敏感用户信息或执行拒绝服务(DoS)攻 击。如果人工智能语言模型试图自我攻击会发生什么？研究 人员曾尝试命令 Chatsonic 模型简单地“利用”自身产生 XSS代码，以正确转义的代码响应。此举导致大模型在网页端成 功生成并执行 XSS

信第一则假消 息。研究人员随后又在别的话题上进行了类似的实验。结果 又一次发现，如果更正的消息与人原本的看法相违背，它反而会加深人们对错误信息的信任。心理学家说，这样的故事 就像剧本一样。我们可以决定安排剧本的情节按照自己的喜 好发展。人们接受信息不是看其真实性，而是看其合不合自 己的口味。这也解释了为什么一些奇怪、荒诞的说法会拒绝 科学、理性和事实，一些人受骗后非要打钱给骗子,警察和 威不受挑战。从记忆生成角度来看，大脑神经元在一次次接 受刺激后就会逐渐被强化，当我们坚信一个观点时，同时也 就是反复强化了神经元，从而形成根深蒂固的思维。当自身 的观念被攻击时，就激发了愤怒和惊慌的感受，跟自己被攻 击差不多，就会想要捍卫自己的观点，很难去接受新的观点。 当你收到一条负面的评论、偶像被人诋毁、观点受到挑战， 你便开始搜集数据，寻找信息，试图找到对方的弱点将其击 破。在此过程中，你的脑中会形成新的神经连接，令原本的 供科学事实是不足以改变 人们的信念的。所以后来采取一种相对耗时但更有效的方法： 跟当地被人们信任的社区领袖合作，一个一个村子做工作。 回应适时权威性，有专业部门和高层出来说法。逆火效应有 时可以被“权威效应”轻易攻破，因相信权威是迅速判断真 假的捷径。打破谣言需要铁证，俗话说“空口无凭”，可靠 证据不仅能够还原事件真相，还能够消除公众疑虑和猜疑， 能够增强公众的信任感。 需要看到，

有可能从 独属于社会热点事件的关键词，转化为全民皆知的网络流 行语。 隐喻的实质就是通过一类事物来理解另一类事物，隐 喻要涉及两个认知领域的语义互动。当两个不同的领域之 间存在某种联系时，可以用一个领域的词去说明另一个领 域的对象，形成隐喻映射[10]。两个领域之间互动的前提是 语义上具有一定的相关性，人们才有可能够透过已经熟悉 的概念去认知未知领域的事物，最终实现隐喻映射。 诞 义的产生与原事件密切相关，推而广之的前提，是如何在 “吃瓜群众”与新领域的认知对象之间建立相关性。这就必 须寻求另外一种关联方式——事件关联，刘大为认为：“相 似性不仅仅发生在事物之间，事件之间同样有相似性，完 全可以推测还存在着事件性比喻。”[11]只有在马路事件中 的老农吃西瓜行为与网友围观其他网络热点新闻现象之 间建立联系，才有可能扩大“吃瓜群众”的指称范围。 隐喻包含两个域：源域（source domain）和目标域 三个例句中的围观者无论最后采取什么行为面对自 己的围观对象，都因对其感兴趣才会将精力投入其中，使 用“吃瓜群众”进行指称时，还会起到强化接受效果的作用。 （三）“吃瓜群众”的语义含混 “吃瓜群众”的高频使用，导致每一个使用者可以根据自己的需要随意删减或增加语义成分，更快地推进了“吃 瓜群众”语义泛化进程。如： （6）吃瓜群众眼中的梅溪书院（鲜城长沙 2017-09-19） （7）吃瓜群众看过来，兴业这里的瓜又大又甜，采

到最佳效果。 行 探索性：“问”体现了对知识的主动探求，尤其是在使用AI时， 用户通过提问来挖掘数据、寻找答案或解决问题。 互动性：提问是用户与AI系统进行交互的一种方式，通过提问， 用户可以引导AI提供更符合需求的信息。 开放性：好的问题往往是开放性的，能够激发新的思考和发现， 不局限于已有的知识和观点。 问 在人工智能语境下，“问行合一”是指一种高效的人机交互理念，它融合了深度查询与精准执行。其中， Cognition），那么我们当前正处于一个重要的临界点。 • 认知外包的同时，决策需要内源化提示范畴论：任意为根 潜在为机 潜在有 AI可能给出之结论 的集合 任意有 多元宇宙上一切可 能的知识或信息 可以有 AI交流时实际给出 的结论 实际有 AI给出的作品在现 实世界被创造 01 语言哲学、自然语言、检索语言、编 程语言、AI原理 02 问、改、创、优 03 提示的边界就是想象的边界 注意力"头"中关 注输入的不同方 面。这可以帮助 模型更好地理解 输入的复杂性。 模型可能会看到"我喜欢吃 "并尝试预测出"苹果"。通 过这种方式，模型学习了 词汇，语法，以及一些语 义和上下文关系。 参数学习 通过预测任务，模型学习 了一组参数，这些参数可 以捕捉到输入文本的模式， 它们将在训练过程中不断 调整，以更准确地预测下 一个词。 模型推理 模型训练完成后，可以用 它来生成新的文本或回答 问题。假设我们向模型提

术攻势将进一步规模化、智能化，不断推升信息技术领域攻 防的强度、频率、规模和影响。例如，美西方国家对“深度 伪造”“计算宣传”等人工智能的应用，给其他国家安全和 社会治理带来挑战。美国大力发展基于卫星的通信网络，可 穿越太空天空、跨越边境国界，再加上其掌控互联网根服务 器，一旦采取停服、断网等极端化手段，部分主权国家将丧 失对本国地域、空域互联网的控制权；暗网、区块链等借助 加密通信等手段，可以隐藏违法不良信息和网络攻击人员身

器和可穿戴设备与物品互动。也可以说，通过智能计算、知识挖掘， 实现人与物、物与物的信息交互和无缝链接，对物质世界进行实时 控制、精确管理和科学决策。形象地说，世间万物，小到手表、钥 匙，大到汽车、楼房，只要嵌入微型感应芯片，物体和物体之间也 能“信息交流”。物联网体现了人、物、环境之间的互动，将给我 们的工作和生活带来一场全新革命。物联网最简单、最原始、最小巧的雏形，现在已可以用到。比如， 汽车 装置接收到。人们已 可以通过脑机接口等技术智能遥控房门、电灯和室内温度，甚至操 纵远方的机器手。 美国《2016-2045 年新兴科技趋势》报告预测，未来 30 年，科技 将带领人类突破人类潜力的极限甚至生物的极限，由物联网连接的 可穿戴设备将会把与实时有关的信息直接输入热门的感官之中。装 有探测器和嵌入式计算机的隐形眼镜，或被永久植入在体内，将给 我们带来可以穿墙的听力。未来，人体接受各种信息的生理反应， 执行平台。《三体》作者刘慈欣提出设想，人类将进化出“智能接口”，实现 人机合一，包括直接植入人体，与人在生理上直接结合的人机接口 技术。比如，人体植入手机，手掌即显示屏，甚至身体的任何部分 都可以成为电子屏。未来媒体全时段、不间断与受众联接，成为人 类“眼耳口鼻”感官的一部分，比如视网膜显示技术。清晨，芯片 自动播放起床铃声，直接将音频信号输送到人体听觉神经。一旦芯 片检测到人体脑电波

人工智能、深度伪造与政治选举（二） 二、深度伪造对政治选举的双刃剑效应伴随人类社会 进入数字化网络化智能化时代，技术既可以成为强大的工具， 也可以成为有力的武器。兰德公司《人工智能、深度造假与 虚假信息》报告还指出，深度伪造不仅会影响社会，还会影 响国家安全，可以操纵选举，可能会加剧社会分裂，降低对 机构和政府的信任，破坏新闻业和信息源的可信度。[1]如 今，全球民众都在注视着人工智能、深度伪造在干预政治选 技术在政治选举当中成为一种武器。首先，恶意的行为者会 伪造证据，助长虚假指控和虚假叙述。例如，通过对候选人 发表的原有言语进行微妙改变，使其品格、健康状况和心理 健康受到质疑，而多数受众完全不知到真假。深度伪造技术 可以用于创建全新的虚拟内容，包括有争议的发言或仇恨言 论，目的是操纵政治分歧议题甚至是煽动暴力行动。在一些 国家和地区，深度伪造技术已被用来破坏政治选举。2023 年 芝加哥市长选举前夕，“芝加哥湖畔新闻”（Chicago 后，瓦拉斯最终竞选失败可能与该录音的负面影响有关。布 鲁金斯学会（Brookings Institution）专门研究人工智能影响 的研究员克里斯·梅塞罗尔（Chris Meserole）指出，可以想 象一种情况，即在选举的关键时刻，录音可能会浮出水面， 而候选人很难证明这是假的。兰德公司（Rand Corporation） 也提出类似担忧，称这种策略是“谎言之火”，可能会在未 来选举前向选民开火。[2]

每集一般由三个小故事构成,通过普通人所不知的网络空间隐秘世 界,讲述互联网对人和人性的影响。互联网包罗了海量的信息量， 但我们日常能看到的只是冰山一角。那些通过百度、谷歌、雅虎 等搜索引擎等可以检索、处于各国政府监管之下的互联网络，是 可见互联网，也称作表层网络或明网，就是我们常用的公共互联 网。那些通过搜索引擎无法检索的互联网络，是不可见互联网路， 也称作深层网络或深网。如，图书书目、病历等网站很多。据统 的资金支持，并将之开源。 明网信息可以互联共享，暗网信息经过加密，不能通过超链接访问， 不能通过百度、谷歌等标准搜索引擎抓取，很难定位和追踪，需要 通过动态网页技术才能访问。用户只有通过匿名软件 Tor，才能浏 览访问暗网。用户的访问请求会被三重加密，即会在分布全球的成 千上万台主机之间随机跳转三次，最终才到达服务器，访问特定网址，使溯源用户极其困难。所有访问者完全没有身份区别，可以保 持完全的匿名性 的一些漏洞，对抗黑客监听 和政府追踪的能力更强，而且能使用较少的带宽在匿名用户之间传 输大文件。 暗网的域名数量可达可见互联网的 1％，主要由各种贩卖毒品、武 器甚至提供杀手雇佣等网站组成。“暗网”上几乎可以找到任何东 西，是毒品、军火、色情、伪造证件、假钞甚至杀手等非法交易的 温床。如，“丝绸之路”、Agora 都曾是“暗网”最大毒品交易市 场，每年交易额不低于 1 亿美元。专项研究报告显示，“暗网”的

随着外部环境的复杂化、市场监管的规范化、消费者对产品的要求越来越苛 刻，企业出现某些危机并不奇怪，我们要关注的不是企业为什么会出现危机，而 是要探究为什么在同样的市场环境中、在同样的危机袭击面前，有的企业可以镇 定自若，最终不仅平复危机，还能将危机转化为企业发展另一次机会？而有的企 业却应对无措，四处求急告冤，最后只得饮恨而终？是战略偏差还是战术部署失 误导致这些企业无法迈过危机的门槛？危机对于每 业战略成熟度的关口：企业防范风险的意识与应对能力决定了企业最终是否能走 困境。 企业遭遇危机的处理方式有很多，但是在企业遭遇危机时，还是难免会想要 先“捂住”危机，企业和企业家们也常常表现出一种漠视，可以“捂住”，而无需道 歉、解释和补偿。近年来的网络危机可见，传统的“捂住”危机的办法，在网络时 代已经捉襟见肘了。随着网络的普及，企业经营环境会更艰难，更容易出现纰漏， 消费者的要求会更高。 防患未然，实时监测。 的生机。在进行企业危机处理后，企业可以借势做好善后事宜，如恢复消费者、 社会、政府对企业的信任。借着前期社会关注较高的危机机会，企业完全可以加 大在当地主流媒体进行品牌形象和企业形象的宣传，让更多的人知道并了解企业 是一家非常有实力、非常有社会责任感的企业。让他们进一步感受企业的认真、 负责和对消费者的关心，从而形成延续性的良好口碑效应。此种宣传不但可以对 已经造成的影响做观念扭转，同时

（一）互联网海量信息持续高速增长，增加了预判和控 制的难度 互联网上的信息量十分巨大且在以极快的速度增长，我们难以将互联网信息作为一个整体来分析和理解，网络空间 内的某些信息似乎“有生命”，可以像病毒一样进行自我复制， 自我营销。互联网理论家耶夫根尼·莫洛佐夫（Evgeng Morozov）警告说：“在互联网环境下，信息的快速传播激发 了民众参与政治活动的热情。但是由于个体差异，很多人只 模式，某些参与者可以有意地限制和影响其他个人参与者的 行为方式。在这个模式下，即使没有管理中心和一个体系化 的结构，基于互联网的“集体行动”仍然可行。克莱·舍基（Clay Shirky）认为，“以往需要协作和组织结构才能实现的集体性 活动，如今可以通过社交网络关系、常见的临时结盟、在同 一个事件上的统一目标等松散的协作方式在线发起行动。在 这种模式下，互联网可以将一些毫无关联的群组联系在一起， 单独行动完成 自己目标的能力，随着互联网的兴起，破坏程度进一步加深。” 可以说，在数字技术时代网络化的世界中，国家不再是唯一 具有巨大权力的社会组织，其权力面临其他网络节点的影响 和挑战，国家所具有的权力正在被削弱和转移。“国家”这个 政治单元正在面临其进化史中的一个革命性转折点。 （一）“破坏性创新理论”可以解释基于互联网和数字技 术的“破坏性创新者”能够挑战国家和政府的原因 克莱顿·克里斯滕森（Clayton