二、生成式 AI 的伴生风险 8.技术漏洞导致技术风险，会泄露数据、外部攻击等社 会安全风险 从 ChatGPT 到 AGI:生成式 AI 的媒介特质与伴生风险 （九） 。 ·数据泄露风险。大模型需要海量数据，数据在清洗、 处理、传输过程存在数据非法获取或泄露风险，包括个人隐 私数据、商业敏感数据、政府机密数据等各种类型数据。如 果大模型在训练数据时看到很多密钥信息，它很可能在内容

从 ChatGPT 到 AGI:生成式 AI 的媒介特质与伴生风险 （一） 人工智能领域近年来正在迎来一场由生成式人工智能 大模型引领的爆发式发展。全球掀起一场大模型热潮， Gemini、Copilot、LLaMA、SAM、SORA 等国外大模型如雨 后春笋般涌现，中国也掀起百模大战，2022 年被誉为大模型 元年。人工智能正逐渐深入地赋能千行百业，推动人工智能 与数据要素成为新质生产力的典型代表。[1]从 化安全问题，首先需要认清人工智能在信息生成和输出方面 的媒介特质。 一、生成式 AI 的媒介特质 1.一种媒介特质：生成式 AI 是一种大规模信息传播媒 介。生成式 AI 的未来，不仅是无所不能、无所不在的一个 工具，更是无所不包、无所不达的一种媒介。众所周知，媒 介是信息传递的载体，是携带和传递信息的一切形式，既包 括广播电影电视、图书杂志报纸等传统媒介，也包括网络、 手机等新兴媒介。ChatGPT 等人工智能的出现，不仅是一次 等人工智能的出现，不仅是一次 技术革新，也是一次媒介革新。它会按照用户指令自主进行 文本、音频、图像、视频、游戏等内容的再生产或再创作，成为信息传播媒介，同时也是携带和传递信息的传播载体。 作为一种新生媒介，ChatGPT、AGI 与传统媒介的最大区别 是利用算法生成和传播内容。这种内容生成方式被称作 AIGC（人工智能生产内容），即由人工智能作为内容创作主 体，利用深度学习算法与场景决策模型等技术生成内容，是

个单词，远快于 人类生成文本的速度。第二种是利用多模态和迁移学习，超 越文本数据从其他领域获取数据，比如视频、图像、金融市 场数据或科学数据库。[1 从 ChatGPT 到 AGI:生成式 AI 的媒介特质与伴生风险 （五） ] 不过，这并非是解决问题的良策。如果网上大部分文本都是 AI 生成的，而用合成数据训练的大模型会发生什么？ 大模型开发需要更多数据进行训练，而由 AI 生成的合成数

从 ChatGPT 到 AGI:生成式 AI 的媒介特质与伴生风险 （六） 二、生成式 AI 的伴生风险 5.人机能力非对称导致“自主欺骗”，会有目的欺骗人 类甚至主动欺诈和选举篡改。2023 年，OpenAI 提出超级对 齐（superalignment）[1]概念，即当超级智能拥有比人类更 丰富的世界知识，比人类更聪明时，人类作为弱监督者如何 监督、对齐和控制超级智能。人民大学高瓴人工智能学院、

从 ChatGPT 到 AGI:生成式 AI 的媒介特质与伴生风险 （二） 二、生成式 AI 的伴生风险 ChatGPT 等生成式 AI 具有强大的自然语言处理能力， 展现出惊人的推理能力，但人们对其内在运行机理尚不清晰， 可解释性的难度很大，并存在一些技术缺陷，这些问题能否 解决对控制并限制人工智能的负面影响至关重要。需要看到， ChatGPT 等在短时间积聚起庞大活跃的全球用户群体，正给 等在短时间积聚起庞大活跃的全球用户群体，正给 人们的生产生活方式、思想行为观念带来重大影响。但是， 这种以数据和算法驱动的人工智能媒介，也存在虚假信息泛 滥、干扰舆论导向、挑动价值对立、传播不良内容等伴生风 险，就像一头正在向我们走来的灰犀牛。2023 年 5 月，Gartner 发布法律和合规领导者必须评估的 ChatGPT 风险报告并指 出，ChatGPT 和其他大型语言模型（LLM）工具生成的输出 容易受到多种风险的影响。[1]生成式

20%。作为全球最大的数字社会之一，中 国社交媒介用户已超 10 亿，超过 95%以上的移动用户通过移 动设备访问社交媒介。 在国内，既有以熟人关系为主的强连接社交媒介，如微 信、QQ 等；也有以陌生人社交为主的弱关系社交媒介，如微 博、小红书、抖音等。在这些社交媒介中，用户生产、全民 参与保证了数字内容的源源不断，也共同构建了新时代的文 化生态、传播景观。 对比分析：社交媒介内容生态特点 （一）传播模式：全民参与，建构交互关系 （一）传播模式：全民参与，建构交互关系 传统媒介传播通常采用单向的线性传播模式，信息由传 播者传递给接收者，再通过特定渠道进行反馈，但反馈的即 时性较弱，机会也较少。这种传播模式常见于从上到下、从 专业到非专业的权威（专业）传播中，虽然具备一定的广泛 性和权威性，但缺乏互动，受众的参与感不强。 社交媒介的传播强调全民参与和交互，形成自下而上的传播，是一种多维立体的网状结构，它通过鼓励受众参与， 也更加多元，讨论议题不再受传统传播者的限制，具备更多 不可预测性。 （二）受众角色：参与内容生产和分发 传统传播中，受众是“想象中的受众”，是模糊的、不 确定的大众概念，其内容创造力和传播力也被限制。而在社 交媒介中，受众则从“想象受众”变为“量化受众”。他们 按自己的表达欲和资源储备进行内容呈现，较少受到他人的 限制。 在内容分发过程中，一方面在算法推荐环境下，受众及 其行为被标签化和量化以改善算法体验，从而使得算法收集、

律法规体系，明 确界定网络言论自由的边界，对恶意制造谣言、煽动社会情绪、干扰司法公正等 行为给予严厉的法律制裁。同时，加大对违法行为的惩处力度，提高违法成本， 形成有效震慑。提升公众媒介素养：加强公民媒介素养教育，提升公众对信息的甄别能力和 批判性思维。通过普及网络知识、讲解媒体运作机制等方式，引导公众理性看待 网络舆论，避免被不实信息所误导，从而减少舆论被不法分子操纵的可能性。 强化

众关切，对于涉及群众切身 利益的事件，特别是涉及老百姓生命、财产及安全的事件，政府部门要尽量披露、 不要掩盖事实。其次，营造良好的网络环境，倡导网民运用正确的网络话语权维 护公众利益。提高网民媒介素养，实现网络空间自我净化，营造良好的自媒体舆 情环境。再次，压实网站平台主体责任，整治流量至上和“饭圈”乱象，努力营造 积极向上的网络环境。加大网络执法力度，对于散播网络谣言的行为进行依法治

互联网时代，企业必须提高网络危机公关意识 互联网的兴起，改变了媒介与受众之间的传播关系，同时也改变了整个传播 的话语环境。人们开始注意到，很多新闻事件，都是从网上开始被人炒的很热了， 传统媒体才开始介入，而传统媒体的介入，又引起了新一轮的讨论。如此循环， 议程设置的掌握者，不再是传统媒体手中的专利。而在以往，这是不太可能的。 网络已经成为企业危机公关的触发器与放大器：在网络的作用力下，精英媒

题还会带来网络信息管理的风险。 二是社会困境。一方面，建设网络舆情治理的数据收集、 储存、使用监管体系和技术分析系统需要雄厚的资金和充足 的人力；另一方面，数字技术量化并重构了信息传播效果的 评估指标和评价体系，造成媒介道德素养与“注意力经济” 之间的矛盾，而普通网民容易被智能推荐算法等技术裹挟， 从而削弱其认知和思维能力。互联网和人工智能技术的快速 发展能够助力网络舆情治理，但学界对此也存在争议。比如， 协同转变，避免陷入“塔西佗陷阱”。第二，网络媒体要坚 守底线，兼顾网民的情感审美与商业利益，创新技术驱动情 感的治理模式，以更加契合心理发展和人性特点的技术手段 消解网民的非理性情绪。第三，提升网民的媒介素养，帮助 其在网络谣言、网络暴力和网络民粹中保持清醒，不要被群 体思维裹挟，不断提升个人感知能力和判断能力。比如，有 学者运用“理性情绪疗法”来应对公共危机事件中的网络舆 情，关注网民情绪