....................................................... 61 61 62 62 65 67 70 72 76 79 82人工智能安全治理框架2.0 前 言 ⼈⼯智能是⼈类发展新领域，
深刻改变⼈类⽣产⽣活⽅式，
给世界带 来前所未有发展机遇，

也带来前所未遇⻛险挑战。

落实《全球⼈⼯智能治 理倡 开源业态新挑战，

综合运⽤技术、

管理措施，

防范应对不同类型⻛险。

围绕 ⼈⼯智能研发应⽤⽣态链，

明确模型算法研发者、

服务提供者、

系统使⽤者 1.⼈⼯智能安全治理原则 人工智能安全治理框架2.0 - 2 -等主体的安全责任，

有机发挥政府监管、

⾏业⾃律、

社会监督等治理机制 作⽤。 1.4 开放合作、

共治共享。

在全球范围推动⼈⼯智能安全治理国际合 、

服务提供者、

⽤⼾、

政府部 ⻔、

社会组织等各⽅发现、

防范、

应对⼈⼯智能安全⻛险的措施⼿段，

以及 深化⼈⼯智能安全治理国际交流合作等建议，

推动相关各⽅协同共治。 人工智能安全治理框架2.0 - 3 -2.4
研发与应⽤的安全指引。

提出模型算法研发、建设部署、运⾏管理， 以及访问使⽤的引导性安全规范。此外，针对潜在的技术失控⻛险，提出可 信⼈⼯智能基本准则，引导国际社会共识。

从语言到人工智能：每一次传播革命都是 一次人类社会的进步 撰文 | 南方封面图片来源 | Pixabay 人类传播媒介的发展历程，是一部波澜壮阔的文明 演进史诗。从远古时期语言的诞生，到现在人工智能的 崛起，每一次媒介变革都深刻地改变了传播格局与人类 社会的面貌，推动着人类文明不断向前发展。 媒介是人与人之间发生关系的介质或工具，传播是 人与人之间通过媒介所进行的、有目的的信息传递活动， 这两者密不可分。人类每一次传播革命或媒介革命，都 是人类意识的升华与延伸。 语言是嘴巴的延伸，文字是眼睛的延伸，广播是耳 朵的延伸，电视是耳朵和眼睛的延伸，互联网是眼睛、耳朵、嘴巴和手的延伸，人工智能是大脑的延伸。这些 带给人的是一次次思想革命和认知革命，带给社会的是 一次次升级和一步步进化。 一、语言：人类传播的起源与基础 语言的产生是人类进化史上的一个重大里程碑，其 诞生背景与 究参考。 在特定领域的知识传播方面，期刊发挥着关键作用。 期刊能够及时传播最新的研究成果和行业动态，促进知 识的更新和进步。如在人工智能领域，《人工智能》《机 器学习研究杂志》等期刊会定期发表关于人工智能算法、 模型、应用等方面的最新研究成果，以及对人工智能发 展趋势的分析和预测，为该领域的研究人员提供了重要 的信息资源。广播 广播的发明是众多科学家和发明家共同努力的结果， 其发展历程充满了探索与创新。1906

学习笔记 1/19 人工智能驱动了网络变革 网络承载了人工智能发展 AI Runs Networks and Networks Run AI 【摘要】：人工智能（AI），不仅是国家发展的战略性技术， 而且已在现实中发挥了作用。然而，“AI 作为信息技术（IT） 工作负载的重要分支”，AI 本身是技术生态系统（Ecosystem）的 组成部分。AI ut），跨域扩展（Scale-Across） 2025 年 11 月 7 日，（英国）伊丽莎白女王工程奖（Queen Elizabeth Prize for Engineering）颁发给了人工智能（AI）革命的 六位关键人物：  Geoffrey Hinton（杰弗里辛顿）, Yoshua Bengio（约书 亚·本吉奥）, Yann LeCun（杨立昆）: 深度学习（deep Huang（黄仁勋）: AI 产业化的最大推动者。 颁奖典礼结束后，六位获奖者进行了一场圆桌对话，核心 主题是：通用人工智能（AGI）真的到来了吗？ 虽然没有人给出标准化的定义，也没有人主张这项技术 已经成熟，但是这六位 AI 先驱者从各自的角度表达了相同的 信息：通用人工智能不再是遥不可及的目标，并已经开始在现实 中发挥作用。 其中：  李飞飞的“顿悟”（epiphany）来自数据：人类智能在

体 等渠道，大量发布魔改视频，吸引用户点击观看，从而获取流 量和广告收入，这种商业化运营方式，进一步加剧了 AI 魔改剧 的乱象。 三、治理现状 （一）人工智能相关的法律法规，需加强法律法规约束力 国家网信办公布的《生成式人工智能服务管理暂行办法》 《互联网信息服务深度合成管理规定》已有相关规定，其对于 图像类、照片类的生成、合成都有严格的要求。要求制作者、 服务提供者应“在视频 的提 示标识”。12 月 7 日，广电总局网络视听司发布《管理提示》指 出。为营造清朗网络视听空间，要求各相关省局督促辖区内短 视频平台排查清理 AI“魔改”影视剧的短视频，严格落实生成式 人工智能内容审核要求，举一反三，对各自平台开发的大模型 或 AI 特效功能等进行自查，对在平台上使用、传播的各类相关 技术产品严格准入和监看，对 AI 生成内容做出显著提示。而从 现实情况看，这些魔改视频中很少有主动标识的。 放矢、落地有声。 （三）互联网平台自律较差，内容审核机制不健全国内各大短视频平台如抖音、快手等积极响应官方号召， 加强内容审核机制，对涉嫌违法违规的 AI“魔改”视频进行清理。 通过算法优化和人工审查相结合的方式提高识别效率，并设立 了举报渠道供用户反馈。但从实际情况来看，内容审核机制不 健全，对用户发布的视频内容审核不严，平台仍然充斥大量的 乱象视频。在落实有关规定方面，存在责任认识不充分、角色

结构化、 系统化方向发展。而官方政务号，则成为事件定性、调查进 展和信息对齐的关键节点，是权威发布和秩序重建的主渠道。二、教育领域舆情监测与响应对策 （一）通过技术驱动与人工协同，建立全方位监测体系 构建“系统+人工”“线上+线下”的双轨监测机制。依托专 业舆情监测平台，对主流媒体、社交平台、短视频、教育垂 直论坛等实施 7×24 小时实时采集。关键词库需动态覆盖学 校名称、校园安全、教育收费、食堂品质、师德师风等核心 场景，确保教育相关敏感信息第一时间捕捉。同时，通过大 数据技术对声量、情感、传播层级进行聚类分析，识别潜在 热点和苗头性风险。 设立专职舆情巡查岗，每日对系统推送的预警信息及重 点平台进行人工复核。巡查人员须具备较强的信息甄别和风 险研判能力，能够辨别信息的真实性与危害等级，尤其注意 加密表述、局部传播和线下外溢信号。此外，还应建立校内 信息员机制，通过教师、家长、学生等多方渠道收集线下动

机结合。依法回应要求严格按照法律法规处理舆情事件，提 升政府行为的合法性和权威性，避免因回应不当引发次生舆 情。近年来，中国着力于利用技术手段实现对海量的网络舆 情信息进行深度挖掘与分析，以快速汇总成舆情信息，从而 以替代人工阅读和分析网络舆情信息的繁复工作。 舆论引导则要求政府及时、准确地向公众传递信息，防 止谣言传播和舆论失控。这包括完善事实核查机制，推动权 威信息发布，增强信息透明度，减少公众猜疑。例如，在公 平台自律是互联网企业履行社会责任的重要体现。平台 方应优化推荐算法，避免过度强化用户偏好，促进观点多元 呈现；建立更严格的内容审核机制，对恶意炒作、虚假信息 等行为进行有效遏制。例如，一些平台通过建立内容审核算 法和人工审核相结合的方式，有效识别和处理违规信息，防 止虚假有害内容的传播。 3.3 机构有效利用与参与 各类机构（包括媒体、教育机构、第三方组织等）在网 络舆情治理中也可以发挥重要作用，通过专业能力和资源优 社会宣传，提升公众的信息辨别能力和理性表达能力。西安 交通大学新闻与新媒体学院的创新实践提供了有益借鉴。该 校打破传统学科壁垒，构建“通识课+专业课+技术课”三维 课程体系，培养既懂新闻传播规律、又掌握人工智能技术的 “新文科”复合型人才。这种人才培养模式有助于培养更具责 任感和专业性的舆情分析和管理人才。 第三方组织（如行业协会、专业机构等）可以建立行业 标准与伦理规范，制定关于网络舆情信息服务的具体指南，

经列入 2024 年 全国人大立法计划，预计在未来 3-5 年出台。可以说，国家在 顶层设计方面已为空间信息产业蓬勃发展奠定了良好的基础。 (2)数字技术加快推进，产业成为政府治理关键抓手 人工智能、大数据等新技术的发展，推动了政府治理、 行业管理从“人管”到“数管”的转变。《中华人民共和国 国民经济和社会发展第十四个五年规划和 2035 年远景目标纲 要》中要求加快数字化发展，建设数字中国，深入探索数字 30 多项，层级从国家部委到乡镇均有涉及，充分 体现了区县级在城市监管、社会治理方面对空间信息应用服 务的需要 (4)人工智能促进技术革新，产业结构升级已是趋势 2022 年底，ChatGPT 人工智能大模型相继推出，空间信 息应用产业也迎来产业结构升级的机遇。人工智能大模型在 空间信息应用产业中通过提升数据处理与分析能力、提供高 级分析与应用、提供智能导航与定位服务以及提供智能决策

的人力；另一方面，数字技术量化并重构了信息传播效果的 评估指标和评价体系，造成媒介道德素养与“注意力经济” 之间的矛盾，而普通网民容易被智能推荐算法等技术裹挟， 从而削弱其认知和思维能力。互联网和人工智能技术的快速 发展能够助力网络舆情治理，但学界对此也存在争议。比如， 尽管数据挖掘和算法为实现符号通信提供技术支持，但国外 的民意调查显示，技术发展不应被用于预测民意动态或衡量 选民的意愿 制定科学的大数据赋能网络舆情治理的宏观战略，搭建具体 的沟通协作政策框架，还要进一步完善大数据赋能社会网络 舆情治理的考核指标体系，并建立健全官方网络舆情信息发 布机制，以及时回应民众关切。 第五，加大经费投入力度。培养大数据、人工智能、区 块链等信息技术方面的精英人才，搭建大数据分析、处理与 人才信息对接平台，出台支持优秀科技人才就业创业的相关 政策。 （五）情感治理路径情感治理路径强调关注互联网场域中政府、媒体、网民 性手段，市场治理路径更加强调行业组织或网民个体的自律 性，主要通过行业规则或组织纪律来引导网络舆情。协同治 理路径则注重多元治理主体的共同参与，强调通过沟通对话、 协商合作等方式提高网络舆情治理的科学性和民主性。大数 据、人工智能等新兴技术为网络舆情治理提供了高效的工具， 突破了传统经验和制度管控的局限。技术赋能下的网络舆情 治理利用数字平台对海量数据进行抓取、处理和分析，增强 决策的精准性和科学性。技术与情感的结合在某种程度上加

增加用户粘性，可能放宽对直播内容的审核标准，甚至纵容虚 假宣传和欺诈行为。这种利益驱动的矛盾使得平台在履行主体 责任时面临困境，难以有效打击私域直播犯罪。 六、意见建议 （一）构建“技术+人工”双轨监管体系 针对私域直播隐蔽性强、传播快的特点，需建立技术驱动 的动态监管机制。技术层面，平台应部署 AI 内容审核系统，通 过图像识别、语音分析等技术实时拦截色情、赌博等违规画面 及敏 确保数据不可篡改且可追溯。同时，强化用户行为监测模型， 对高频打赏、异常转账、多设备登录等风险行为触发预警，自 动限制账号权限或冻结资金。人工辅助方面，建立属地化审核 团队，针对 AI 误判或新型犯罪场景（如虚拟形象直播）进行人 工复核，并与公安部门共享线索库，形成“技术筛查—人工研判 —执法打击”的闭环。 （二）完善法律法规，加强监管力度 建议加强和完善相应的法律法规，针对私域直播中的虚假 宣传

“七星山·骆驼杯”也面临类似质疑。节目总策划曾回应称， 为了呈现“打野”效果、保护野生动物并保证节目精彩，赛前 确实投放了禽畜，包括野猪、珍珠鸡，甚至娃娃鱼。但有网 友质疑，选手若捕获猎物，如何判断是野生还是人工投放？ 既然有人工干预，还能叫“荒野求生”吗？ 实际上，观众想看的是真实的生存智慧，而不是演员的 “演技大赏”。当“假求生”成为行业潜规则，再高的收视率也 难以支撑口碑。 五、伦理风险：极限画面变“消费痛苦”