---闭环自动化：可实现检测与修复紧密集成的闭环工作 流程。当系统检测到异常时，不仅会向网络管理员告警，而且能 在安全检查机制保障下自动触发修复动作，包括自动重置振荡 接口、对 DDoS 攻击数据流实施“黑洞”引流，或根据检测到 的网络拥塞状况动态调整 QoS 策略。随着持续学习，AI 能够 逐步建立问题与解决方案的对应关系，不断优化其决策建议。这 使网络系统逐步具备自我修复能力，从而减少对人工干预的需求。 速度远超静态规则，且误报率大幅降低。AI 系统通过持续学习 建立行为基线，可即时标记异常活动（如突发性数据渗漏或 DDoS 攻击模式），并自动执行安全策略；例如，根据威胁告警自动 封禁可疑 IP 地址或隔离受感染设备。这种快速自适应的防御 机制对于应对日益复杂的网络攻击至关重要，通过有效缓解报警 疲劳（alert fatigue）与加速事件响应，为网络安全环境提供 更为坚实的保护屏障。学习笔记

-⾃主感知、

认识、

理解、

交互的理论基础、

技术能⼒还有待突破，

基于有 限样本的决策判断、

输出结果存在“幻觉”,
即看似合理实则不可靠的现象。 （e）
外部对抗攻击。

攻击者利⽤模型算法及其设计实现的缺陷、漏洞， 构造对抗攻击样本数据，窃取、篡改模型参数、结构、功能等，⼲预模型推理 过程进⽽影响决策判断、输出结果及运⾏稳定性，甚⾄恶意利⽤或消耗模型 资源。 （
f）
模型缺陷扩 以及服务、

交互 过程中，

存在未经同意收集、

不当使⽤数据和个⼈信息的安全⻛险。 （b）
训练数据内容不当。

训练数据包含虚假、

偏⻅、

侵犯知识产权等 违法有害内容，

还⾯临攻击者篡改、

注⼊错误、

误导数据的“投毒”⻛险，

影响模型价值观对⻬，
“
污染”模型概率分布，

造成决策输出准确性、

可信 度下降，

甚⾄输出违法有害信息。 （c）

训练数据 人工智能安全治理框架2.0 - 5 -（d）
数据和个⼈信息泄露。

⼈⼯智能训练数据蕴含的知识、

敏感信息 暗藏于模型参数之中，

因模型安全防护机制不健全、

敏感信息未“遗忘”、 诱导交互和恶意攻击，

可能导致数据和个⼈信息泄露。 3.2 ⼈⼯智能技术应⽤安全⻛险 3.2.1
⽹络系统安全⻛险 （a）
组件和算⼒安全。

⼈⼯智能依赖的开发框架、

计算框架、

执⾏平 台、

技的几次海外收购尝试引发了不满，比如 2021 年试图收购 英国的 NewportWaferFab，结果被挡住，还有涉及荷兰初 创公司 Nowi 的交易。 外部环境的变化加速了矛盾。2024 年 4 月，安世遭遇 网络攻击，客户信息和芯片设计被窃取，这加剧了荷兰当 局对数据安全的担忧。同年年底，美国把闻泰科技列入实 体清单。自 2024 年 12 月被美国商务部列入“实体清单” 始，闻泰科技便步入了多事之秋。为应对困局，不惜壮士