2：“抖动”也被称为“波动效应”。直观的感受是， 在高速公路上的一辆汽车突然减速或刹车，跟随其后的所有汽车 也必须减速或刹车；一辆一辆汽车传递下去，就会导致大面积的 道路交通整体减速，或形成阻塞。理论上，只有所有车辆都保持 匀速行驶，才不会出现“抖动”或“波动效应”。---网络数据 传输亦是同理。 备注-3：在 AI 的网络中存在“大象数据流”（elephant flows）

降、

决策错误等鲁棒性问题。 （d）
输出决策不可靠。
⼈⼯智能利⽤有限数据集拟合复杂现实世界，

人工智能安全治理框架2.0 - 4 -⾃主感知、

认识、

理解、

交互的理论基础、

技术能⼒还有待突破，

基于有 限样本的决策判断、

输出结果存在“幻觉”,
即看似合理实则不可靠的现象。 （e）
外部对抗攻击。

攻击者利⽤模型算法及其设计实现的缺陷、漏洞， 、

隐匿违法犯罪 ⾏为、

制作违法犯罪⼯具等。 （c）
核⽣化导武器知识、能⼒失控。

⼈⼯智能在训练过程中多使⽤⻔ 类宽泛、

内容丰富的语料数据，

其中包含核⽣化导武器相关基础理论知识， 辅以检索增强⽣成功能，

如不能有效管控，

将被极端势⼒、

恐怖分⼦利⽤ 于获取相关知识，

以及设计、

制造、

合成、

使⽤核⽣化导武器能⼒，

导致 现有管控体系失效，

加剧世界各地区和平安全威胁。