... 61 61 62 62 65 67 70 72 76 79 82人工智能安全治理框架2.0 前 言 ⼈⼯智能是⼈类发展新领域，
深刻改变⼈类⽣产⽣活⽅式，
给世界带 来前所未有发展机遇，

也带来前所未遇⻛险挑战。

落实《全球⼈⼯智能治 理倡议》，

遵循“以⼈为本、智能向善”的发展⽅向，

为推动各国政府、

⾏业 企业、

机构组织、

的⻔槛，

⼈⼯智能应⽤迅速向各⾏业领域渗透普及；

⼤模型应⽤形态从机 器问答向嵌⼊业务流程的智能体演进，

加速与业务系统融合；

具⾝智能、
脑 机接⼝技术⽇新⽉异，

正在打通连接数字智能和物理世界的“最后⼀公⾥”，

⼈机融合的智能时代已不再遥不可及。

与此同时，

⼈⼯智能安全⻛险的表 现形式、

影响程度、

认识感知亦同步快速演进变化。 为应对⼈⼯智能快速发展的新⻛险新挑战，安全有效地释放应⽤需求，

⼤规模等特点，

⼈ ⼯智能易受复杂多变运⾏环境或恶意⼲扰、

诱导的影响，

可能带来性能下 降、

决策错误等鲁棒性问题。 （d）
输出决策不可靠。
⼈⼯智能利⽤有限数据集拟合复杂现实世界，

人工智能安全治理框架2.0 - 4 -⾃主感知、

认识、

理解、

交互的理论基础、

技术能⼒还有待突破，

基于有 限样本的决策判断、

输出结果存在“幻觉”,
即看似合理实则不可靠的现象。