《人工智能安全治理框架》2.0版动,规范有序开展伦理审查。推进⼈⼯智能科技伦理服务体系建设,强化 服务供给,加⼤对中⼩微企业的⽀持⼒度。 5.3提升研发应⽤全⽣命周期安全能⼒。持续提升算法可靠性、可信 度、透明度、容错机制、隐私保护、价值观对⻬等内⽣安全能⼒,利⽤对 抗测试等技术评估改进模型鲁棒性,降低模型算法潜在偏⻅,确保价值观、 伦理⻛险可控,避免⼈⼯智能系统意外决策产⽣恶意⾏为。 5.4强 划》。 6.⼈⼯智能研发与应⽤的安全指引 6.1⼈⼯智能模型算法研发的安全开发指引 6.1.1在算法规则、模型框架设计环节,应考虑提升算法可靠性、公平 性、透明度、可解释性、隐私保护、价值观对⻬等内⽣安全能⼒设计。 6.1.2评估模型算法潜在偏⻅,加强训练数据内容和质量的抽查检测, 设计有效、可靠的对⻬算法,确保价值观⻛险、伦理⻛险等可控。 6.1.3 及权限控制, 最⼩化设置访问权限, 根据业务场景限制接⼝调⽤频率, 对 ⼀般⽤⼾禁⽤⾼⻛险操作, 对恶意⾏为⽤⼾建⽴暂停服务、 阻断访问等管 控能⼒。 6.2.6 全⾯了解应⽤场景的数据安全和隐私保护要求, 合理限制对数 据的访问权限, 防⽌超范围使⽤数据, 制定数据备份和恢复计划, 并定期 对数据处理流程进⾏检查。 6.2.7采⽤安全护栏等技术⼿段,识别拦截违法不良内容、提⽰词注⼊0 魔豆 | 92 页 | 30.37 MB | 2 月前3
共 1 条
- 1








