2021年8月4日，信安标委发布《信息安全技术 机器学习算法安全评估规范（征求意见稿）》（以下简称“《机器学习算法安全评估规范》”），向社会公开征求意见。

《机器学习算法安全评估规范》给出了机器学习算法安全评估指标、评估流程以及在需求、设计、开发训练、验证评估、运行等阶段的算法安全评估规范，涉及影响算法-模型安全的数据、系统等方面的安全因素，适用于指导机器学习应用开发者、运营管理者、用户以及第三方等相关方开展机器学习算法安全评估。《机器学习算法安全评估规范》拟解决机器学习算法安全评估问题，给出安全评估规范，主要表现在： 1）机器学习算法的安全评估指标和评估流程。虽然传统的安全问题在人工智能中依然存在，但机器学习算法安全有很多自身的特点，开展算法安全评估应重点关注机器学习算法的安全问题，因此，研究机器学习算法的安全属性和安全风险就十分必要。在此基础上，本项目将研究机器学习算法的安全评估指标，从整体上给出机器学习算法的安全评估目标、流程及结果判定方式，为开发人员、用户及第三方等相关组织开展人工智能算法安全评估提供基本指导。 2）机器学习系统开发生命周期的算法安全评估要求。机器学习算法安全评估全面考虑系统工程的整个生命周期安全需求，包括需求阶段、设计阶段、开发训练阶段、验证评估阶段、运行阶段，各实践阶段均存在需要特别考虑的安全评估点。本项目将综合考虑人工智能算法生命周期安全评估需求，提出针对不同实施阶段的算法安全评估要求。 3）机器学习算法安全评估要求。机器学习算法面临数据、算法、模型等多个层面的安全风险，开展算法安全评估将全面考虑机器学习算法安全风险点，给出针对不同层面安全风险的评估方法、流程、要求等，从攻击、防御等方面，分别给出对应评估方案和具体要求。

【来源：信安标委】