T_SAIAS 001—2024(神经网络分类模型鲁棒性测试方法).pdf

ICS35.020

CCSL70

SAIAS

上海市人工智能行业协会团体标准

T/SAIAS001—2024

台

平

息

神经网络分类模型鲁棒性测试方法

信

Testmethodsforrobustnessofneuralnetworkclassificationmodels

准

标

体

团

国

全

2024-08-31发布2024-09-01实施

上海市人工智能行业协会发布

T/SAIAS001—2024

目次

前言II

台

1范围1

2规范性引用文件1

3术语和定义1

平

4神经网络分类模型鲁棒性需考虑因素1

4.1模型研发和训练阶段2

4.2模型使用阶段2

5测试方法2

息

5.1概述2

5.2基本原则2

5.3对抗攻击测试方法2

信

5.4中毒攻击测试方法4

5.5后门攻击测试方法5

5.6基本指标与测试报告7

附录A（资料性）神经网络分类模型鲁棒性攻击/干扰方法8

准

A.1对抗攻击方法8

A.2中毒攻击方法8

A.3后门攻击方法8

标

附录B（资料性）神经网络分类模型测试报告模板示例9

参考文献13

体

团

国

全

I

T/SAIAS001—2024

前言

本文件按照GB/T1.1—2020《标准化工作导则第1部分：标准化文件的结构和起草规则》的规定起

草。台

请注意本文件的某些内容可能涉及专利。本文件的发布机构不承担识别专利的责任。

本文件由上海市人工智能行业协会提出并归口。

本文件起草单位：上海华东电信研究院、京东科技信息技术有限公司、蚂蚁智安安全技术（上海）

有限公司、上海市人工智能行业协会、上海市质量和标准化研究院、百度（中国）有限公司、上海传之