面向深度学习软件库的API层的漏洞挖掘方法-赵智洋.pdf

BeijingForestStudio

ThenameoftheDepartment

北京理工大学信息系统及安全对抗实验中心

部门名称

面向深度学习软件库的API层

漏洞挖掘方法

硕士研究生赵智洋

2023年02月26日

内容提要

•背景简介

•基本概念

•算法原理

•总结

2

背景简介

•预期收获

–了解深度学习软件库缺陷或漏洞现状

–了解深度学习软件库漏洞挖掘的分类

–理解最新的API层深度学习软件库漏洞挖掘方法

3

背景简介

•前情提要

–2022年7月3日：《面向深度学习软件库的动态漏洞挖掘方法》

–2022年11月29日：《筑牢AI安全基石——BFS团队提交15个TensorFlow现存漏洞》

漏洞名称`CHECK`failin`CollectiveGather`

CVE编号CVE-2022-35994

影响软件包TensorFlow、TensorFlow-CPU、TensorFlow-GPU(pip)

影响版本2.10.0

补丁版本2.7.4,2.8.3,2.9.2,2.10.0

4

背景简介

•深度学习检测分类

对抗攻击

深度学习模型检测测试特定模型

测试模型性能、指标

深度学习检测CRADLE（2019）

基于模型AUDEE（2020）

LEMON（2020）

深度学习库检测

FreeFuzz（2022）

基于APIDocTer（2022）

DeepREL（2022）

5

背景简介

•进行深度学习库检测的重要性

–深度学习库是深度学习模型的基础

–PyTorch、TensorFlow等深度学习库

使用广泛

•坊间传闻：TensorFlow适合业界，