应用积分梯度和生成模型的黑盒对抗样本生成方法研究.pdf
文本预览下载声明
摘要
摘要
对抗样本普遍存在于深度神经网络模型之中，严重威胁网络模型在自动驾
驶、安防监控等敏感领域的应用，从而引发人们对人工智能技术安全性的担忧。
通过微小修改原始数据制作成对抗样本，可以在不引起人察觉的前提下误导模
型输出错误结果。研究者致力于开发更先进的对抗样本生成方法，以高效地欺
骗模型，该技术在评估网络模型的安全性、促进防御技术发展等方面都具有重要
意义。目前研究难点集中于黑盒攻击，在该场景下，攻击者仅具有获取模
显示全部