发布日期:2021-1-13 来源:本站 返回列表
成果简介:
随着深度学习的广泛应用,聚集逐渐增多的深度学习的安全性,设计深度学习模型安全测试平台,这样就更加有利于人们对深度学习安全方面的使用和学习。在了解的原理的条件下,能够更加容易的利用和实现的一个深度学习安全平台。
人工智能安全测试平台
面向深度学习领域的知识产权保护框架及软件:模型窃取攻击:指通过黑盒探测来窃取模型或者恢复训练数据成员,比如窃取股票市场预测模型和垃圾邮件过滤模型。主要工作:我们提出了一种基于盲水印的版权保护框架,该框架能够满足对深度神经网络嵌入水印对安全性、合法性和可行性的要求。该工作是第一个成功设计和实施基于盲水印的深度学习模型版权保护框架,可以实现针对逃逸攻击的不可检测性和针对欺诈性所有权主张的不可伪造性的当前最优性能。此外,该框架显示出非凡的鲁棒性并在模型与作者身份之间的建立了清晰的关联。