王科迪
- 作品数：6 被引量：17H指数：2
- 供职机构：上海交通大学更多>>
- 发文基金：国家自然科学基金更多>>
- 相关领域：自动化与计算机技术更多>>
- 人工智能对抗环境下的模型鲁棒性研究综述被引量：6
- 2020年
- 近年来人工智能研究与应用发展迅速,机器学习模型大量应用在现实的场景中,人工智能模型的安全鲁棒性分析与评估问题已经开始引起人们的关注。最近的研究发现,对于没有经过防御设计的模型,攻击者通过给样本添加微小的人眼不可察觉的扰动,可以轻易的使模型产生误判,从而导致严重的安全性问题,这就是人工智能模型的对抗样本。对抗样本已经成为人工智能安全研究的一个热门领域,各种新的攻击方法,防御方法和模型鲁棒性研究层出不穷,然而至今尚未有一个完备统一的模型鲁棒性的度量评价标准,所以本文总结了现阶段在人工智能对抗环境下的模型鲁棒性研究,论述了当前主流的模型鲁棒性的研究方法,从一个比较全面的视角探讨了对抗环境下的模型鲁棒性这一研究方向的进展,并且提出了一些未来的研究方向。
- 王科迪易平
- 基于行为指纹的安全防护系统
- 一种基于行为指纹的安全防护系统，包括：采集模块、训练模块以及对比模块，其中：采集模块采集用户的行为指纹信息并传送到训练模块，训练模块利用SVM建模得到行为指纹信息的判断阀值，对比模块从采集模块接收新的指纹信息并与判断阀值...
- 易平黄程顾双驰王科迪
- 基于行为指纹的移动终端用户认证方法
- 一种基于行为指纹的移动终端用户认证方法，包括：1)采集行为指纹；2)建立用于保存行为指纹的行为数据库；3)根据行为数据库中的行为指纹建立识别模型；4)用户输入当前行为指纹；5)进行身份识别，用户正确则系统做出响应，本发明...
- 易平黄程顾双驰王科迪
- 文献传递
- 人工智能对抗攻击研究综述被引量：12
- 2018年
- 随着人工智能的广泛应用,人工智能安全也开始引起人们的关注,其中人工智能对抗攻击已经成为人工智能安全研究热点.为此,介绍了对抗攻击的概念和产生对抗样本的原因,主要因为模型判断边界与真实系统边界的不一致导致对抗空间的存在;论述了几种经典生成对抗样本的方法,包括快速梯度和雅克比映射攻击,对抗攻击的主要思路是寻找模型梯度变化最快方向,按这个方向加入扰动从而导致模型误判;论述了检测对抗攻击的方法和对抗攻击的防御方法,并提出未来的一些研究方向.
- 易平王科迪王科迪顾双驰黄程李建华
- 关键词：人工智能
- 基于行为指纹的安全防护系统
- 一种基于行为指纹的安全防护系统，包括：采集模块、训练模块以及对比模块，其中：采集模块采集用户的行为指纹信息并传送到训练模块，训练模块利用SVM建模得到行为指纹信息的判断阀值，对比模块从采集模块接收新的指纹信息并与判断阀值...
- 易平黄程顾双驰王科迪
- 文献传递
- 基于行为指纹的移动终端用户认证方法
- 一种基于行为指纹的移动终端用户认证方法，包括：1)采集行为指纹；2)建立用于保存行为指纹的行为数据库；3)根据行为数据库中的行为指纹建立识别模型；4)用户输入当前行为指纹；5)进行身份识别，用户正确则系统做出响应，本发明...
- 易平黄程顾双驰王科迪
