保定市科技局科学技术研究与发展指导计划项目(12ZG005)
- 作品数:2 被引量:33H指数:1
- 相关作者:李海峰李纯果齐鸿志更多>>
- 相关机构:河北大学更多>>
- 发文基金:保定市科技局科学技术研究与发展指导计划项目河北省高等学校科学技术研究指导项目更多>>
- 相关领域:自动化与计算机技术更多>>
- 深度学习结构和算法比较分析被引量:33
- 2012年
- Hinton等人提出的深度机器学习,掀起了神经网络研究的又一个浪潮.介绍了深度机器学习的基本概念和基本思想.对于目前比较成熟的深度机器学习结构深度置信网DBNs和约束Boltzmann机(RBM)的结构和无监督贪婪学习算法作了比较详细的介绍和比较,并对算法的改进方向提出了有建设性的意见,对深度机器学习的未来发展方向和目前存在的问题进行了深刻的分析。
- 李海峰李纯果
- 基于信息熵的神经网络敏感性分析
- 2013年
- 基于神经网络的敏感性分析的神经网络结构剪枝,经常会遇到剪枝决策不够客观的问题。针对这个问题,文章提出了基于信息熵的神经网络敏感性的定义,该定义可以客观的评估神经网络对各个输入变量的敏感性,并采用Zurada提出的最大间隔算法决定剪枝个数,使得在整个神经网络的剪枝过程中没有凭主观经验而决定的参数问题。模拟实验结果说明,基于信息熵定义的神经网络敏感性,在网络剪枝的应用中可以相对保守的删除输入变量的个数,使网络的泛化性能不降低。
- 李海峰齐鸿志
- 关键词:信息熵最大熵神经网络