崔立鹏
- 作品数：8 被引量：85H指数：5
- 供职机构：中国石油大学（北京）更多>>
- 发文基金：国家自然科学基金中国石油大学(北京)基础学科研究基金国家重点基础研究发展计划更多>>
- 相关领域：自动化与计算机技术更多>>
- 概率图模型的稀疏化学习被引量：4
- 2016年
- 利用稀疏化学习得到的概率图模型结构简单却保留了原始概率图模型中重要的结构信息,且能同时实现结构和参数学习,因此近几年来概率图模型的稀疏化学习一直是研究的热点,其中概率图模型的第一种稀疏化学习方法是图套索.文中总结了概率图模型的稀疏化学习方法,包括概率图模型的L1范数罚稀疏化学习、概率图模型的无偏稀疏化学习、概率图模型的结构稀疏化学习和概率图模型的多任务稀疏化学习.最后,文中还指出了概率图模型的稀疏化学习未来有意义的研究方向.
- 刘建伟崔立鹏罗雄麟
- 关键词：概率图模型
- 组稀疏模型及其算法综述被引量：8
- 2015年
- 稀疏性与组稀疏性在统计学、信号处理和机器学习等领域中具有重要的应用.本文总结和分析了不同组稀疏模型之间的区别与联系,比较了不同组稀疏模型的变量选择能力、变量组选择能力、变量选择一致性和变量组选择一致性,总结了组稀疏模型的各类求解算法并指出了各算法的优点和不足.最后,本文对组稀疏模型未来的研究方向进行了探讨.
- 刘建伟崔立鹏罗雄麟
- 关键词：稀疏性一致性
- 结构稀疏模型被引量：5
- 2017年
- 由于生物信息学、心理学诊断、计算语言与语音学、计算机视觉、门户网站、电子商务、移动互联网、物联网中处理高维和超高维数据的需求不断涌现,迫切需要研究具有变量选择和特征降维功能的回归和分类模型,所以以Lasso、自适应Lasso和elastic net等为代表的稀疏模型近年来在机器学习领域中非常流行.然而,这些稀疏模型没有考虑变量中存在的组结构、重叠组结构、双层稀疏结构、多层稀疏结构、树结构和图结构等结构化信息.结构稀疏模型考虑了这些结构先验信息,改善了模型对特征选择的结果和稀疏模型在相应结构稀疏化数据背景下的统计特性.结构稀疏化模型是当前稀疏学习领域的研究方向,近几年来涌现出很多研究成果,文中对主流的结构稀疏模型,如组结构稀疏模型、结构稀疏字典学习、双层结构稀疏模型、树结构稀疏模型和图结构稀疏模型进行了总结,对结构稀疏模型目标函数中包含非可微、非凸和不可分离变量的结构稀疏模型目标函数近似转换为可微、凸和可分离变量的近似目标函数的技术如控制-受控不等式(Majority-Minority,MM),Nesterov双目标函数近似方法,一阶泰勒展开和二阶泰勒展开技术,对求解结构稀疏化模型近似目标函数的优化算法如最小角回归算法、组最小角回归算法(Group Least Angle Regression,Group LARS)、块坐标下降算法(block coordinate descent algorithm)、分块坐标梯度下降算法(block coordinate gradient descent algorithm)、局部坐标下降算法(local coordinate descent algorithm)、谱投影梯度法(Spectral Projected Gradient algorithm)、主动集算法(active set algrithm)和交替方向乘子算法(Alternating Direction Method of Multipliers,ADMM)进行了比较分析,并且对结构稀疏模型未来的研究方向进行了探讨.
- 刘建伟崔立鹏罗雄麟
- 关键词：人工智能
- 结构稀疏模型及其算法研究进展被引量：5
- 2016年
- 结构稀疏模型在统计学、信号处理和机器学习等领域中具有重要的应用。结构稀疏模型主要通过在目标函数中引入会导致组稀疏效果的罚函数来实现特征组结构选择。有趣的是一些组稀疏模型不仅能实现特征组选择,而且同时能够实现组内的特征选择。根据使用的罚函数的类型,结构稀疏模型主要分为组套索模型和非凸罚组稀疏模型两大类。系统地总结了重要的组结构稀疏模型,分析了各种组结构稀疏模型之间的区别与联系,归纳比较了各种组结构稀疏模型的统计特性(例如模型选择一致性、参数估计一致性和oracle性质)和组结构稀疏模型的求解算法。当前,结构套索模型主要包括普通组套索模型、L∞,1组套索模型、重叠组套索模型、树组套索模型、多输出树组套索模型、混合组套索模型、自适应组套索模型、逻辑斯蒂组套索模型和贝叶斯组套索模型。非凸罚组稀疏模型包括组SCAD罚模型、组桥模型和组MC罚模型等。求解组稀疏模型的算法有组最小角回归算法、块坐标下降(上升)算法、活动集算法、内点算法、投影梯度算法、谱投影梯度算法、轮换方向乘子算法和块坐标梯度下降算法等,结合组稀疏模型对这些算法进行了详细的分析。在使用上述优化方法前,通常需要对目标函数进行预处理,将不平滑的、非凸的、块坐标不可分离的组稀疏模型的目标函数向平滑、凸、块坐标可分离的方向进行转化,这一步常利用的技巧有变分不等式、Nesterov的平滑近似技巧、局部一阶泰勒展开近似、局部二次近似、对偶范数和对偶函数等。接着给出了最新提出的一些组稀疏模型,如关于广义加模型的组套索模型、复合组桥模型、平方根组套索模型和关于Tobit模型的组套索模型等。最后,对组稀疏模型未来的研究方向进行了探讨。
- 刘建伟崔立鹏罗雄麟
- 关键词：罚函数
- 概率图模型推理方法的研究进展
- 近年来概率图模型已成为不确定性推理的研究热点，在人工智能、机器学习与计算机视觉等领域有广阔的应用前景。根据网络结构与查询问题类型的不同，系统地综述了概率图模型的推理算法。首先讨论了贝叶斯网络与马尔可夫网络中解决概率查询问...
- 刘建伟崔立鹏黎海恩罗雄麟
- 关键词：概率图模型
- 概率图模型推理方法的研究进展被引量：5
- 2015年
- 近年来概率图模型已成为不确定性推理的研究热点,在人工智能、机器学习与计算机视觉等领域有广阔的应用前景。根据网络结构与查询问题类型的不同,系统地综述了概率图模型的推理算法。首先讨论了贝叶斯网络与马尔可夫网络中解决概率查询问题的精确推理算法与近似推理算法,其中主要介绍精确推理中的VE算法、递归约束算法和团树算法,以及近似推理中的变分近似推理和抽样近似推理算法,并给出了解决MAP查询问题的常用推理算法;然后分别针对混合网络的连续与混合情况阐述其推理算法,并分析了暂态网络的精确推理、近似推理以及混合情况下的推理;最后指出了概率图模型推理方法未来的研究方向。
- 刘建伟崔立鹏黎海恩罗雄麟
- 关键词：概率图模型
- 正则化稀疏模型被引量：62
- 2015年
- 正则化稀疏模型在机器学习和图像处理等领域发挥着越来越重要的作用,它具有变量选择功能,可以解决建模中的过拟合等问题.Tibshirani提出的Lasso使得正则化稀疏模型真正开始流行.文中总结了各种正则化稀疏模型,指出了各个稀疏模型被提出的原因、所具有的优点、适宜解决的问题及其模型的具体形式.最后,文中还指出了正则化稀疏模型未来的研究方向.
- 刘建伟崔立鹏刘泽宇罗雄麟
- 关键词：正则化无偏估计
- SVM分类器的构造方法及装置
- 本发明提供了一种SVM分类器的构造方法及装置，其中，该方法包括：根据MCP罚函数和基于相关系数的罚函数，构造SVM分类器的目标函数；在训练样本集上，对所述目标函数进行训练，得到所述目标函数中各个模型参数的取值；根据得到的...
- 刘建伟崔立鹏罗雄麟
- 文献传递
