王德贤
- 作品数：3 被引量：7H指数：1
- 供职机构：西华师范大学计算机学院更多>>
- 发文基金：四川省教育厅重点项目国家自然科学基金四川省科技支撑计划更多>>
- 相关领域：自动化与计算机技术更多>>
- 结合L1和L2正则化约束的隐语义预测模型研究被引量：6
- 2019年
- 在大数据领域中预测高维稀疏矩阵中的缺失数据,通常采用随机梯度下降算法构造隐语义模型来对缺失数据进行预测。在随机梯度下降算法来求解模型的过程中经常加入正则化项来提高模型的性能,由于L1正则化项不可导,目前在隐语义模型中主要通过加入L2正则化项来构建隐语义模型(SGD_LF)。但因为L1正则化项能提高模型的稀疏性增强模型求解能力,因此提出一种基于L1和L2正则化约束的隐语义(SPGD_LF)模型。在通过构建目标函数时,同时引入L1和L2正则化项。由于目标函数满足利普希茨条件,并通过二阶的泰勒展开对目标函数进行逼近,构造出随机梯度下降的求解器,在随机梯度下降求解隐语义模型的过程中通过软阈值来处理L1正则化项所对应的边界优化问题。通过此优化方案,可以更好地表达目标矩阵中的已知数据在隐语义空间中的特征和对应的所属社区关系,提高了模型的泛化能力。通过在大型工业数据集上的实验表明,SPGD_LF模型的预测精度、稀疏性和收敛速度等性能都有显著提高。
- 王德贤何先波贺春林周坤陈敏治
- 基于弹性网络正则化的隐因子预测模型被引量：1
- 2019年
- 在大数据预测中,通常采用SGD_LF模型对高维稀疏矩阵中的缺失数据进行预测。由于SGD_LF模型仅有L 2正则化项对目标函数进行约束,不能调整隐因子的分布,这样导致模型不能很好地描述目标矩阵中实体特性,损失了模型精度。用FOBOS算法构造一个同时用L 1和L 2限制目标函数的弹性网络ENLF模型,ENLF很好地调整隐因子的分布并提高了模型性能。为了进一步提高ENLF模型的性能,在其中加入偏差,构造BENLF模型。在大型商业数据集上的实验表明,ENLF和BENLF模型的预测精度和模型稀疏性等性能有显著提高。
- 贺文灏王德贤邓萍刘锐
- 关键词：大数据
