一种逻辑回归学习率自适应调整方法

一种逻辑回归学习率自适应调整方法

论文摘要

在用梯度算法求解逻辑回归分类问题时,由于学习率不同的设置,会使得模型收敛较慢以及在极值点附近出现震荡.而学习率多数凭借经验或按迭代的次数进行调整,效果欠佳.为此提出一种自适应调整方法,在不引入新参数的同时,根据样本集分类准确率的变化对学习率进行更新.在梯度下降较快时,增大学习率,加快收敛速度;在梯度平缓时,缩小学习率,减少最优解在极值点附近的震荡,实验结果验证了该方法的有效性.

论文目录

  • 1 逻辑回归中超参数学习率
  • 2 用分类准确率调整学习率的方法
  • 3 实验结果及分析
  • 4 结语
  • 文章来源

    类型: 期刊论文

    作者: 严晓明

    关键词: 梯度下降,学习率,自适应,分类准确率

    来源: 福建师范大学学报(自然科学版) 2019年03期

    年度: 2019

    分类: 基础科学

    专业: 数学

    单位: 福建师范大学数学与信息学院,数字福建环境监测物联网实验室

    基金: 国家自然科学基金资助项目(11672074)

    分类号: O241.6

    页码: 24-28

    总页数: 5

    文件大小: 407K

    下载量: 257

    相关论文文献

    • [1].基于余弦下降学习率的卷积网络轴承故障诊断[J]. 工业技术与职业教育 2020(03)
    • [2].技术学习率的双因素测度模型研究[J]. 软科学 2010(07)
    • [3].双学习率自适应的Q路由算法[J]. 小型微型计算机系统 2019(08)
    • [4].这里的党员为什么能做到100%学习[J]. 前线 2013(07)
    • [5].企业技术能力对技术学习率作用机制研究[J]. 科技进步与对策 2014(14)
    • [6].企业技术能力提升对技术学习率的动态影响[J]. 科研管理 2011(08)
    • [7].深度学习自适应学习率算法研究[J]. 华中科技大学学报(自然科学版) 2019(05)
    • [8].自适应调节学习率和样本训练方式的场景分类[J]. 模式识别与人工智能 2018(07)
    • [9].时间序列动态学习率神经网络模型及其初步试验[J]. 沙漠与绿洲气象 2008(03)
    • [10].产业技术学习率的动态双因素测度模型研究[J]. 工业技术经济 2012(09)
    • [11].组织成员、团体的学习率与组织学习绩效[J]. 商业研究 2012(01)
    • [12].基于变学习率的多agent学习算法的研究[J]. 长春工程学院学报(自然科学版) 2009(04)
    • [13].考虑组织学习率-倦怠的SMPEs小组作业模式生产加工周期优化研究[J]. 工业工程 2014(05)
    • [14].一类训练前馈神经网络的梯度算法及收敛性[J]. 中国石油大学学报(自然科学版) 2010(04)
    • [15].引入动态调节学习率的SAE轴承故障诊断研究[J]. 计算机工程与应用 2020(20)
    • [16].AlexNet改进及优化方法的研究[J]. 计算机工程与应用 2020(20)
    • [17].一种改进的深度学习模型自适应学习率策略[J]. 兵工自动化 2019(01)
    • [18].能源技术的学习曲线研究[J]. 环境保护 2009(08)
    • [19].BP神经网络算法的改进及其应用[J]. 农业系统科学与综合研究 2010(02)
    • [20].改进学习率的一种高效SVD++算法[J]. 现代电子技术 2018(03)
    • [21].多目标情景下中国非常规油气开发技术学习率的估计——基于学习曲线理论[J]. 北京理工大学学报(社会科学版) 2016(03)
    • [22].具有最优学习率的RBF神经网络及其应用[J]. 管理科学学报 2012(04)
    • [23].基于学习曲线的中国光伏发电成本发展趋势分析[J]. 水电能源科学 2012(06)
    • [24].基于学习曲线的行业财务风险分析[J]. 系统工程 2009(02)
    • [25].视频目标跟踪的颜色特征学习率优化分析[J]. 南京师范大学学报(工程技术版) 2019(03)
    • [26].鸽子强化学习过程中内部学习状态的动态建模研究[J]. 科学技术与工程 2017(13)
    • [27].以“题”激起千层浪,用“探”唤起百转思[J]. 初中生世界 2015(36)
    • [28].自组织神经网络的参数自适应方法[J]. 计算机工程与应用 2009(31)
    • [29].基于系数正则的同时回归估计[J]. 中国科学:数学 2019(09)
    • [30].基于动态学习率与BP神经网络的变速箱故障诊断研究[J]. 机械设计与制造 2017(11)

    标签:;  ;  ;  ;  

    一种逻辑回归学习率自适应调整方法
    下载Doc文档

    猜你喜欢