排序方式: 共有8条查询结果,搜索用时 0 毫秒
1
1.
2.
针对循环神经网络(Recurrent neural networks, RNNs)一阶优化算法学习效率不高和二阶优化算法时空开销过大, 提出一种新的迷你批递归最小二乘优化算法. 所提算法采用非激活线性输出误差替代传统的激活输出误差反向传播, 并结合加权线性最小二乘目标函数关于隐藏层线性输出的等效梯度, 逐层导出RNNs参数的迷你批递归最小二乘解. 相较随机梯度下降算法, 所提算法只在RNNs的隐藏层和输出层分别增加了一个协方差矩阵, 其时间复杂度和空间复杂度仅为随机梯度下降算法的3倍左右. 此外, 本文还就所提算法的遗忘因子自适应问题和过拟合问题分别给出一种解决办法. 仿真结果表明, 无论是对序列数据的分类问题还是预测问题, 所提算法的收敛速度要优于现有主流一阶优化算法, 而且在超参数的设置上具有较好的鲁棒性. 相似文献
3.
本文利用Clarke广义梯度对不可微多目标规划在ρ不变凸时给出了Gartley真有效解的充分条件。 相似文献
4.
本文通过定义α-凸性.得到了Hiriart-J·B·Urruty问题的一类新的函数集,改进和扩充了文献[2]的结果. 相似文献
5.
6.
欧宜贵 《湖北工业大学学报》1994,9(4):78-84
本文提出了一个带线性与非线性约束的凸不可微规划的邻近控制族算法.并在Slater约束规格满足的条件下,证明了算法的整体收敛性.经计算实例表明,该算法是处理同类型问题的一个较有效方法. 相似文献
7.
本文通过定义α-凸性,得到了Hiriart-J.B.Urruty问题的一类新的函数集,改进和扩充了文献[2]的结果。 相似文献
8.
1