排序方式: 共有13条查询结果,搜索用时 156 毫秒
1.
通常给定超参数的若干取值选取性能最大的为最优组合(称为直接选优法),但是此方法的稳健性差。为此,提出了一种基于稳健设计的超参数调优方法(称为稳健调优法)。具体地,以SGNS算法中的超参数调优为例,在词语推断任务上实验并得出:经方差分析得到SGNS算法中的七个超参数中的五个对算法预测性能有显著影响,确定为主控因子,其余两个确定为噪声因子,且主控因子中有三个对性能估计的方差有显著影响,因此,调优中仅从期望最大来直接选优是不合理的;稳健调优法与直接选优法两者在预测性能上没有显著差异,但稳健调优法对噪声因子具有较好的稳健性。稳健调优法对一般的深度神经网络的调参有实际的借鉴意义。 相似文献
2.
3.
4.
5.
超参数调优是神经网络建模的关键问题。针对传统的超参数调优方法存在的问题,该文提出了一种基于m×2正则化交叉验证的超参数调优方法。目的是给出一种适用于复杂模型、大数据集背景下的计算开销较小且稳健的超参数调优方法。该方法的思想是从完整的数据集上选取少部分数据进行调优,避免模型在数据集较大时非常耗时的超参数调优难题;在m×2交叉验证的基础上设置正则化条件均衡训练集与验证集之间的分布差异,从而减少分布不一致带来的性能波动;使用信噪比作为调优的优化目标,从而可以综合考虑模型性能评价指标的均值和方差;并采用正交设计选择相关性较低的超参数组合以提高调优效率。以命名实体任务为例进行实验,在CoNLL 2003数据集上的实验结果显示,提出的调优方法能够选到和网格搜索性能上没有显著差异的超参数组合,且调优时间可显著降低约66%。 相似文献
6.
7.
系统使用UML建模,通过对当前MIS开发中常用的各种技术进行分析对比,并结合实际情况,采用基于ASP.NET的B/S架构,同时使用MicrosoftSQLServer2000作为数据库存储和迁移工具。 相似文献
8.
通过对新型定向凝固镍基高温合金DZ445进行800~900℃热暴露试验,研究了合金中γ′强化相在高温下的演变规律。结果表明:高温下γ′相的长大受基体元素扩散控制,长大动力学遵循Lifshitz-Slyozov-Wagner熟化规律,扩散激活能为305 kJ·mol-1;合金组织稳定,即使是在900℃热暴露10 000 h, γ′相颗粒的平均尺寸也只增大至(928±14)nm,在800~900℃下热暴露10 000 h时γ′相体积分数保持在50%上下,未观察到拓扑密堆相析出;在850,900℃热暴露过程中,γ′相形貌由类球状向立方或四方块状转变,这种转变与颗粒尺寸和晶格错配度有关。 相似文献
9.
词与其上下文的共现矩阵是词的分布表示学习的关键.在构造共现矩阵时,可采用不同方法来度量词与其上下文之间的关联.文中首先介绍了3种词与其上下文的关联度量方法并构造了相应的共现矩阵,使用同一个优化求解框架学习得到词的分布表示,在中文词语类比任务和语义相似性任务上的评价结果显示,GloVe方法的结果最好;然后进一步对GloVe方法进行了改进,通过引入一个超参数校正词与其上下文的共现次数,以使校正后的共现次数近似服从Zip'f分布,并给出了求解该超参数估计值的方法.基于改进后的方法学习得到的词的分布表示在词语类比任务上的准确率提高了0.67%,且在Mc-Nemar检验下是显著的;在词语相似性任务上的性能提高了5.6%.此外,将改进后的方法得到的词的分布表示应用到语义角色识别任务中,作为词特征的初始向量得到的F1值相比使用改进前的词的分布得到的F1值也提高了0.15%,且经3×2交叉验证的Bayes检验其提升也较为显著. 相似文献
10.