带偏置的选择性神经网络集成构造方法

训练多个神经网络并将其结果进行合成,能显著地提高神经网络系统的泛化能力。本文提出了一种带偏置的选择性神经网络集成构造方法。对个体网络引入偏置项,增加可选网络的数量。选择部分网络集成,改善网络集成的性能。把个体网络的偏置项统一为集成偏置项,在训练出个体神经网络后,使用遗传算法选择部分网络集成,同时确定集成偏置项。理论分析和实验结果表明,该方法能够取得很好的网络集成效果。     

一种基于神经网络集成的决策树构造方法

神经网络集成方法具有比单个神经网络更强的泛化能力,却因为其黑箱性而难以理解;决策树算法因为分类结果显示为树型结构而具有良好的可理解性,泛化能力却比不上神经网络集成。该文将这两种算法相结合,提出一种决策树的构造算法：使用神经网络集成来预处理训练样本,使用C4．5算法处理预处理后的样本并生成决策树。该文在UCI数据上比较了神经网络集成方法、决策树C4．5算法和该文算法,实验表明：该算法具有神经网络集成方法的强泛化能力的优点,其泛化能力明显优于C4．5算法;该算法的最终结果昆示为决策树,显然具有良好的可理解性。     

一种选择性神经网络集成构造方法

提出了一种选择性神经网络集成构造方法,在训练出个体神经网络之后,使用遗传算法部分网络来组成神经网络集成。理论分析和实验结果表明,与传统的使用所有体网络的方法相比,该方法能够取得更好的效果。     

混沌神经网络智能集成算法优化策略

为了将神经网络的通用性、灵活性与混沌优化易于跳出局部最优解达到全局最优、搜索效率高、对优化条件的要求不高(不需具有连续性和可微性)的优点有机地结合起来，智能集成了混沌神经网络优化算法。该算法寻优效率高，通用性强，具有良好的应用前景和再开发潜力。     

基于最优权值的选择性神经网络集成方法

本文提出一种基于最优权值的选择性神经网络集成构造方法,在训练出个体神经网络之后,使用遗传算法计算出这些网络在加权平均方法中对应的最优权值,然后选择权值大于一定阈值的部分网络使用简单平均方法组成神经网络集成.理论分析和实验结果表明,与传统方法相比,本文方法使用部分网络能够取得更好的效果.     

基于神经网络集成的舌苔分类方法

提出一种基于神经网络集成的舌苔自动分类方法。该方法把经单独训练的具有一定差异度的单个BP神经网络加以集成，构成舌苔分类器。试验结果表明，该分类器比现有的舌苔分类方法识别率更高、分类更细、更符合中医舌诊要求。     

手写体汉字识别纯神经网络多分类器集成

多分类器集成是解决手写体汉字识别性能的重要方法之一,近年来受到了学术届的普遍关注。文章提出了一种基于单字单网的手写体汉字识别纯神经网络的多分类器集成方案,并通过实验证明该方案是行之有效的。     

基于神经网络集成的入侵检测研究

提出一种新的基于神经网络集成的入侵检测方法。首先通过有区别地对待不同的训练数据训练神经网络，提高对小类别入侵的检测能力并防止网络训练中的退化现象；然后利用一种新的改进遗传算法优化集成网络的权，提高系统整体性能。理论和实验表明该方法具有较好的检测能力。     

基于遗传算法优化投影寻踪技术的神经网络集成模型及其应用

首先利用遗传算法优化的投影寻踪技术对神经网络学习矩阵降维,再利用Bagging技术和不同的神经网络学习算法生成集成个体,并再次用遗传算法进化的投影寻踪技术对神经网络个体集成.建立基于遗传算法优化的投影寻踪技术神经网络集成模型,通过上证指数开盘价、收盘价进行实例分析,计算结果表明该方法具有较好的学习能力和泛化能力,在股市预测中预测精度高、稳定性好.     

基于单输出型神经网络的血细胞分类研究

分别利用BP神经网络与单输出型神经网络对已经得到的血细胞特征参数进行计算,设计出分类器对血细胞进行自动分类识别。单输出型神经网络分类器与BP神经网络分类器相比,具有设计简单、收敛速度快、识别精度高且更加稳健的优点,取得了较好的应用效果。     

一种主动学习神经网络集成方法

分析了神经网络集成泛化误差、个体神经网络泛化误差、个体神经网络差异度之间的关系,提出了一种个体神经网络主动学习方法.个体神经网络同时交互训练,既满足了个体神经网络的精度要求,又满足了个体神经网络的差异性要求.另外,给出了一种个体神经网络选择性集成方法,对个体神经网络加入偏置量,增加了个体神经网络的可选数量,降低了神经网络集成的泛化误差.理论分析和实验结果表明,使用这种个体神经网络训练方法、个体神经网络选择性集成方法能够构建有效的神经网络集成系统.     

多模态粒子群集成神经网络

提出一种基于多模态粒子群算法的神经网络集成方法,在网络训练每个迭代周期内利用改进的快速聚类算法在权值搜索空间上动态地把搜索粒子分为若干类,求得每一类的最优粒子,然后计算最优个体两两之间的输出空间相异度,合并相异度过低的两类粒子,最终形成不但权值空间相异、而且输出空间也相异的若干类粒子,每类粒子负责一个成员网络权值的搜索,其中最优粒子对应于一个成员网络,所有类的最优粒子组成神经网络集成,成员网络的个数是由算法自动确定的.算法控制网络多样性的方法更直接、更有效.与负相关神经网络集成、bagging和boosting方法比较,实验结果表明,此算法较好地提高了神经网络集成的泛化能力.     

基于因果发现的神经网络集成方法

现有的神经网络集成方法主要通过扰动训练数据来产生精确且差异度较大的个体网络,从而获得较强的泛化能力.利用因果发现技术,在取样结果中找出类别属性的祖先属性,然后使用仅包含这些属性的数据生成个体网络,从而有效地将扰动训练数据与扰动输入属性结合起来,以产生精确度高且差异度大的个体.实验结果表明,该方法的泛化能力与当前一些流行的集成方法相当或更好.     

一种异构神经网络集成协同构造算法

提出一种异构神经网络集成的协同构造算法(HNNECC）。首先利用进化规划同时进化网络拓扑结构和连接权值，生成多个异构最优网络，然后对异构网络进行组合．在构造神经网络集成的过程中通过协同合作，保持各网络间的负相关。从而在提高成员网络精度的同时增加各成员网络之间的差异度．利用统计学习理论对算法进行分析，表明该方法具有很好的泛化性能．分别在四个数据集上进行了实验，相对于单个网络，本文方法可提高性能17％到85％，亦优于Bagging等传统固定结构的神经网络集成方法。     

动态自适应选择神经网络集成的方法研究

为了有效提高神经网络的集成性能，提出了基于局部分类精度估计的动态自适应选择集成的思想．根据贝叶斯理论．证明了在满足一定假设的条件下，动态自适应选择集成的分类性能可以逼近最优贝叶斯分类器．在此基础上，分别介绍了硬决策和软决策两种个体网络选择方法．选自UCI机器学习数据库的5个数据集的实验结果表明，动态自适应选择的分类性能明显优于常用的投票法和平均法，且集成分类性能对邻域的大小并不敏感；其中，软决策方法要优于硬决策方法．     

基于人工免疫网络的神经网络集成方法

提出基于人工免疫网络的神经网络集成方法AINEN。在用Bagging生成神经网络集成之后,将人工免疫网络的原理应用到神经网络集成,组成了一个从微观上看是一个一个的神经网络,而从宏观上看是一个大的人工免疫网络的集成。通过在微观层次上提高神经网络集成的个体之间的异构度,在宏观层次上提高免疫网络的适应度,从而降低集成的泛化误差。AINEN与GASEN方法在标准数据集上进行的实验表明,AINEN能取得更小的泛化误差。     

基于神经网络集成的睡眠脑电分期研究

用近似熵对睡眠脑电信号进行分期,由于睡眠Ⅲ期和Ⅳ期近似熵值非常接近,靠近似熵值无法区分,提出基于神经网络集成的睡眠脑电信号分期,采用BP神经网络为分类器,对用AR参数提取的睡眠脑电特征对睡眠Ⅲ期和Ⅳ期进行分期。为进一步提高BP神经网络性能,采用Bagging算法对BP神经网络分类器进行加权投票,实验表明,提出的方法具有很好的分期效果。     

基于改进量子免疫算法的神经网络集成

针对量子免疫算法在神经网络集成结论生成时存在精英损失和过早收敛的问题,提出了改进量子免疫算法。改进算法在免疫选择时采用精英策略保留最优个体,提升了收敛效率,并引入反转策略增加个体多样性,加强了全局搜索能力。仿真实验结果表明,改进量子免疫算法是集成结论优化的有效方法,泛化性能明显优于简单平均、推广集成等传统方法。     

并行学习神经网络集成方法

该文分析了神经网络集成中成员神经网络的泛化误差、成员神经网络之间的差异度对神经网络集成泛化误差的影响,提出了一种并行学习神经网络集成方法;对参与集成的成员神经网络,给出了一种并行训练方法,不仅满足了成员网络本身的精度要求,还满足了它与其余成员网络的差异性要求;另外,给出了一种并行确定集成成员神经网络权重方法．实验结果表明,使用该文的成员神经网络训练方法、成员神经网络集成方法能够构建有效的神经网络集成系统．     

基于粗糙集-神经网络集成的故障诊断

综合粗糙集和神经网络的优点,提出一种基于粗糙集-神经网络集成的智能故障诊断模型.在数据采集和预处理的基础上,利用粗糙集(RS)理论对原始故障诊断样本进行离散化处理,并根据条件属性(集)对决策属性的正域的大小来选择属性,提取出对诊断故障贡献最大的最小故障特征子集,从而确定神经网络的拓扑结构;通过网络训练建立故障特征与故障之间的映射关系,采用神经网络集成的方法实现故障的诊断.通过热电厂发电机组的故障诊断实例,表明了这种故障诊断方法的工程有效性.