基于BERT和LightGBM的文本关键词提取方法

传统的文本关键词提取方法忽略了上下文语义信息,不能解决一词多义问题,提取效果并不理想。基于LDA和BERT模型,文中提出LDA-BERT-LightG BM(LB-LightG BM)模型。该方法选择LDA主题模型获得每个评论的主题及其词分布,根据阈值筛选出候选关键词,将筛选出来的词和原评论文本拼接在一起输入到BERT模型中,进行词向量训练,得到包含文本主题词向量,从而将文本关键词提取问题通过LightG BM算法转化为二分类问题。通过实验对比了textrank算法、LDA算法、LightG BM算法及文中提出的LB-LightG BM模型对文本关键词提取的准确率P、召回率R以及F1。结果表明,当Top N取3～6时,F1的平均值比最优方法提升3.5%,该方法的抽取效果整体上优于实验中所选取的对比方法,能够更准确地发现文本关键词。     

融合CNN-BiLSTM-Attention的集成学习价格预测

价格预测对于大宗农产品市场的稳定具有重要意义,但是大宗农产品价格与多种因素有着复杂的相关关系.针对当前价格预测中对数据完整性依赖性强与单一模型难以全面利用多种数据特征等问题,提出了一种将基于注意力机制的卷积双向长短期记忆神经网络(CNN-BiLSTM-Attention)、支持向量机回归(SVR)与LightGBM组合的增强式集成学习方法,并分别在包含历史交易、天气、汇率、油价等多种特征数据的数据集上进行了实验.实验以小麦和棉花价格预测为目标任务,使用互信息法进行特征选择,选择误差较低的CNN-BiLSTM-Attention模型作为基模型,与机器学习模型通过线性回归进行增强式集成学习.实验结果表明该集成学习方法在小麦及棉花数据集上预测结果的均方根误差(RMSE)值分别为12.812, 74.365,较之3个基模型分别降低11.00%, 0.94%、4.44%,1.99%与13.03%, 4.39%,能够有效降低价格预测的误差.     

基于LightGBM的EAST杂质破裂预警

对全超导托卡马克核聚变实验装置东方超环(EAST)运行放电期间发生的杂质破裂进行预测对未来的聚变装置的长脉冲稳态放电有重要意义. 根据杂质破裂的物理特性筛选出的2018年的334炮杂质破裂炮数据以及2021年的1628炮非破裂炮作为训练炮, 再由等离子体平衡、密度、电流以及辐射等8种诊断信号组成的训练样本以LightGBM算法训练出杂质破裂预测模型. 实验结果表明LightGBM算法模型可以对杂质破裂进行准确预测(成功预测率96.29%), 非破裂炮的误判率6.87%. 研究结果证明利用LightGBM进行EAST等离子体杂质破裂预警是可行的方案.     

基于LightGBM和多光谱—SAR多特征综合的中亚干旱区城市不透水面提取

不透水面是评价城市化水平和城市生态环境的重要指标,是近年来城市遥感研究中的热点方向之一。与湿润、半湿润区相比,干旱区城市植被覆盖度较低,不透水面与裸土、荒漠之间相似的光谱特征导致传统基于光学影像的亚像元分解法与光谱指数法在干旱区不透水面提取的适用性降低。针对该问题,提出一种多光谱与合成孔径雷达（SAR）影像多特征综合的方法以增大不透水面与其他地物覆盖类型之间的特征差异,从而提取干旱区城市不透水面。以阿斯塔纳、塔什干和杜尚别3个中亚城市为研究区,哨兵2号和哨兵1号影像为数据源,通过LightGBM算法对多光谱和SAR图像的空间特征、SAR的极化特征进行分类并提取不透水面。研究对比了不同特征组合以及不同分类方法的不透水面提取结果,实验结果表明：多光谱与SAR影像多特征综合的方法能有效提高干旱区不透水面提取精度,明显改善干旱区其他土地覆盖类型错分为不透水面的问题;LightGBM算法与XGBoost、HistGBT等基于梯度提升决策树的算法和随机森林等方法相比能获取更高的精度,更适用于干旱区不透水面提取。这表明基于LightGBM以及多光谱和SAR多特征联合的方法能够有效提取中亚干旱区城市不...     

基于LightGBM 的变压器故障预测在数字孪生变电站中的应用

变压器是变电站中主要设备之一,其安全运行对于变电站的运转起着至关重要的作用,因此对变压器故障进行预测对保障变压器的平稳运行有着重要意义.提出基于 LightGBM 的预测模型,将其应用在实际数字孪生变电站中.首先对特征量进行选择,并使用 PCA 对数据进行降维;其次用 LightGBM 算法构建模型并对测试样本进行模型精准度验证,证明了算法的可用性;最后与其他机器学习算法对比,分析模型的不足,并对 LightGBM 算法在变压器故障预警中的深入应用提出了改进方向.     

基于LightGBM的HEVC编码单元快速划分算法

针对高效视频编码帧间预测过程中,编码单元率失真代价计算导致编码复杂度较高的问题,提出一种基于LightGBM的高效视频编码标准(HighEfficiencyVideoCoding,HEVC)快速划分算法。算法将编码单元(Coding Unit,CU)的划分情况视为分类问题,采用LightGBM对CU块进行划分分类预测。实验结果表明,在低时延模式下,该算法与标准编码器相比,平均码率变换率增加1.95%,平均节省的编码时间效率为27.72%,具有较高的编码效率。     

基于双树复小波分解的Boosting集成学习土地覆被分类研究

近年来,集成学习（Ensemble Learning,EL）分类方法成为土地覆被分类的研究热点,尤其是Boosting集成分类方法具有分类精度高、泛化能力强,在土地覆被分类中得到了显著的应用。但是,Boosting集成分类方法对噪声很敏感,如果训练样本含有噪声时,Boosting算法可能会失效,这是该方法的局限性。为了解决Boosting集成方法在土地覆被分类中存在的问题,有效克服噪声的影响,减少分类结果中的“椒盐”现象和提高分类精度,提出了基于双树复小波分解的Boosting集成学习分类方法。该方法对影像的光谱波段进行一层双树复小波分解,降低图像的噪声,将分解后的各波段作为Boosting集成学习的输入,得到最终的分类结果。实验先后比较了GBDT、XGBoost、LightGBM 3种Boosting集成学习算法在SPOT 6和Sentinel-2A影像上的分类效果。结果表明：①在SPOT 6影像上,3种Boosting集成算法总体分类精度均高于90%;DTCWT-LightGBM分类总体精度最高,达到94.73%,Kappa系数为0.93,比LightGBM总体精度提高了1.1%,Kappa系数提高了0.01;LightGBM分类总体精度比XGBoost分类总体精度提高了1.99%,Kappa系数提高了0.03,比GBDT分类总体精度提高了2.9%,Kappa系数提高了0.04;②在Sentinel-2A影像上,DTCWT-LightGBM分类总体精度最高,达到93.25%,Kappa系数为0.91,比LightGBM分类总体精度提高了1.53%,Kappa系数提高了0.01;LightGBM分类总体精度比XGBoost分类总体精度提高了1.14%,Kappa系数提高了0.02,比GBDT分类总体精度提高了2.53%,Kappa系数提高了0.03;③基于双树复小波分解的Boosting集成学习分类方法,降低了影像的噪音,减少了分类结果中存在的“椒盐”现象,区域一致性更强,提高了分类精度。     

基于组合预测模型的小样本轴承故障分类诊断

滚动轴承是旋转机械内常出现问题的重要部件,其故障情况复杂且难以诊断.基于小样本故障数据学习环境,针对小样本学习在提取真实特征值与目标特征值时有较大差异且泛化能力较弱的问题,提出一种采用半监督变分自编码器与LightGBM分类模型相结合的小样本学习模型LSVAE,并利用基于高斯过程的贝叶斯优化改进算法对LightGBM的超参数进行了优化处理,有效地解决了小样本学习性能不稳定,提取特征能力弱,过拟合等问题,并在凯斯西储大学发布的轴承实验数据集上进行了对比实验,结果表明LSVAE模型在面向小样本数据空间时有着更优的诊断准确率.     

基于梯度提升决策树算法的钻井工况识别方法

钻井工况的精确识别是保证作业安全与提高钻井效率的重要措施,而目前钻井工况普遍依据人工经验公式与阈值法进行判别,存在数据流大、识别精度低、决策速度慢等问题。为了提高钻井工况识别效率,结合领域知识建立井深变化与钻头变化2个重要特征,针对现场数据传输的不稳定性问题,采用移动窗口方法选择最适窗口提升数据稳定性,并搭建了基于多种算法的智能钻井工况识别模型,利用评价指标进行分析与模型选择。研究结果表明,基于LightGBM的模型在钻井作业工况识别方面表现较优,识别精度高达98.9%,处理时间仅4.6 s,充分证明了此方法的高效性和可靠性,并为钻井工况的高效识别提供重要理论和技术支撑。