基于深度学习的语言模型研究进展

语言模型旨在对语言的内隐知识进行表示,作为自然语言处理的基本问题,一直广受关注．基于深度学习的语言模型是目前自然语言处理领域的研究热点,通过预训练-微调技术展现了内在强大的表示能力,并能够大幅提升下游任务性能．本文围绕语言模型基本原理和不同应用方向,以神经概率语言模型与预训练语言模型作为深度学习与自然语言处理结合的切入点,从语言模型的基本概念和理论出发,介绍了神经概率与预训练模型的应用情况和当前面临的挑战,对现有神经概率、预训练语言模型及方法进行对比和分析．我们又从新型训练任务和改进网络结构两方面对预训练语言模型训练方法进行详细阐述,并对目前预训练模型在规模压缩、知识融合、多模态和跨语言等研究方向进行概述和评价．最后总结语言模型在当前自然语言处理应用中的瓶颈,对未来可能的研究重点做出展望．     

基于业务规则的电信网络数据处理框架

通过对电信领域网络管理技术的研究，对电信领域中的术语和概念进行抽象，建立事实模型，并结合实际项目提出基于业务规则的电信网络数据处理工作框架。这种方法使用事实模型中的术语和概念建立控制规则和采集任务，并且使用面向对象的Rote算法组织业务规则，使数据处理具有更大的灵活性和更高的效率，实现了业务逻辑和过程的分离。用户可以针对具体网络情况定制具有良好可读性的业务规则，而不必频繁修改那些复杂的业务决策语句。     

普适计算环境下网络数据采集处理方法

通过对普适计算环境下网络的特点进行分析,提出基于规则的网络数据采集处理方法.这种方法使用业务规则来封装网络数据的采集和处理逻辑,并且使用面向对象的Rete算法组织业务规则,使数据处理逻辑具有良好的可读性和可重用性,实现了业务逻辑和过程的分离,也避免为了适应网络环境和业务的变化而频繁修改那些复杂的业务逻辑语句.     

基于FPGA技术的外部主站与RTDS高速通信系统

针对RTDS仿真系统暂态数据大容量高速度的传输要求,开发了一种基于现场可编程门阵列（field programmable gate array, FPGA）技术的高速通信方法。基于该方法,研发了特性展示主站与RTDS的数据通信系统,能够进行微秒级别的高精度高速采样,可将RTDS仿真的微秒级暂态数据实时传输并存储到主站,支持主站的实时推送功能或回放分析功能。基于吉比特收发器FPGA（Gigabit Transceiver FPGA,GTFPGA）卡内置的高速通信Aurora协议开发了RTDS仿真器、GTFPGA卡和电网特性展示系统间的通信模块,通过网络WinPcap软件实现RTDS实时数据的传输,实现暂态数据的展示和回放分析。该模块以光纤为传输介质,以高性能FPGA为数据采集系统,具有良好的通用性和可推广性。     

基于奖罚的平衡账户新管理方法

提出了对发电厂商进行奖罚的平衡账户管理新方法。该方法的基本思想是根据平衡账户中资金的盈余或亏损状况,对发电厂商进行相应的奖励或罚款,从而使平衡账户中的资金位于一定的限度内。并进一步给出了新平衡账户管理方法下的发电厂商的最优报价策略。算例结果表明,所提出的平衡账户新的管理方法能有效地抑制发电厂商的市场力,降低市场出清电价,实现平衡账户资金在一定范围内波动,维持市场运行的可持续性和稳定性。     

一种基于机群的分布式数据采集系统

提出了一种基于机群的分布式数据采集系统，即采用任务调度中心、机群管理中心、采集代理多层次结构实现分布式数据采集；同时提出了机群的3种分配策略、管理中心选择机制及采集代理的设计方案。实验结果表明：该文所提出的方法适用于大规模网络的数据采集，能更加有效地提高数据采集的速度，解决传统的采集方法在大规模网络中所存在的数据传输负载过重和数据处理的瓶颈问题，在数据采集领域具有很好的应用前景，具有一定的应用价值。     

基于展望理论的发电厂商最优报价

在电力市场中,发电商的报价决策是一个风险决策过程。展望理论描述人们在经济活动中对于风险偏好与其预期利润目标相互关系的理论：当利润大于其预期目标时,大多数倾向于回避风险,而当利润小于其预期目标时,则倾向于追求风险以尽可能实现预期目标。该文将展望理论用于制定发电厂商的报价策略,提出了基于展望理论的计及风险的发电厂商的最优报价策略。由于该模型同时考虑竞价失败风险和预期利润目标在报价决策过程中对发电商决策思想的影响,使得所选报价方案更符合发电商的心理愿望。算例证明了所提出的方法的可行性和有效性。     

电力生产管理系统的可信构造方法研究

 现有电力生产管理系统存在不能如期完成实施、运行不稳定和功能可用性不强等可信问题.本文提出一种由系统构建、系统实施过程管理、可信评估、可信证明四个部分组成,并在规则指导下进行可信构造的方法.本文提出的这种可信构造方法,经过实际应用证明能够有效提升电力生产管理系统的开发效率与质量,为系统的可信构建、可信分析及升级演化建立坚实的基础.     

一种用于评价语义 Web 服务质量的多属性关系建模方法

针对语义Web服务的处理能力空闲、服务请求过载和功能失效的服务质量评价问题,提出一种用于评价语义Web服务质量的多属性关系建模方法,从技术层面和社会层面上选取一组服务质量评价指标并定义其属性计算模型,分析出各评价指标之间的属性关系并证明其一致性,利用现有样本进行实验验证并给出性能分析.     

基于通信顺序进程的网络故障管理形式化描述

针对网络故障的复杂性和多样性,对网络故障管理的形式化描述进行了研究。基于霍尔的“通信顺序进程”和相关的网络形式化的理论研究结果,提出了一种网络故障管理的形式化方法。该方法通过添加新的概念和定义扩充了“通信顺序进程”,为描述复杂的故障信息提供数据类型支持,同时建立故障模型对网络故障采集和网络故障分析进行了精确的形式化描述,为故障管理系统的设计正确性和可验证性提供了可靠的数学依据。