基于multi—agent的分布式专家系统原理及应用

基于Internet/Interanet松耦合环境设计分布式选矿专家系统,采用面向agent（智能体）的系统开发方法和multi-agent分布协作求解模式,采用异构异质agent,即agent可建构于广域局、局域网和单处理器紧耦合模式,且求解agent可以是基于符号系统、神经网络、遗传算法等agent的协作。此外,建立了统一的知识库标准,基于关系数据模式表征了传统的规则、框架、语义网络及谓词逻辑等知识表示方法。其中,基于数据库引导及搜索技术实现了正向推理机制及反向推理机制,易于agent之间知识的传输,大大提高了通信效率;基于DCOM技术,以C＋＋构建框架类加速了agent的实现。以矿石可选性预测求解为例,实现了多agent协作求解的仿真系统,较好地验证了所提出的理论模式及框架。     

基于承诺的agent组织描述工具

针对当前描述agent组织的逻辑无法刻画组织间及组织内部可以判定的并发活动这一问题,提出带有截止期限承诺语义的交互时态承诺逻辑,用于描述基于信任的协作.通过引入承诺,将ATL的合作算子《》扩展为《C:ξ:ω:Θ》,表示：组织C承诺当条件ξ满足时立刻开始按规划ω执行,保证在Θ成立之前实现某商定内容.建立交互时态承诺逻辑(ATCL).给出基于行为的迁移系统,以此建模基于带有截至期限条件承诺的agent组织,分别给出ATCL的语法和语义.给出模型检测算法,证明了ATCL的模型检测复杂度为PTIME comple.以卫星图像服务领域特定场景为例,展示了ATCL的表达能力,为研究agent组织可信协作提供了较好的形式化工具.     

基于贝叶斯网络的多agent分布式入侵检测技术

通过对分布入侵检测技术和agent技术的研究提出了一个基于多agent的分布式入侵检结构.结构中用Bayesian网络来表示对计算机网络进行攻击的知识和团树传播算法,将Bayesian网络划分为多个Bayesian子网,每个Bayesian子网转变为一棵团树;每个Bayesian子网有一组agent管理,agent通过Bayesian子网进行似然推理,从而能够实现在检测到入侵活动时提前发出警报.     

基于事件模式及类型的事件检测模型

针对触发词定义标准模糊、语料标注成本高等问题,提出一种基于事件模式及类型的事件检测深度学习模型(PTNN)。首先基于实体的语法及语义特征获取潜在论元;其次将潜在论元抽象为角色,结合语法、语义、角色特征构建嵌入表示,增强输入对事件模式的体现;最后利用Bi-LSTM和基于事件类型的注意力机制,完成事件及类型判定。模型在不识别触发词的前提下,通过强化事件模式特征实现事件检测,避免了触发词标注困难的问题,证明了事件模式在神经网络上对事件检测的积极作用,将同类方法的最优效果提升了3%,且达到了基于触发词的检测效果。     

WSN的移动Agent随机模式与分析

提出了一种随机的移动agent模式。该模式通过移动agent提供的迁移能力,支持基于群算法的事件监测,优化网络覆盖方案。通过移动agent随机生成和随机迁移,在确保对事件的检测和覆盖率的前提下,能够减少监测领域中的活动节点。通过移动agent提供的群智能提高无线传感器网络在不同环境的适应能力,适用于当网络由于能量损耗导致的分割或孤立的环境。仿真结果显示,基于该模式的算法在覆盖效率和通信距离要求上,表现出了良好的性能。     

基于AM的BLSTM网络电商评论情感倾向分类

针对电商评论中所包含的消费者情感倾向信息问题,提出一种基于注意力机制和双向长短期记忆(bidirectional long-short term memory,BLSTM)网络的情感倾向分类模型。该模型使用预训练的字向量作为输入特征,通过双向长短期记忆网络来学习文本的语义特征。依此特征,设计了一种新的注意力机制来捕捉BLSTM模型生成的文本语义特征中重要的信息,以降低文本中冗余噪声对于情感倾向分类的影响。实验结果表明,与传统机器学习方法以及长短期记忆模型和双向长短期记忆模型相比,所提出模型在电商评论的情感倾向分类上取得了较好的结果。     

一种基于WSD层级记忆网络建模的文档表示方法

针对传统自然语言处理中基于中文文档建模方法忽视了上下文语义关系和文档层级结构的问题,提出一种基于WSD层级记忆网络建模的文档表示方法,以充分利用词句级联的层次关系,增强文档建模内部的语义联系,实现文档分类。该方法首先通过Bert模型进行词到句的表示;然后利用双向长短时记忆网络结合注意力机制输出每个时刻句子信息的重要程度;最后通过全连接层获得连续的文档模型进行分类预测。对THUCNEWS、CHEMENGNEWS两个数据集进行仿真实验,结果表明本方法相比传统方法准确性提高7. 06%～18. 31%,有效地提高了文档分类的预测精度,为文档分类提供借鉴。     

基于ERNIE和BiLSTM的中文名词隐喻识别

隐喻普遍存在于自然语言中,精确的识别隐喻可以促进自然语言处理具体任务中语义的理解.为了提高中文名词隐喻识别效果,提出一种基于知识增强的语义表示(ERNIE)和双向长短期记忆网络(BiLSTM)的分类模型ERNIE_BiLSTM.该模型使用ERNIE进行编码,获取上下文相关的语义表示;并利用双向LSTM再次训练词向量,捕获文本长距离的语义关系.实验结果表明,ERNIE_BiLSTM模型在中文名词隐喻识别数据集上表现良好,准确率达到90.34％.     

多模态命名实体识别方法研究进展

为了解决多模态命名实体识别(MNER)研究中存在的文本特征语义不足、视觉特征语义缺失、图文特征融合困难等问题,多模态命名实体识别方法相继被提出。首先,总结了多模态命名实体识别方法的整体框架以及各部分常用的技术,随后对其进行梳理并分类为基于BiLSTM的MNER方法和基于Transformer的MNER方法,并根据模型结构将其划分为前融合模型、后融合模型、Transformer单任务模型、Transformer多任务模型等4类模型结构。其次,在Twitter-2015、Twitter-2017 2个数据集上,分别对这2类方法进行实验,结果表明：多特征协同表示能增强各模态特征的语义,多任务学习能够促进模态特征融合或者结果融合,从而提升MNER的准确性。建议在MNER的未来研究中,着重关注通过多特征协同表示来增强模态语义,通过多任务学习促进模态特征融合或结果融合等方向的研究。     

基于CNN特征空间的微博多标签情感分类

面对微博情感评测任务中的多标签分类问题时,基于向量空间模型的传统文本特征表示方法难以提供有效的语义特征。词向量表示能体现词语的语法和语义关系,并依据语义合成原理构建句子的特征表示。本文提出一个针对微博句子的多标签情感分类系统,采用经过有监督情感分类学习后的卷积神经网络(Convolution Neural Network, CNN)模型,将词向量合成为微博句子的向量表示,使得此CNN特征空间中的句子向量具有很好的情感语义区分度。在2013年NLPCC(Natural Language Processing and Chinese Computing)会议的微博情感评测公开数据集上,相比最优评测结果的宽松指标和严格指标,本系统的最佳分类性能分别提升了19.16%和17.75%;相比目前已知文献中的最佳分类性能,则分别提升了3.66%和2.89%。     

船舶行为的语义建模与表达

船舶行为的语义表达是实现水上交通态势智能认知与知识推理的基础。为实现对船舶时空运动特征的语义表达和抽象,完善船舶轨迹的语义转换方法,提出了一种船舶行为语义的认知计算模型。通过融合船舶的时空轨迹数据及航行环境信息,以船舶时空轨迹单元为基础,根据船舶的运动状态、轨迹的空间拓扑特征以及行为的语义特征,依据空间拓扑学理论,将船舶时空行为抽象为原子行为、拓扑行为和交通行为,从船舶的时空轨迹到语义行为进行了不同层次的概念建模、语义描述和形式化表达;最后,基于该语义模型对船舶在港口水域中不同类型的航行行为进行实例验证。结果表明,该模型能够对港口水域中不同运动特征、不同空间拓扑特征的船舶行为进行语义建模与形式化表达,将其提取为5种典型的交通行为,表明该语义模型对船舶行为认知具有一定的合理性和良好的适用性。研究成果能够为船舶行为的语义认知、知识计算提供理论方法基础,实现对高级船舶行为的语义计算和认知推理。     

基于LSTM与衰减自注意力的答案选择模型

针对答案选择过程中存在语句特征、语句间的相关语义信息提取不充分的问题,在长短时记忆网络(LSTM)的基础上,提出基于LSTM和衰减自注意力的答案选择模型(DALSTM). DALSTM使用LSTM和衰减自注意力编码层提取丰富的上下文语义信息,通过衰减矩阵缓解反复使用注意力机制出现的权重过集中于关键词的问题. 使用注意力机制对问题与答案间的信息进行双向交互,融合问答对间的相似性特征,丰富问答对间的相关语义信息. 在WiKiQA、TrecQA及InsuranceQA数据集上的模型评估结果表明,相较于其他基于BiLSTM的先进模型,DALSTM的整体性能表现更好,3个数据集的平均倒数排名（MRR）分别达到0.757、0.871、0.743.     

基于NWD集成算法的多粒度微博用户兴趣画像构建

微博文本特殊性的存在使得微博用户兴趣画像难以有效构建。为此, 提出了一种集成算法——新词发现-双向长短期记忆网络-梯度提升算法。首先针对微博文本的非正式性, 提出了一种基于支持度视角的新词发现(New Word Discovery, NWD)算法, 发掘其中大量存在的网络用语以实现更加准确的分词及语义把握; 其次, 引入Simhash算法使得微博文本中的“信息过载”现象得到改观; 再次, 为改善微博文本的简洁性而引起的特征稀疏问题, 采用双向长短期记忆网络(Bidirectional Long Short-term Memory,Bi-LSTM)模型提取博文语义特征; 最后, 通过融合微博用户静态特征训练梯度提升(extreme Gradient Boosting,XGBoost)模型, 从而有效构建多粒度微博用户兴趣画像。实验结果表明, 粗粒度(一级)兴趣标签模型NWD-Bi-LSTM和细粒度(二级)兴趣标签模型NWD-Bi-LSTM-XGBoost的宏平均F1值(Macro-average F1 score, mF1)和受试者工作特征曲线下面积(Area Under ROC Crave, AUC)分别高达83.6%, 79.7%和70.4%, 63.6%, 相对于基准模型, NWD算法的集成使得模型的mF1值和AUC值均能提升3%～5%, 其促进作用优于现有的新词发现方法。     

基于密集连接网络和多维特征融合的文本匹配模型

针对文本匹配过程中存在语义损失和句子对间信息交互不充分的问题,提出基于密集连接网络和多维特征融合的文本匹配方法. 模型的编码端使用BiLSTM网络对句子进行编码,获取句子的上下文语义特征;密集连接网络将最底层的词嵌入特征和最高层的密集模块特征连接,丰富句子的语义特征;基于注意力机制单词级的信息交互,将句子对间的相似性特征、差异性特征和关键性特征进行多维特征融合,使模型捕获更多句子对间的语义关系. 在4个基准数据集上对模型进行评估,与其他强基准模型相比,所提模型的文本匹配准确率显著提升,准确率分别提高0.3%、0.3%、0.6%和1.81%. 在释义识别Quora数据集上的有效性验证实验结果表明,所提方法对句子语义相似度具有精准的匹配效果.     

多尺度语义学习的人脸图像修复

针对卷积神经网络在图像修复过程中难以兼顾修复结果的局部细节和全局语义一致性问题,以生成对抗网络为基础,提出一种多尺度语义学习的编解码人脸图像修复模型.首先,将人脸图像用门控卷积分解为具有不同大小的感受野和特征分辨率的分量,用不同尺寸的卷积核提取多尺度特征,通过提取合适的局部特征来提升修复结果的细节;其次,将提取的多尺度特征输入至语义学习模块,从通道和空间两个角度学习特征之间的语义关系,从而增强修复结果的全局一致性;最后,引入跳跃连接将编码端的特征补充到解码端中减少采样造成的细节信息损失,改善修复结果的纹理细节.在CelebA-HQ人脸数据集上进行实验,结果表明提出的模型在峰值信噪比、结构相似性、l₁三个性能指标上均有显著提升,修复的结果在视觉上局部细节和全局语义更合理.     

基于图像描述的文本信息隐藏

针对文本信息隐藏嵌入容量低和语义连贯性差的问题,提出了一种基于神经网络图像描述的文本信息隐藏模型.将卷积神经网络与长短期记忆网络相结合,把图像特征和生成语句进行关联.从收发双方能否共享图像及模型参数的不同应用前提出发,设计了多种概率采样方式,从而生成载密的图像描述文本.实验结果表明,该算法具有较高的隐藏容量,载密描述句能较好地表达图像内容.该模型归属于"无载体"自然语言生成式信息隐藏,具有较好的隐蔽性和安全性.     

基于注意力与双通道网络的方面级情感分析

针对方面级情感分析任务不能充分兼顾句法全面性与语义关联性,且大多数研究中使用的图卷积仅考虑信息自上而下的传播,忽略了信息自下而上的聚合等问题,本文提出了基于注意力与双通道网络的情感分析模型.该模型在扩展依存表示的同时使用自注意力获取具有语义关联的信息矩阵,使用双通道网络结合全局句法与语义关联信息,双通道网络分别侧重于自上而下传播的语义特征与自下而上聚合的结构特征.通道内的图卷积输出会与信息矩阵进行交互注意力起到残差互补的作用,然后通过平均池化完成通道内的任务.最后将基于语义与基于结构的决策融合得到最终的情感分类特征.实验结果表明该模型在三个公开数据集上的准确率与F1值均有提升.     

用于分布式语义查询的语义逼近方法

传统的基于关键词的信息查询方法已经不能满足用户的需要. 为此,提出基于语义逼近的信
息查询方法,探讨了语义替换规则和基于逼近度的查询结果排序策略. 最后基于多代理技术
实现了一个分布式语义查询系统,能执行跨多个本体的语义查询任务.      

基于语义的Web挖掘信息智能获取研究

目前,基于语义的Web挖掘使语义Web和Web挖掘两个领域结合起来,并在一定程度上促进了各自的发展。本文介绍了语义Web的体系结构和Web挖掘以及智能Agent的相关概念,并提出了在多Agent框架下构建基于语义的Web挖掘信息智能获取系统模型,经过分析说明此模型在一定程度上提高了信息获取的智能化水平。