人工智能系统可信性度量评估研究综述

近年来, 人工智能技术突飞猛进, 人工智能系统已经渗透到人们生活中, 成为人们生活中不可或缺的一部分. 然而, 人工智能系统需要数据训练模型, 数据扰动会对其结果造成影响. 并且随着人工智能系统业务多样化, 规模复杂化, 人工智能系统的可信性愈发受到人们的关注. 首先, 在梳理不同组织和学者提出的人工智能系统可信属性基础上, 提出人工智能系统的9个可信属性; 接着, 从数据可信性、模型可信性和结果可信性分别介绍现有的人工智能系统数据、模型、结果可信性度量方法, 设计人工智能系统可信证据收集方法. 其次, 总结当前人工智能系统的可信度量评估理论与方法. 然后, 结合基于属性的软件可信评估方法与区块链技术, 建立一个人工智能系统可信度量评估框架, 包括可信属性分解及可信证据获取方法、联邦式可信度量模型与以及基于区块链的人工智能系统可信度量评估架构. 最后, 讨论人工智能系统可信度量技术面临的机遇和挑战.     

舰船电站网络控制系统可信性分析设计技术

舰船电站网络控制系统由分层、局部向扁平、全局方向发展,信息安全问题可能直接导致功能安全失效,迫切需要开展相应的可信性分析设计。针对舰船电站网络控制系统面临的功能安全、信息安全等可信问题,通过从舰船电站网络控制系统中的系统、数据、网络3方面分析了可信性风险与设计需求,提出了相应的舰船电站网络控制系统可信性分析技术、数据可信性设计技术和网络可信性设计技术,保障舰船电站网络控制系统的可信性,为舰船电站网络控制系统研制过程中开展可信性分析设计提供了技术支撑。     

基于区块链的供应链可信数据管理

为解决传统供应链中贸易数据潜在伪造、篡改等安全问题,提出了一种基于区块链技术的供应链可信数据管理方案.首先,以智能合约将贸易规则代码化,防范履约风险和提高贸易数据处理可信性;其次,采用ZSS04方案和抽样技术交互完成贸易数据完整性检验;再次,设计了适用于供应链的分布式共识机制,以提高贸易数据存储可信性;最后,利用区块链技术所具有的原生特性实现非可信环境下的可信数据管理.分析以及实验结果表明,该方案能够为供应链中贸易数据管理提供新的思路和技术支持.     

基于多余度自治软构件的可信计算机制

随着网络技术的不断发展和信息化的普及,应用软件系统的可信需求越来越迫切.概括了可信计算研究的现状,针对可信应用系统在开发实施效率以及可信性控制灵活性等方面的问题,提出了构件级别的可信计算机制与评估方法,并介绍了实现该机制需要解决的关键技术,最后讨论了基于构件的可信应用系统的运行效率.该机制能够提高应用系统的开发实施效率及可信性控制的灵活性,提高系统可信性测评的效率,并且能够满足一般应用系统的效率要求.     

软件可信评估研究综述:标准、模型与工具

安全攸关软件的可信性关乎生命安全和财产保全,因此,分析评价软件可信性是否符合用户的预期(即软件可信评估)至关重要.软件可信评估从主观和客观两个方面度量软件的质量,对软件生产和应用有着重要的意义.综述了可信评估管理中涉及到的标准、模型和工具,而非关注软件度量本身.首先分析对比了软件可信性、可信评估的定义,并在研究了与可信性密切相关的软件质量的联系与区别之后,从相关国际标准、评估涉及的模型(包括质量属性模型、证据模型、分级规范等)以及软件工具支持等方面综述了软件可信评估研究工作.并且区分了这些方面中领域相关、领域无关的不同之处.目前软件可信评估已取得了一定的理论成果,并开发了若干工具辅助进行可信评估,但仍需在通用性、可伸缩性等方面有所加强.     

盲环境下的数字图像可信性评估模型研究

随着各种数字图像处理软件和信息隐藏软件的涌现,数字图像正面临"信任危机".文中从可信的角度考虑数字图像的安全问题,提出盲环境下数字图像可信性评估的概念.文中提出了两类可信性评估模型:可信性判断模型和可信性度量模型.可信性判断模型在数字图像取证技术的基础上,围绕数字图像的不同生命阶段,判断数字图像是否可信.可信性度量模型分为可信性综合度量模型和可信性历史度量模型两种.文中设计了一种基于隐马尔可夫(HMM)的历史度量模型和一种基于模糊层次分析法的综合度量模型.在所设计模型的基础上,文中进一步研究了盲环境下数字图像可信性评估体系.文中最后通过实验结果验证了所提出的数字图像可信性综合度量模型的有效性.     

一种需求驱动的软件可信性评估及演化模型

软件可信性评估模型的构建依赖于对特定应用领域中可信需求的准确提取和指标系统的合理建立.对于体系结构庞大、非功能性需求复杂的软件而言,可信需求往往随着软件运行状态的转移而不断发生变化.由于可信需求的动态演化将直接影响指标系统的稳定性,因此引起了可信软件研究领域专家的广泛关注.针对该问题,给出一种需求驱动的软件可信性评估及演化模型.首先,剖析和总结软件可信性评估过程中涉及的关键技术,如需求分析与指标提取、可信证据采集与转换、可信性评估推理等,讨论了可信性需求演化背景下的可信性评估自主求解问题.其次,为了分析可信属性间的内在联系及可信属性相对权重的变化规律,给出关联矩阵的概念,并在此基础上提出应用于软件可信性评估指标系统自主配置的自适应重构器.最后,给出软件可信性评估及演化模型的整体框架.实验结果证明了该模型的合理性和正确性.     

软件可信性动力学特征及其演化复杂性

可信软件已成为现代软件技术发展和应用的重要趋势和必然选择,而软件可信性建模已成为构造可信软件的先决条件和必要手段.为了探讨和阐明软件可信性的基本科学问题、建立软件可信性度量的理论基础,文中结合动力系统的基本思想探讨软件可信性及其演化规律,研究在各种内部和外部因素作用下软件可信性演化的动力学机制,并建立相应的动力学模型,从而软件系统的可信性可以认为是软件系统在动态开放环境下其行为的统计特性.通过对两个简单实例的建模分析,说明了软件系统可信属性的极限演化行为与动力系统特征的对应关系,诠释了软件可信性的动力学特征及其演化复杂性.     

新的可信网络框架研究

由于传统可信网络接入技术存在接入网络后缺乏保护、对安全芯片的利用率低和信任链传递不够完善的不足,因此在综合可信网络关键技术的基础上,基于可信平台模块(TPM)提出一种新的可信网络框架.该框架在提高TPM安全芯片利用率的同时,增强了可信网络的安全性,使可信网络用户得到更高级别的安全保护,可信度量以及数据加密传输等技术的应用确保该框架具有更高的安全性、可靠性、可信性和匿名性.     

智能系统全生命周期安全测试理论与方法

人工智能技术在公共、国防安全领域得到了广泛应用,然而智能系统的安全性面临极大挑战。如何有效、全面、深入地对智能系统进行安全测试成为解决当前智能系统安全问题的重要途径。近年来,国内外高度重视智能系统的安全性问题,开展了大量的安全测试理论方法研究并出台了大量相关政策文件。针对智能系统面临的安全问题,本文详细阐述了面向智能系统全生命周期的安全测试理论与方法。首先,本文说明了智能系统的特点、安全内涵及安全机理;接着,本文结合模型训练、模型推理、模型部署三个主要生命周期阶段,详细地阐述了智能系统面临的安全性挑战和测试理论方法;最后,本文从标准、平台等角度阐明了构建智能系统安全测试支撑体系的方式,分析了自动驾驶典型场景下的智能系统安全测试案例,并给出了未来展望。开展智能系统安全测试理论和方法体系的建设,可有效规避系统潜在风险和质量缺陷,是实现人工智能算法可解释、可信赖的基本路径,对于确保人工智能技术安全、可靠、可控具有重要意义。     

基于Unikernel技术的移动通信网络虚拟可信管理技术研究

虚拟化技术提高了物理资源的利用效率,但是虚拟化技术也面临虚拟机逃逸、跳跃攻击、虚拟机蔓延、隐通道、DMA攻击等安全风险,可信芯片技术可以从源头保证平台可信性,保证虚拟域的安全可信。本方案提出一种基于Unikernel技术的虚拟可信管理服务器构建方案,能够实现虚拟化环境下可信安全管理,不再将虚拟可信管理组件和可信平台模块放在特权域Domain0中,而是将虚拟TPM的管理组件与所需操作系统功能库编译并链接为一个密封的、具有单独地址空间的、专门的虚拟机镜像,直接运行在Hypervisor之上,能够为虚拟域提供可信管理服务。     

一种SOA软件系统可信性评价方法研究

结合计算机系统可信性评价需求,研究基于SOA软件系统可信性评价方法.首先引入SOA软件代数模型,给出SOA软件可信范式,为从软件体系结构角度研究可信性评价问题奠定基础.给出SOA软件元素(服务组件和服务组合)可信属性的定义以及可信性定义;证明可信范式下SOA软件系统的Markov特性,提出SOA软件系统的综合可信性评价模型.通过一个案例解释SOA软件系统可信性模型的应用.最后通过与同类研究比较,总结本文的特点和贡献.     

基于鉴别的等级制可信MAS的研究与设计

可信性问题是限制MAS技术走向成熟的关键问题之一.基于MA间的鉴别,提出了一种等级制可信MAS.论述了基于科层制思想的等级制可信MAS模型;详细论述了SA间以及SA与TA间的鉴别构建等级制可信MAS的过程;给出基于等级制可信MAS的IDS原型.分析表明,等级制可信MAS能够有效解决MAS的可信性问题,有利于促进MAS的广泛应用.     

一种面向等级保护的多级安全域间可信互联方法

通过分析等级化信息系统安全应用支撑平台的设计结构,针对不同等级间信息系统的互联会导致许多额外风险等问题,将可信网络连接(TNC)思想引入到定级系统应用平台的互联中,提出了一种面向等级保护的多级安全域间可信互联方法,设计了域间多级可信网络互联的框架,说明了架构运行的控制流程,并将其应用到具体的等级化信息平台的互联中,给出了实际互联方案,并对互联可信性进行了分析。为保障等级化安全应用平台跨域互联的可信性和安全性,特别是减少不同等级应用平台互联带来的额外风险,提供了有效的互联技术框架和方法。     

面向移动物联网的可信超网络概念及构架研究

泛在服务已成为当前用户的一种基本需求。移动物联网作为泛在服务的一种重要实现形式,面临着网络接入点分布不均匀、频谱无法全面覆盖和网络不稳定等问题,因此用户服务的可信性难以得到保障。与此同时,现有面向移动物联网的网络构架缺乏泛在服务保障与可信性保障的有效结合。因此,首先提出“可信超网络”的新概念,即在传统网络的基础上,利用认知计算技术构建虚拟网或者逻辑网络;然后在可信超网络概念的基础上结合移动物联网的特点,提出以可信性确保为目标、以泛在服务为核心能力的可信超网络构架,从总体上保障移动物联网泛在服务的可信性。     

云计算下多源信息资源云服务模型可信保障机制的研究

针对云计算环境下多源信息资源云服务模型在复杂异构的云网络下存在安全、容错、监管等可信性问题,以及现存保障机制缺乏普适性和独立性,提出一种能从制度上保证服务监管的第三方可信保障机制.分析比对多种信息资源服务模式,将可信性机理、信誉评估、云端访问加密等技术融合,引入第三方信任平台,设计第三方监管角色,搭建独立于服务过程之外的第三方可信保障机制,并设立访问控制模型保障其自身可信性.通过构建商务领域下的应用示例平台,表明该保障机制能充分考虑云计算环境下多源信息资源服务体系中的共性问题,能面向不同应用领域,适用于各种不同类型信息服务应用,具有一定的普适性.     

软件可信复杂性及其动力学统计分析方法

可信软件已成为现代软件技术发展和应用的重要趋势和必然选择.目前,关于软件可信性度量与评测方法无法完全有效地对软件系统的安全可靠运行提供保障.基于动力系统理论,文中诠释了软件系统的行为特性及其可信复杂性的基本科学问题.分析和讨论了软件可信性的复杂性特征,提出了通过可信复杂性研究软件可信性度量的观点.利用动力学统计分析方法给出了软件系统可信性统计指标的不变测度评测方法,给出了软件系统不可信的动力学判据.通过实例,采用数值模拟与理论分析方法验证了动力学统计分析方法在软件可信性度量方面的可行性.     

面向可信计算平台的软件标识发布系统

针对应用软件缺乏可信性导致可信计算平台存在安全隐患的问题,提出一种以软件标识作为安全载体和验证手段的软件标识发布系统.介绍了其具体功能模块和工作流程,通过引入软件行为声明技术解决了发布之前软件来源的合法性和可信性问题,设计了一个认证协议解决了发布过程中软件的完整性问题,同时为用户提供了一种基于可信行为的最优软件推荐策略.应用事例证明本系统对进一步提高平台整体的可信性具有较高的研究意义和实用价值.     

基于证据推理的嵌入式软件可信性评估方法*

传统的可信性评估模型通常使用软件度量医逻辑验证方法进行定量估计,在应用于体系结构复杂、可信度要求较高的嵌入式软件时,依然存在可信需求不明确、专家主观认知无法集成等问题.在分析嵌入式软件可信需求的基础上,构建一种基于证据推理方法的嵌入式软件可信性评估模型,并定义证据合成算子和效用估算模型以实现多样化可信证据的一致融合与量化.仿真实验验证了该模型在解决嵌入式软件可信性评估问题时的合理性与有效性.     

面向第三方的云平台可信性在线评测及分析技术

云计算的服务模式对用户数据安全产生的严重威胁,必须通过第三方对云计算是否可信进行评测,才能保障云计算产业的健康发展。由此,总结了国家高技术研究发展计划课题“面向第三方的云平台可信性在线评测及分析技术”的研究内容与成果,描述了从云平台可信评测模型与体系结构、可信性动态评测技术、可信证据收集及可信测试机制、可信性的多维量化评估方法、评测原型系统与工具集5个方面的研究工作,并对云平台的可信性进行评测。