| 人工智能系统可信性度量评估研究综述 |
| |
| 引用本文： | 刘晗,李凯旋,陈仪香.人工智能系统可信性度量评估研究综述[J].软件学报,2023,34(8):3774-3792. |
| |
| 作者姓名： | 刘晗 李凯旋 陈仪香 |
| |
| 作者单位： | 华东师范大学 软件工程学院, 上海 200062;上海市高可信计算重点实验室(华东师范大学), 上海 200062 |
| |
| 基金项目： | 华东师范大学-华为可信创新实验室项目(15902-412312-19214/013);上海市可信工业互联网软件协同创新中心项目 |
| |
| 摘 要： | 近年来, 人工智能技术突飞猛进, 人工智能系统已经渗透到人们生活中, 成为人们生活中不可或缺的一部分. 然而, 人工智能系统需要数据训练模型, 数据扰动会对其结果造成影响. 并且随着人工智能系统业务多样化, 规模复杂化, 人工智能系统的可信性愈发受到人们的关注. 首先, 在梳理不同组织和学者提出的人工智能系统可信属性基础上, 提出人工智能系统的9个可信属性; 接着, 从数据可信性、模型可信性和结果可信性分别介绍现有的人工智能系统数据、模型、结果可信性度量方法, 设计人工智能系统可信证据收集方法. 其次, 总结当前人工智能系统的可信度量评估理论与方法. 然后, 结合基于属性的软件可信评估方法与区块链技术, 建立一个人工智能系统可信度量评估框架, 包括可信属性分解及可信证据获取方法、联邦式可信度量模型与以及基于区块链的人工智能系统可信度量评估架构. 最后, 讨论人工智能系统可信度量技术面临的机遇和挑战.
|
| 关 键 词： | 人工智能系统 可信性 度量评估 |
| 收稿时间： | 2021/9/3 0:00:00 |
| 修稿时间： | 2021/10/14 0:00:00 |
Survey on Trustworthiness Measurement for Artificial Intelligence Systems |
| |
| LIU Han,LI Kai-Xuan,CHEN Yi-Xiang.Survey on Trustworthiness Measurement for Artificial Intelligence Systems[J].Journal of Software,2023,34(8):3774-3792. |
| |
| Authors: | LIU Han LI Kai-Xuan CHEN Yi-Xiang |
| |
| Affiliation: | Software Engineering Institute, East China Normal University, Shanghai 200062, China;Shanghai Key Laboratory of Trustworthy Computing (East China Normal University), Shanghai 200062, China |
| |
| Abstract: | |
| |
| Keywords: | artificial intelligence system trustworthiness measurement |
|
| 点击此处可从《软件学报》浏览原始摘要信息 |
|
点击此处可从《软件学报》下载全文 |
|
