隐私保护机器学习的密码学方法

新一代人工智能技术的特征,表现为借助GPU计算、云计算等高性能分布式计算能力,使用以深度学习算法为代表的机器学习算法,在大数据上进行学习训练,来模拟、延伸和扩展人的智能。不同数据来源、不同的计算物理位置,使得目前的机器学习面临严重的隐私泄露问题,因此隐私保护机器学习(PPM)成为目前广受关注的研究领域。采用密码学工具来解决机器学习中的隐私问题,是隐私保护机器学习重要的技术。该文介绍隐私保护机器学习中常用的密码学工具,包括通用安全多方计算(SMPC)、隐私保护集合运算、同态加密(HE)等,以及应用它们来解决机器学习中数据整理、模型训练、模型测试、数据预测等各个阶段中存在的隐私保护问题的研究方法与研究现状。     

多方安全计算在通信网络中的隐私保护与数据安全

多方安全计算通过分散存储和计算过程,保护数据在通信过程中的隐私和机密性。神经网络算法在威胁检测、恶意软件检测、用户身份验证、加密解密、异常检测和预警等方面发挥重要作用。进一步讨论了神经网络算法在通信安全构建中的拓展。以某5G手机卡激活为例,介绍了基于神经网络算法的多方安全防护流程。多方安全计算和神经网络算法的应用有助于提高通信网络的安全性和隐私保护,该技术的发展将在未来的通信网络中发挥重要作用,确保用户隐私和数据的安全。     

多方隐私集合交集计算技术综述

随着互联网、大数据等新技术的快速发展,越来越多的分布式数据需要多方协作处理,隐私保护技术由此面临更大的挑战。安全多方计算是一种重要的隐私保护技术,可为数据的安全高效共享问题提供解决方案。作为安全多方计算的一个重要分支,隐私集合交集(PSI)计算技术可以在保护参与方的数据隐私性前提下计算两个或多个参与者私有数据集的交集,按照参与方数目可分为两方PSI和多方PSI。随着私人数据共享规模的扩大,多于两个参与方的应用场景越来越常见。多方PSI具有与两方PSI相似的技术基础但又有本质的不同。该文首先讨论了两方PSI的研究进展,其次详细梳理多方PSI技术的发展历程,将多方PSI技术依据应用场景的不同分为传统多方PSI技术以及门限多方PSI技术,并在不同场景下按照协议所采用密码技术和功能进行更细致的划分;对典型多方PSI协议进行分析,并对相关密码技术、敌手模型以及计算与通信复杂度进行对比。最后,给出了多方PSI技术的研究热点和未来发展方向。     

基于安全多方计算的分布式数据处理的研究

本研究项目是以安全多方计算为核心技术,利用分布式Elgamal同态加密算法,结合谷歌的Map Reduce[1]云计算分布式框架研究一个通用的具有隐私保护功能的分布式云计算模型.即将原有的Map Reduce开源框架进行改进,将安全多方计算协议加入其中,形成一个具有保密性质的,且具有通用性(能应用到具体的现实场景中)的分布式计算模型.     

两方参与的隐私保护协同过滤推荐研究

 隐私保护的协同过滤推荐研究致力于在确保高质、高效地产生推荐的同时有效地保护参与方的隐私.在数据分布存储,参与方大于2的情形,已有研究针对其核心任务——对指定项进行评分预测,以可交换的密码系统为主要技术,设计了一个隐私保护计算协议.但该协议不适用于参与方是2的情形.以安全比较计算和安全点积计算为基础安全设施,设计了一个协议,解决参与方是2的情况下对指定项进行评分预测的隐私保护问题,从而解决了隐私保护的两方协同计算问题.预测准确度与数据集中存放一样,证明了协议的正确性,并基于安全多方计算理论和模拟范例,证明其安全性,分析了时间复杂度和通信耗费.     

基于区块链的外包安全多方统计计算可验证隐私保护方案

安全多方求和/乘积是安全多方计算(Secure Multi-Party Computation, MPC)的一种典型问题,近年来在智能电网、电子投票和联合征信等场景中有诸多应用。如何实现数据隐私保护是安全多方求和/乘积计算应用领域的一个关键性问题。针对此问题,引入了区块链构建可信数据共享环境,以此为基础结合可验证秘密共享协议设计了简单可行的基于区块链的外包安全多方统计计算可验证隐私保护方案。应用实例证明了方案的安全性和可行性,理论分析和实验测试表明该方案可实现安全多方统计计算过程中数据的可验证隐私保护,且较Feldman方案在数据验证过程中有更小的计算开销。     

面向机器学习的隐私保护关键技术研究综述

随着信息通信技术的发展,机器学习已经成为多个研究领域与垂直行业必不可少的技术工具。然而,机器学习所需数据中往往包含了大量的个人信息,使其隐私保护面临风险与挑战,受到了越来越多的关注。对现有机器学习下隐私保护法规政策与标准化现状进行梳理,对适用于机器学习的隐私保护技术进行详细介绍与分析。隐私保护算法通常会对数据质量、通信开支与模型表现等造成影响,因此对于隐私保护算法的评估应当进行多维度的综合评估。总结了适用于机器学习应用的隐私保护性能评估指标,并指出隐私保护需要考虑对数据质量、通信开支以及模型准确率等之间的影响。     

安全两方线段求交协议及其在保护隐私凸包交集中的应用

研究了现有安全多方计算几何协议,提出了安全多方计算几何的模型和框架,从数学模型、安全模型和通信模型3个维度展开描述。针对现有安全两方线段关系判定协议都忽略求解交点坐标的问题,在半诚实模型下基于Paillier同态加密技术提出了安全两方线段求交协议,使用Goldreich证明法进行了理论安全性分析,并在恶意模型下进行了推广。分析结果表明,该半诚实模型下的算法在效率上优于现有算法。作为安全两方线段求交协议的应用,结合O’Rourke算法提出了保护隐私的凸包求交集协议,弥补了安全计算几何领域仅实现了凸包并集算法的缺陷。     

移动社交网络中基于代理转发机制的轨迹隐私保护方法

K匿名技术是当前轨迹隐私保护的主流方法,但该方法也存在隐私泄露的风险。该文提出一种在移动社交网络中基于代理转发机制(BAFM)的轨迹隐私保护方法。该方法利用安全多方计算和内积安全计算进行隐私加密匹配,通过可信服务器在移动社交网络中找最匹配的用户做代理,然后由代理转发用户的请求到服务器进行查询,隐藏用户的真实轨迹与位置服务器的联系,有效保护用户的轨迹隐私。安全分析表明该方法能有效保护用户的轨迹隐私;同时,通过实验验证该方法相对K匿名更高效,能减小服务器的查询和通信开销。     

边缘协同的轻量级隐私保护分类框架

针对边端计算环境下存在感知图像数据泄露与隐私保护分类框架计算低效的问题,提出一种边缘协同的轻量级隐私保护分类框架(PPCF),该框架支持加密特征提取和分类,在边缘节点协同分类过程中实现对数据传输和计算过程的隐私保护.首先,基于加性秘密共享技术设计一系列安全计算协议;在此基础上,两台非共谋的边缘服务器协同执行安全卷积、安...     

基于隐私保护的分类算法在反洗钱领域的研究

基于隐私保护的分类算法是近年来数据挖掘领域的研究热点之一.文中有效利用安全多方协议,对多方数据进行分析,将基于隐私保护的分类算法应用于反洗钱领域.实验结果表明:该方法能在保护各方隐私的前提下,有效地识别洗钱交易行为,为金融机构甄别洗钱行为提供一种行之有效的方法.     

边缘计算下的联邦学习挑战及进展

<正>近年来，边缘计算和联邦学习技术受到了学术界和工业界的广泛关注。边缘计算充分利用位于边缘设备、边缘节点及边缘服务器上的计算和存储资源，减少对通信资源的消耗，提供了分布式计算和数据处理的能力。联邦学习作为一种分布式的机器学习方法，通过在本地进行模型训练，以达到保护数据隐私安全的目的。边缘计算和联邦学习这两项技术的结合，不仅可以实现边缘端的智能决策，还能减少通信开销，保护用户数据隐私安全。     

基于中国剩余定理的Paillier加密改进方法

联邦学习（federated learning, FL）是最近几年快速兴起的一种分布式机器学习算法,可以在不交换数据的前提下保护隐私。但是在模型训练的过程中,由于一些“诚实且好奇”的客户端的参与,可能会导致隐私信息的泄露或遭受到成员推理、属性推理或恢复数据训练等攻击。因此,对于联邦学习中隐私保护技术的研究已经成为新的热点。在现阶段的研究中,常采用同态加密（homomorphic encryption, HE）技术进行隐私保护,而Paillier同态是最常用的加密算法之一。为了使得加密算法更高效,利用中国剩余定理（Chinese remainder theorem, CRT）对Paillier同态加密算法的计算过程进行优化,并与未优化的Paillier加密算法进行对比实验。实验结果表明,优化后的加密算法在联邦学习中,既提升了其隐私性能,也提高了同态加密计算的效。     

人工智能系统安全与隐私风险

本文从人工智能系统的关键环节—数据输入、数据预处理、机器学习模型和输出,分析了相应的安全隐私风险及对策,讨论了未来在人工智能系统安全隐私保护研究方面的发展与防范措施。     

带隐私保护的集合交集计算协议的发展现状综述

隐私保护集合交集(Private Set Intersection, PSI)计算属于安全多方计算领域的特定应用问题,不仅具有重要的理论意义,也具有很强的应用价值。随着用户数据的隐私保护越来越受到重视,这一方向的研究更是符合人们日益强烈的在享受各类依赖个人信息的业务的便利性的同时最大程度保护个人信息私密性的需要。本文对隐私保护集合交集的问题定义进行了简要的阐述,重点介绍了当前性能(通信和计算负载)最好的PSI协议的主要思想与适宜的应用场景,并且在最后对这些协议进行了性能上的比较。     

基于组合差分隐私的社会化推荐算法研究

随着在线商品、服务以及信息的爆炸式增长,推荐系统正逐渐成为互联网应用当中一个不可或缺的部分。然而,推荐系统在给人们带来便利的同时,也存在很多潜在风险,其中之一便是隐私泄露问题。文章依托现有传统推荐算法,通过融入用户之间的信任关系,形成社会化推荐算法,提高了推荐效果。另外,在原有选定4种主要的差分隐私保护技术的基础上,结合联邦学习和安全多方计算等技术,寻求最优的组合差分隐私保护技术,增强了隐私保护的能力。     

区域医疗领域大数据安全平台的研究与设计

针对区域医疗领域的安全需求,在区域医疗业务框架下,对大数据安全标准、安全管理、安全审计、隐私保护等进行研究,设计了区域医疗大数据安全平台,其主要功能包括:安全策略管理、数据访问控制、应用安全审计、虚拟化电子取证追溯、数据隐私保护、安全监控、安全管理与规范。该平台为实现区域医疗的大数据需求提供了技术参考,并为相关业务的开展提供了安全保障。     

集合交集元素和的保密计算

安全多方计算作为密码学的重要分支，长期以来主要致力于解决两方或多方参与者隐私数据的联合计算.集合交集元素和的隐私计算作为安全多方计算中的科学计算问题，在保密计算广告转化率中具有重要作用.我们利用保密替换和加密选择求集合的交集，结合Lifted ElGamal加密算法，研究了不同限制下（数据范围较小和数据范围较大）集合交集元素和多方保密计算.本文方案解决两方计算时，Bob只需从Alice发送的数据中选择数据，避免了复杂的模指数运算，且双方不需多次交互，降低了计算成本和通信次数.多方参与计算时，根据加密选择和保密替换的性质，得到集合交集的密文，然后在密文上计算得到集合交集元素的和.通过理论分析和实验证明，本文协议是高效的.最后利用模拟范例证明本文协议是安全的.     

物联网与隐私保护技术

互联网不仅是人与人之间交流的平台,还将提供物与物、人与物、物与人的实时信息交流。这种全方位数字化网络称为物联网。文中主要论述用不同的技术方法保护物联网世界中用户的隐私。讨论了安全多方计算能够解决物联网中的安全问题。     

通用可组合公平安全多方计算协议简

在通用可组合框架下研究安全多方计算的公平性问题。在UC框架下,提出公平安全多方计算的安全模型。在模型中形式化定义了公平安全多方加法计算理想函数 和公平安全多方乘法计算理想函数 。然后,基于双线性对技术和承诺方案理想函数 ,在 -混合模型下分别设计公平加法协议 和公平乘法协议 安全实现理想函数 和 。最后,性能分析表明所提协议的有效性,能更好地满足应用需求。