谢佩辰:北京大学高能效计算与应用中心(CECA)研究生,导师为孙广宇研究员。主要研究方向为计算机系统结构与隐私保护机器学习。研究工作发表于MICRO、IJCAI等计算机体系结构与人工智能会议。
报告题目:Combining Bayesian Deep Learning and Homomorphic Encryption for Secure DNN Inference
报告摘要:在云上部署深度神经网络(DNN)、提供在线DNN计算的MLaaS(Machine Learning as a Service)平台存在潜在的隐私问题,其中既包括用户数据的隐私又包括服务商权重数据的隐私。如何在保护隐私的情况下提供高效的在线推理服务成为了一个技术难点。本文提出一种结合同态加密和贝叶斯神经网络的隐私保护推理解决方案。具体来说,我们利用同态加密来保护用户隐私,用贝叶斯神经网络来保护服务商隐私。根据实验评估,该方案可以同时保护用户和服务商的隐私,并且计算速度比目前最先进的基于同态加密的方案快约五倍。
Spotlight:
MLaaS中的隐私问题;
基于同态加密的的隐私保护机器学习;
贝叶斯神经网络应用于隐私保护。
1. CryptoNets- Applying Neural Networks to Encrypted Data with High Throughput and Accuracy
推荐理由:这是发表在ICML 2016上的文章,是隐私保护机器学习的代表作。该文章利用同态加密第一次实现了在严格保护数据安全的情况下完成深度神经网络的推理计算。其方法为:让用户将加密的数据发送给服务商进行密文下的推理计算,接受服务商返回的数据并用自己的私钥进行解密。整个过程服务商看到的都是加密的数据。
2. Oblivious Neural Network Predictions via MiniONN Transformations
推荐理由:这是发表在CCS 2017上的文章。它提出了一种高效的深度神经网络推理计算方案。该文章在同态加密的基础上提出了一些很有意思的优化方案,使计算速度比CryptoNets快两个数量级。