首页 > 其他分享 >【隐私计算】Cheetah安全多方计算协议-阿里安全双子座实验室

【隐私计算】Cheetah安全多方计算协议-阿里安全双子座实验室

时间:2024-09-14 16:20:36浏览次数:11  
标签:协议 同态 截断 计算 双子座 Cheetah OT 推理

2PC-NN安全推理与实际应用之间仍存在较大性能差距,因此只适用于小数据集或简单模型。Cheetah仔细设计DNN,基于格的同态加密、VOLE类型的不经意传输和秘密共享,提出了一个2PC-NN推理系统Cheetah,比CCS'20的CrypTFlow2开销小的多,计算效率更快,通信效率更高。主要贡献有两点:

  • 基于格的同态加密的协议可在不进行任何昂贵同态Rotation操作的情况下评估线性层;

  • 提出了非线性函数的几个精简且通信高效的原语。

一、优化技术

Fast Convolution

ResNet50有49个卷积层,卷积中的一次过滤等于向量内积,一次卷积等于矩阵-向量乘。

矩阵×向量等于18、26,把矩阵变换为多项式,将向量代入多项式中,再将两个多项式进行乘法,18与26就是其中某个系数,我们只要把这个系数选出来就可以完成矩阵、向量乘。 

Ring-LWE(如BGV)加密,支持多项式同态计算。

 Ring-LWE与卷积层的天然结合,大大提升了性能。

SilentOT

非线性操作(Sigmoid / ReLU)一般需要使用OT/GC实现

  • CryptFLOW2已经证明纯OT方案比OT+GC好
  • CryptFLOW2使用的是IKNP-OT系列方案(Crypto03,CCS13)

自Boyleet.al.(CCS19)起,学者提出了一系列新一代SilentoT方案

  • Ferret (CCS20),Silver(Crypto21)

  • 通信量远低于IKNP-OT,计算量稍高于IKNP-OT

但是直接将已有协议中的IKNP-OT替换为Silent OT并不能取得提升(SIRNN、SP21),需要结合其他创新点,而不是简单的替换。

Truncation

MPC下很难表示浮点数→一般使用带scale(精度)的定/点整数表示小数

例如:明文0.5,scale2^{15} →定点数:0.5 × 2^{15} = 16384

问题:乘法会让数字增大一个scale的量级

0.5 × 0.5 → 16384 x 16384 = 268435456 = 0.25 × 2^{30}

做几次乘法,就会溢出MPC的表示范围(如 2^{64})

需要设计协议将秘密分享的密文截断scale倍,维持scale不变,即 268435456 >> 15 = 0.25 x 2^{15} 

  • SecureML(SP17)、DELPHI(USENIX'Sec20)的本地截断方案有小概率出错,不适合ResNet这种大型网络

      例:x=x1+x2,但(x>>15) != (x1>>15)+(x2>>15)

  • CryptFLOW2的截断协议没有错误,但是成本很高。整个推理中50%+的成本花在截断...

2个Share本地截断加2个修正才能得到真正的截断结果,然而其中1个修正没有必要,所以只保留有意义的修正,以降低截断成本,此时再结合Silent OT,如此便能得到非常显著的提升。

采用新的truncation协议,解决大错误,但是容忍1bit错误,实验证实1bit错误对NN推理结果没有影响。

 当待Truncation的数符号已知的时候(如ReLU)性能可以进一步提升。

二、性能提升

结合其他创新点:SlientOT优化比较协议、RLWE密文压缩、Batchnorm fuse等。

相比CryptFLOW2,在同网LAN和跨网WAN性能下都提升了数倍,80s完成ResNet50推理。

注:SecureQ8是需要非共谋第三方辅助的方案

三、算子实现

非线性算子实现

  • 底层基于EMP-toolkit开源库的Ferret RCOT

  • 衍生出各种OT primitive

  • 非线性算子调用OT primitive

线性算子实现

  • 使用RLWE生成自定义大小的(矩阵)乘法三元组(基于SEAL)

  • *为了更具备通用性,与Cheetah原论文的乘法设计有所不同

四、如何在隐语中使用Cheetah

  • 在配置中设置协议类型为Cheetah即可

    • C++: protocol_kind=4

    • Python: "protocol": "CHEETAH"

  • 上层应用代码无需改动

总结

Cheetah提供了一个高度优化的2PC-NN推理架构, WAN设定下,在不到2.5分钟的时间内对ResNet50模型进行安全推理,消耗2.3GB的通信量, 非常高效, 适合大规模神经网络训练推理, 是目前最好的2PC-NN工作之一。

  • 卷积和矩阵向量乘法中涉及的同态Rotation旋转操作是基于格的HE方案的性能瓶颈之一,Cheetah通过构造映射巧妙地消除了同态Rotation运算,也没有使用SIMD,加快了同态运算的效率;

  • 基于HE的协议可以直接接受Z_{2^\iota }的秘密份额,而不局限于Z_p, 避免了额外的计算和通信开销;

  • Cheetah使用了基于VOLE类型的OT扩展协议来构造高效、精简的非线性计算协议, 如截断、比较协议等, 极大降低了安全推理的计算和通信开销。

标签:协议,同态,截断,计算,双子座,Cheetah,OT,推理
From: https://blog.csdn.net/Jackie_vip/article/details/142252671

相关文章

  • SSM华天计算机面试刷题系统-计算机毕业设计源码22543
    摘 要华天计算机面试刷题系统是一款基于SSM(Spring、SpringMVC、MyBatis)框架、利用Java编程语言和MySQL数据库,开发的在线学习和测试平台。系统利用SSM框架及前端开发技术,实现了模块化开发和管理,前后端交互以及数据库操作等功能。系统具备良好的扩展性、稳定性和可维护性。......
  • springboot校园失物招领系统-计算机毕业设计源码17082
    目 录摘要1绪论1.1研究背景1.2 研究意义1.3论文结构与章节安排2 相关技术介绍2.1B/S结构2.2SpringBoot框架2.3MySQL数据库3系统分析3.1可行性分析3.2系统流程分析3.2.1数据新增流程3.2.2 数据删除流程3.3 系统功能分析3.3.1功......
  • springboot仓库仓储管理系统-计算机毕业设计源码14514
    目录1绪论1.1选题背景与意义1.2国内外研究现状1.3论文结构与章节安排2系统分析2.1可行性分析2.1.1技术可行性2.1.2经济可行性2.1.3操作可行性2.1.4法律可行性2.2系统流程分析2.2.1系统开发流程2.2.2用户登录流程2.2.3系统操作流程2.2.4......
  • 基于java基于BS结构下的OA流程可视化的研究与实现的计算机毕设源码+论文
    B/S结构下的OA流程可视化的研究与实现摘  要工作流是指整个或部分业务流程在计算机支持下的全自动或半自动化。在计算机网络环境下,工作任务在多个人或单位之间的流转实际上将表现为信息或数据在多个人之间的传送。使用可视化的OA工作流设计工具,用户不需要编程就可以定义设计出满......
  • springboot企业门户资讯网站-计算机毕业设计源码04252
    摘 要在当今数字化时代,企业门户资讯网站已成为企业展示形象、传递信息、吸引客户的重要渠道。随着技术的不断发展,传统的网站开发方式已经无法满足现代企业的需求。因此,基于SpringBoot技术的企业门户资讯网站应运而生,旨在为企业提供一个高效、灵活、可扩展的网站解决方案。......
  • java_day1_认识计算机,java环境,Java关键字、标识符、注释
    一、认识计算机1、组成:硬件:cpu,内存,显卡,...软件:系统软件:WPS,wegame,steam,IDEA,.....应用软件:WPS,wegame,steam,IDEA,.....2、认识键盘:功能键:tap,空格,``飘号键快捷键:ctrl+a[c|v|x|z]3、DOS命令dircdxxx盘符:clsexit二、java环......
  • 【开题报告】基于django+vue基于多模态医学知识的医疗诊断专家系统设计与实现(论文+源
    本系统(程序+源码+数据库+调试部署+开发环境)带论文文档1万字以上,文末可获取,系统界面在最后面。系统程序文件列表开题报告内容研究背景随着医疗技术的飞速发展,医学数据的多样性和复杂性日益增加,传统的医疗诊断方式已难以满足精准医疗的需求。多模态医学知识,融合了影像学、病......
  • 【开题报告】基于django+vue基于web新闻发布管理系统设计(论文+源码) 计算机毕业设计
    本系统(程序+源码+数据库+调试部署+开发环境)带论文文档1万字以上,文末可获取,系统界面在最后面。系统程序文件列表开题报告内容研究背景随着互联网技术的飞速发展,信息传播的速度与广度达到了前所未有的高度。新闻作为社会信息的重要载体,其发布与管理的效率直接影响到公众获取......
  • java+vue计算机毕设大学校园二手教材与书籍【源码+开题+论文+程序】
    本系统(程序+源码)带文档lw万字以上文末可获取一份本项目的java源码和数据库参考。系统程序文件列表开题报告内容研究背景随着高等教育的普及与知识更新速度的加快,校园内教材与书籍的更新换代日益频繁,这导致学生群体面临着高昂的购书成本。同时,大量使用过的教材在学期结束......
  • java+vue计算机毕设大学生运动员健康管理系统【源码+开题+论文+程序】
    本系统(程序+源码)带文档lw万字以上文末可获取一份本项目的java源码和数据库参考。系统程序文件列表开题报告内容研究背景随着体育事业的蓬勃发展,大学生运动员作为高校体育竞技的主力军,其健康状况与竞技表现日益受到社会各界的广泛关注。然而,当前大学生运动员的健康管理普......