首页 > 其他分享 >论文阅读:Securely Outsourcing Neural Network Inferenceto the Cloud with Lightweight Techniques

论文阅读:Securely Outsourcing Neural Network Inferenceto the Cloud with Lightweight Techniques

时间:2025-01-03 23:32:46浏览次数:8  
标签:Network Neural 模型 Outsourcing 安全 神经网络 加法 共享 推理

目录

1. 引言(Introduction)

2. 预备知识(Preliminary)

2.1 加法秘密共享(Additive Secret Sharing)

3. 系统概述(System Overview)

3.1 系统架构

3.2 威胁模型与隐私目标

4. 设计方案(Proposed Design)

4.1 安全卷积层(SCONV)

4.2 安全批归一化(SBN)

4.3 安全ReLU激活(SReLU)

4.4 安全最大池化层(SMP)

4.5 复杂性分析(Complexity Analysis)

5. 安全性分析(Security Analysis)

5.1 威胁模型与安全目标

5.2 安全证明

6. 性能评估(Performance Evaluation)

6.1 系统实现

6.2 微基准测试(Microbenchmarks)

6.3 全模型性能(End-to-End Performance)

7. 相关工作(Related Work)

8. 总结(Conclusion)


1. 引言(Introduction)

主要内容:

  1. 背景介绍
    神经网络推理服务已经广泛应用于图像分类、人脸识别等领域,这些服务通常基于云计算来实现。
    例如,用户上传一张照片到云端,由企业的神经网络模型进行推理后返回结果。这种云端计算方式具备高效性,但也带来了隐私风险

    • 用户的输入数据(如照片、位置信息)包含敏感隐私。
    • 神经网络模型是企业的重要资产,模型的参数可能暴露敏感训练数据。
  2. 现有方法的问题
    为了解决隐私问题,研究者提出了加密计算技术,如混淆电路同态加密,但这些方法有明显的缺点:

    • 计算成本高:需要大量的计算资源和通信交互。
    • 设备要求高:用户设备需要持续在线参与计算,不适用于移动设备等资源受限的环境。
  3. 论文目标
    论文提出了一种轻量化的安全神经网络推理系统——Sonic,它旨在解决以下问题:

    • 保护隐私:保障用户输入和模型的安全。
    • 高效性:减少带宽和计算开销,使其适用于资源受限的设备。
    • 灵活性:支持动态更新神经网络模型,而无需重新部署应用。
  4. 核心贡献

  • 设计并实现了Sonic框架,该框架支持安全的CNN推理服务。
  • 提出了轻量化的安全层功能,包括安全卷积(SCONV)、批归一化(SBN)、ReLU激活(SReLU)和最大池化(SMP)。
  • 在MNIST和CIFAR-10等数据集上进行了实验,证明Sonic在效率和带宽使用上优于现有方法。

2. 预备知识(Preliminary)

2.1 加法秘密共享(Additive Secret Sharing)

加法秘密共享是一种加密技术,能够将一个值分解为多个部分,使得单独的部分无法透露原始信息。

  • 基本原理

    • 一个秘密值 xxx 被分解为两部分 〈x〉0\langle x \rangle_0〈x〉0​ 和 〈x〉1\langle x \rangle_1〈x〉1​,满足 〈x〉0+〈x〉1=x\langle x \rangle_0 + \langle x \rangle_1 = x〈x〉0​+〈x〉1​=x (模运算)。
    • 每个部分单独看起来是随机的,只有将两部分结合才能还原 xxx。
  • 支持的操作

    • 加法和减法:可以在本地对两个共享值进行加法或减法,而无需额外通信。
    • 乘法:需要预先生成的乘法三元组(Multiplication Triple)来支持安全乘法。

表1:关键符号和含义


论文定义了多种符号以简化后续表达,例如:

  • X,W:分别表示输入和权重矩阵。
  • <x>_{i}:表示第 个服务器持有的秘密共享值。

3. 系统概述(System Overview)

3.1 系统架构

Sonic的系统由以下组件组成:

  1. 模型所有者:拥有预训练的CNN模型,并将其以秘密共享的形式上传到云端。
  2. 云服务器:由两个独立的云服务商(如AWS和Google Cloud)托管,用于共同执行推理计算。服务器之间不共享信息,确保安全性。
  3. 移动用户:上传加密的输入数据并接收推理结果。

工作流程:

  1. 模型预处理:模型所有者将CNN模型分割为两份加密的共享值,分别部署到两个云服务器。
  2. 输入数据加密:移动用户将原始输入数据(如图像)

标签:Network,Neural,模型,Outsourcing,安全,神经网络,加法,共享,推理
From: https://blog.csdn.net/2401_84208906/article/details/144919398

相关文章

  • HAWQ: Hessian AWare Quantization of Neural Networks With Mixed-Precision
    目录概HAWQ(HessianAWareQuantization)DongZ.,YaoZ.,GholamiA.,MahoneyM.W.andKeutzerK.HAWQ:Hessianawarequantizationofneuralnetworkswithmixed-precision.ICCV,2019.概本文利用Hessian的topeigenvalues来定位对应block所需要的量化bitw......
  • PACT: Parameterized Clipping Activation for Quantized Neural Networks
    目录概主要内容ChoiJ.,WangZ.,VenkataramaniS.,ChuangP.I.,SrinivasanV.andGopalakrishnanK.PACT:Parameterizedclippingactivationforquantizedneuralnetworks.2018.概本文提出对网络中的激活值进行裁剪以实现更低量化.主要内容作者的思想很简单......
  • UdpNm (UDP Network Management)
    IntroductionArchitectureOverviewTheAUTOSARNetworkManagementconsistsofthegeneralNMInterfaceandthebus-specificNMmodules.TheUDPNetworkManagement(UdpNm)moduleimplementsthenetworkmanagementfunctionalityfortheEthernet.Networkman......
  • VSCODE报错:运行命令 remote-explorer.refresh 错误: Client network socket disconnec
    VSCODE报错:运行命令remote-explorer.refresh错误:ClientnetworksocketdisconnectedbeforesecureTLSconnectionwasestablished。这可能是由提交remote-explorer.refresh的扩展引起的。相关:https://blog.csdn.net/qq_44106037/article/details/139124149解决......
  • chrome浏览器network如何查看上一个页面的请求
    前言大家好,我是小徐啊。chrome浏览器是我们在JAVA开发中常用的浏览器,其中的console和network等,都是我们常用的功能。network中,是可以看到每次的请求的,包括请求的参数和返回的数据。但有时候,页面上请求之后,会有跳转的请求,导致看不到上一个页面的请求。其实,我们可以设置的,那么,该如......
  • 【论文解读】How attentive are graph attention networks?
    图注意力网络有多专注?题目:Howattentivearegraphattentionnetworks?作者:SBrody,UAlon,EYahav单位:IsraelInstituteofTechnology,GoogleDeepMind,Tabnine摘要:图注意网络(GraphAttentionNetworks,GATs)是最受欢迎的图神经网络(GNN)架构之一,并被认为是图表示学习的最......
  • MySQL_network
    MySQLRDBMS术语数据库:数据库是一些关联表的集合数据表:表是数据的矩阵列:一列包含了相同类型的数据行:一行一组相关的数据冗余:存储两倍数据主键:主键是唯一的,可以用主键来查询数据外键:外键用于关联两个表复合键:复合键(组合键)将多个列作为一个索引键,一般用于复合索引......
  • PHP_network
    PHPPHP基础教程语法PHP脚本以<?php开头,以?>结尾php语句以;结尾,php代码块的关闭标签也会自动标名;php支持的三种注释//单行注释单行注释/*多行注释*/php中,所有用户定义的函数、类和关键词都对大小写不敏感;但所有变量都对大小写敏感变量变量规则:以$符......
  • 论文阅读:Deep Fusion Clustering Network With Reliable Structure Preservation
    论文地址:DeepFusionClusteringNetworkWithReliableStructurePreservation|IEEEJournals&Magazine|IEEEXplore代码地址:https://github.com/gongleii/DFCN-RSP摘要深度聚类通过优雅地利用数据表示来寻找样本的划分,已引起广泛关注。最近,将自编码器(AE)与图神经......
  • Linux:code:network:devinet_sysctl_forward;IN_DEV_FORWARD
    文章目录简介sysctl设置使用,arp_process间接使用IN_DEV_RX_REDIRECTSdev_disable_lro简介最近在看Linux里的forwarding的功能。顺便在这里总结一下。有些详细代码逻辑,如果可以记录一下,会好一点。sysctl设置这个函数在查看的时候需要注意的问题:变量名起的有......