• 2024-06-15联邦学习权重聚合,联邦学习权重更新
    目录联邦学习权重聚合model.state_dict() 保存模型参数加载模型参数注意事项联邦学习权重更新联邦学习权重聚合model.state_dict() 在PyTorch框架中,model.state_dict() 是一个非常重要的方法,它用于获取模型的参数(即权重和偏置)作为一个有序字典(OrderedDict),其中
  • 2024-06-13隐语课程学习笔记5-隐私保护机器学习算法概要
    隐语课程第5课,简单介绍了隐语的算法能力,包括预处理、隐私求交、决策树模型、线性回归模型、神经网络模型,并且支持数据水平切分(横向联邦)、垂直切分(纵向联邦)、混合切分(横纵向联邦)。隐语提供了包括对DataFrame的封装,以及提供联邦ndarray的封装,和python的使用基本一致,上手较快,比
  • 2024-06-09联邦学习中的非独立同分布Non-IID
    在联邦学习FederatedLearning中,出现的很高频的一个词就是Non-IID,翻译过来就是非独立同分布,这是一个来自于概率论与数理统计中的概念,下面我来简单介绍一下在FederatedLearning中IID和Non-IID的概念。何为IID(独立同分布)IID是数据独立同分布(IndependentIdenticallyDistri
  • 2024-06-05一切模型皆可联邦化:高斯朴素贝叶斯代码示例
    联邦学习是一种分布式的机器学习方法,其中多个客户端在一个中央服务器的协调下合作训练模型,但不共享他们的本地数据。一般情况下我们对联邦学习的理解都是大模型和深度学习模型才可以进行联邦学习,其实基本上只要包含参数的机器学习方法都可以使用联邦学习的方法保证数据隐私。所以
  • 2024-06-04联邦学习框架VeryFL
    一、介绍VeryFL(Variable-FidelityLearning)是一种联邦学习框架。联邦学习是一种分布式机器学习方法,其中许多参与者(例如移动设备或边缘设备)共同训练一个全局模型,而不需要将他们的数据上传到中央服务器。与传统的集中式方法相比,联邦学习具有更高的隐私性和安全性。VeryFL框架的
  • 2024-06-03联邦学习研究方向及论文推荐(一)
    关于联邦学习的概念在网上资源丰富,但是考虑到有些同学在接触时缺少对研究方向细致了解而困恼,我根据一些综述论文博客等资料为大家做个易于理解的详细介绍。由于内容较多且分为两部分。目录Researchdirections(1)1.ModelAggregation2.Personalization3.Recommendersystem
  • 2024-05-25联邦学习基础
    联邦学习非独立同分布解决方案目录联邦学习联邦学习基础概念联邦学习的定义联邦学习训练流程联邦学习的分类联邦学习架构介绍联邦学习面临问题Non-IID问题引出Non-IID的引出Non-IID的类别Non-IID的衡量指标Non-IID的解决方法Non-IID的解法推广对策1:多任务学习(Multi-taskLe
  • 2024-04-05An Efficient Approach for Cross-Silo Federated Learning to Rank文章翻译
    AnEfficientApproachforCross-SiloFederatedLearningtoRank一种有效的cross-silo(跨孤岛)联邦排名学习方法摘要传统的排名学习(LTR)模型通常采用基于大量数据的集中式方法进行训练。然而,随着人们数据隐私意识的提高,像以前一样从多个所有者收集数据变得更加困难,由此
  • 2024-03-28世界上技术领先的智能机器人团队 —— 瑞士苏黎世联邦理工学院
    参考:https://hippo-robot.com/company/440/瑞士苏黎世联邦理工学院产品:
  • 2024-03-26《联邦学习实战》第3章阅读笔记
    《联邦学习实战》第3章阅读笔记第3章用Python从零实现横向联邦图像分类1.环境配置1.1Windows如何安装miniconda1.2如何安装深度学习框架2.PyTorch基础操作2.1创建Tensor2.2Tensor与Python数据结构转换2.3数据操作2.4自动求导3.用python实现横向联邦学习图像
  • 2024-03-18异步联邦学习①-FedASMU
    FedASMU:EfficientAsynchronousFederatedLearningwithDynamicStaleness-awareModelUpdate摘要作为一种处理分布式数据的有前途的方法,联合学习近年来取得了重大进展。FL通过利用分散在多个边缘设备中的原始数据来实现协作模型训练。然而,数据通常是非依赖和同分布的,即
  • 2024-03-17分层联邦学习①-SHARE
    SHARE:ShapingDataDistributionatEdgeforCommunication-EfficientHierarchicalFederatedLearning摘要:联合学习(FL)可以在移动节点上实现分布式模型训练,而无需共享对隐私敏感的原始数据。然而,为了实现高效的FL,一个重大挑战是提交模型更新的通信开销过高,因为通常需要频繁
  • 2023-12-28联邦云,一站式多云多活平台!
    在数字化时代,企业需要灵活、高效的云平台来支持其日益复杂的应用架构。而联邦云平台正是为满足这一需求而生。想象一下,阿里云、腾讯云、华为云等顶尖云平台汇聚成一个强大的联盟,共同打造一个统一的云平台。这个联邦云平台将拥有无与伦比的资源和技术优势,为企业提供多云多活的能力
  • 2023-12-28联邦云高效的云计算解决方案
    联邦云是一种创新性的技术平台,致力于将各大云计算巨头如阿里云、腾讯云和华为云等统一起来,以实现更高水平的合作和资源共享。通过联邦云,不同云平台可以无缝协同工作,相互之间实现数据交换和服务集成,为用户提供更加全面、高效的云计算解决方案。联邦云采用先进的技术手段,建立了一个
  • 2023-11-28数据仓库与挖掘
    建立数据仓库的意义在于使用这些数据,而最典型的应用是数据挖掘。一、数据仓库概述数据仓库是一个面向主题、集成、相对稳定、反映历史变化的数据集合。其中,1)数据源是数据仓库系统的基础,是整个系统的数据源泉2)OLAP(On-LineAnalyticalProcessing,联机分析处理)服务器对数据进行有效
  • 2023-10-31prometheus几种高可用架构介绍及联邦架构部署
    **问题背景:**单个prometheus性能到达瓶颈问题、多个prometheus-server数据汇总问题等**prometheus监控数据持久化**首先大家都知道prometheus是自带数据存储功能的。优点是简单易用,基本无需配置缺点是:1、存在数据无法长久保存(尤其是频繁变更的监控对象,监控对象变化,短时间内监控
  • 2023-10-11Effective C++ 笔记-1.1视C++为一个语言联邦
    应当这样正确的看待C++语言,将C++视为一个由相关次语言组成的联邦,而非单一语言。每种次语言都有自己的守则,当你从一个次语言移向另一个次语言,守则可能改变。其主要的次语言总共有4个:C:Object-OrientedC++;TemplateC++:STL:******C++高效编程守则视状况而变化,取决于你使用C+
  • 2023-09-26异质数据环境下的联邦学习
        近年来,大量数据的产生和边缘设备算力的提高,以及对数据隐私的要求使得以联邦学习为代表的分布式机器学习得到研究关注。传统的联邦学习优化方法如FEDAVG由于其简单实现且具有较低的通信代价得到了广泛的应用,但是其在异质数据环境下很难取得优秀的效果。联邦学习中各客户
  • 2023-09-06记一次生产项目Kubesphere中NS加入Workspace,致使NS数据删除事故
    一、前言2023年7月23日在项目上线前夕,k8s生产环境出现故障,经过紧急修复之后,k8s环境恢复正常;另外我们环境引入了kubesphere云原生平台技术,为了方便研发人员对于k8s权限的细粒度管理,我方手动将kubernetesnamespace(生产环境业务命名空间)加入到kubesphere中的workspace(企业空间),就在此
  • 2023-08-28联邦学习中的安全多方计算
    联邦学习中的安全多方计算SecureMulti-partyComputationinFederatedLearning什么是安全多方计算安全多方计算就是许多参与方需要共同工作完成一个计算任务或者执行一个数学函数,每个参与方针对这个执行构建自己的数据或份额,但不想泄露自己的数据给其他参与方。在安全多方
  • 2023-08-26联邦学习中的推理攻击
    InferenceAttacksinFL在人工智能领域,推理攻击是提取没有公开的但攻击者感兴趣的信息。在联邦学习中,如果云聚合器是攻击者,那么其获知的信息可能包含模型参数、梯度、训练集的边界分布等等;其未知的信息可能包括客户端的训练集信息(图像内容、某特定成员信息、属性等)推理攻击的分
  • 2023-08-25联邦学习:对“数据隐私保护”和“数据孤岛”困境的破局
    作者:vivo互联网安全团队- TuDaxi随着计算力、算法和数据量的巨大发展,人工智能迎来第3次发展高潮,开始了各行业的落地探索。然而,在“大数据”兴起的同时,更多行业应用领域中是“小数据”或者质量很差的数据。“数据孤岛”现象广泛存在,例如在信息安全领域的应用中,虽然多家企业推出
  • 2023-08-10隐私计算之浅谈联邦学习
    本文分享自天翼云开发者社区《隐私计算之浅谈联邦学习》 作者:l****n一、背景“数据孤岛”简单的讲,各组织都持有各自的数据,这些数据之间互有关系但又独立存储于各组织。出于安全性、合规性等方面考虑,各组织只能查询、使用己方数据,无法交换其它组织的数据。在联邦学习出现前,针对
  • 2023-08-08联邦学习
    目录基础知识(个人笔记)SDN/NFVECA/ECN/ECI下行与上行网络带宽云计算边缘计算增量学习迁移学习CollaborativeEdgeComputing边缘计算的关键挑战模型的收敛速度数据非独立同分布为什么会导致准确性下降和收敛速度变慢?纵向联邦学习和横向联邦学习StragglerproblemSingle-process
  • 2023-07-16数据仓库和数据联邦
    数据仓库和数据联邦是两种不同的数据管理和分析架构。1.数据仓库:-定义:数据仓库是一个集成的、主题导向的、历史有意义的数据集合,用于支持企业的决策制定和分析需求。-架构:数据仓库采用了集中式的架构,将来自多个源系统的数据抽取、转换和加载到一个集中的存储中,通常以星