本文提出了一种在联邦学习场景下可以保护隐私并防御后门攻击的聚合方法。作者认为联邦学习场景下为了保护用户隐私使用的同态加密会导致后门攻击难以防御。为此作者利用随机树和不经意传输将用户分为多个子组进行聚合，再通过子组聚合模型的部分数据剔除可能待后门的异常子组。检测方法是计算每个聚合子模型同全局模型的欧几里得距离，标准差超过阈值就用全局模型替换掉距离最远的聚合子模型，直到低于阈值。阈值由前几次周期标准差平均值乘一个小于1的超参数获得。"Zhang, Zhuosheng, et al. "SAFELearning: Secure Aggregation in Federated Learning with Backdoor Detectability." IEEE Transactions on Information Forensics and Security (2023)."
本文的优点在于考虑了在隐私保护的情况下进行后门攻击检测的方法，利用密码学知识保护子组用户隐私，再通过开放子组聚合后模型部分参数检测后门攻击的存在。
本文的缺点在于计算开销巨大，且无法防御当前最先进的后门攻击。
2023年8月30日
标签：后门,聚合,Secure,邹昱夫,模型,Federated,隐私,子组 From： https://www.cnblogs.com/FBprivacy/p/17668089.html