-
题名基于多特征检测与自适应权重调整的鲁棒联邦学习算法
- 1
-
-
作者
王春东
赵立扬
张博宇
赵永新
-
机构
天津理工大学计算机科学与工程学院
天津理工大学天津市智能计算与软件新技术重点实验室
-
出处
《计算机科学》
CSCD
北大核心
2024年第S02期894-903,共10页
-
基金
国家自然科学基金(U1536122)
天津市研究生科研创新项目(2022BKY158)。
-
文摘
联邦学习作为一种保护隐私的分布式机器学习范式,允许多个客户端在不泄露原始训练数据的情况下协同训练全局模型。然而,由于无法直接访问客户端本地训练数据和无法监控本地训练过程,联邦学习面临各种拜占庭攻击的威胁,如数据中毒和模型篡改攻击。这些攻击旨在扰乱联邦学习模型训练过程,降低模型性能。针对此问题,尽管已有许多研究提出了不同的聚合算法,但这些方法主要聚焦于单一拜占庭攻击场景,而忽略了实际环境中可能出现的混合拜占庭攻击所带来的威胁。为应对这一难题,受净水器的原理启发,提出了一种基于多特征检测与自适应权重调整的新型拜占庭鲁棒聚合算法FL-Sieve,旨在通过多层次的筛查过滤恶意客户端。首先,算法通过角幅相似度和模型边界测度评估客户端间的特征相似性,生成相似度矩阵并计算相似性分数;接着,利用聚类算法将相似的节点归入同一簇,以确保相似的节点能够被正确分类;随后,根据预定义规则筛选潜在良性客户端;最后,根据每个客户端的信任度智能地分配权重,进一步增强防御效果和系统鲁棒性。为了验证FL-Sieve的性能,实验利用了MNIST,Fashion-MNIST和CIFAR-10这3种数据集,考虑了Non-IID数据分布情景和混合拜占庭攻击场景。混合拜占庭客户端的数量从20%递增到49%,以模拟大规模混合拜占庭客户端攻击的场景。同时也对FL-Sieve在IID和Non-IID数据分布以及单攻击场景下的性能进行了测试。实验结果表明,FL-Sieve能够有效抵御不同场景下的拜占庭攻击,即使在高达49%的混合拜占庭客户端攻击下,FL-Sieve依然能够维持较高的主任务准确率。相比之下,几种现有的经典算法存在不同程度的失效,凸显出FL-Sieve的优势。
-
关键词
联邦学习
混合拜占庭攻击
多特征检测
动态分配权重
鲁棒聚合算法
-
Keywords
Federated learning
Hybrid Byzantine attack
Multi-feature detection
Dynamic weight allocation
Robust aggregation algorithm
-
分类号
TP309
[自动化与计算机技术—计算机系统结构]
-
-
题名基于矩阵映射的拜占庭鲁棒联邦学习算法
被引量：8
- 2
-
-
作者
刘飚
张方佼
王文鑫
谢康
张健毅
-
机构
北京电子科技学院
信息网络安全公安部重点实验室(公安部第三研究所)
中国科学院网络测评技术重点实验室(中国科学院信息工程研究所)
-
出处
《计算机研究与发展》
EI
CSCD
北大核心
2021年第11期2416-2429,共14页
-
基金
国家重点研发计划项目(2018YFB1004100)
信息网络安全公安部重点实验室(公安部第三研究所)开放基金资助课题(C18612)
中国科学院网络测评技术重点实验室(中国科学院信息工程研究所)项目(KFKT2019-004)。
-
文摘
联邦学习(federated learning)由于参数服务器端只收集客户端模型而不接触客户端本地数据,从而更好地保护数据隐私.然而其基础聚合算法FedAvg容易受到拜占庭客户端攻击.针对此问题,很多研究提出了不同聚合算法,但这些聚合算法存在防守能力不足、模型假设不贴合实际等问题.因此,提出一种新型的拜占庭鲁棒聚合算法.与现有聚合算法不同,该算法侧重于检测Softmax层的概率分布.具体地,参数服务器在收集客户端模型之后,通过构造的矩阵去映射模型的更新部分来获取此模型的Softmax层概率分布,排除分布异常的客户端模型.实验结果表明:在不降低FedAvg精度的前提下,在阻碍收敛攻击中,将拜占庭容忍率从40%提高到45%,在后门攻击中实现对边缘后门攻击的防守.此外,根据目前最先进的自适应攻击框架,设计出专门针对该聚合算法的自适应攻击,并进行了实验评估,实验结果显示,该聚合算法可以防御至少30%的拜占庭客户端.
-
关键词
联邦学习
矩阵映射
阻碍收敛攻击
后门攻击
鲁棒聚合算法
-
Keywords
federated learning
matrix mapping
convergence prevention attack
backdoor attack
robust aggregation algorithm
-
分类号
TP391
[自动化与计算机技术—计算机应用技术]
TP309.2
[自动化与计算机技术—计算机系统结构]
-
