Robust and privacy-preserving federated learning scheme based on user selection

Wang Xiaoming1.²，Huang Binrui2+ （1.Colegeflelcge；ofo ^gy ，Jinan University，Guangzhou 510632，China）

Abstract：Tocounterthevulnerabilitiesofmodelparameters toinferenceandByzantineattcksduringfederatedlearning，this paperproposed arobustand privacy-preserving federated learning scheme basedonuserselection，enhancing thesecurityand reliabilityofmodel training.Itfirstlydesignedauserselectionalgorithmbasedontheconceptof groups constructedonfog servers.Thepurposeofthisalgorithmwastoselectuserswithhighcreditscores tocontribute tothetrainingof theglobal model.Next，itconstructedamethodforfiltering local modelparametersandupdatinguserscoresusingthetestsetfromthe cloudserver，efectivelymitigatingtheinterference frommalicious usersinthemodel training processandprogresivelyexcludingthemfromtraining，therebyenhancingtherobustnessoftheglobalmodel.Finally，itdesignedalightweightencryption algorithmbasedoncloud-fogcollaboration，whichnotonlyefectivelyprotectedtheprivacyofuserlocalmodelparametersbut alsoensuredtheirsecurityduringtheagregationprocess，whilemaintaining highcomputationalandcommunicationeffciency. Buildinguponthecomputationalchallngeof theDifie-Hellman（CDH）problem，itdemonstratedthesecurityof thisscheme， whichresistedvarious atacks，ensuring theglobal model’srobustness whilesafeguarding userdata privacy.Bycomparing with existing schemes andthrough performance analysisand experimental results，the proposal exceled in eficiency.When facing maliciousattackers，the accuracy rates of directly aggregated global models dropped to about 65% ，whereas this scheme maintainedanaccuracyrateclosetothatofasenariowithoutatacks，ffctivelymtigatingtheimpactofatacks.Tus，thissolution offersapractical and efective strategy for federated learning systems todeal with inference and Byzantineattcks.

Keywords：federated learning；robustness；privacy preservation；selecting user

0 引言

随着机器学习技术的快速发展，人工智能在各个领域的应用得到广泛发展。然而，随之而来的数据隐私问题也日益凸显，成为制约其发展的一个重要因素。为了解决这一问题，联邦学习作为一种新兴的分布式学习框架应运而生。这种分布式学习方式不需要用户上传本地模型参数便能参与全局训练，从而保护了用户的数据隐私，减少了通信费用的开销。目前，联邦学习已经被广泛应用到很多领域和场景中，例如医疗诊断、金融等。

尽管联邦学习能够解决数据孤岛的问题，但其仍然面临着诸多挑战。最新研究显示，保护模型参数的隐私安全以及防范推理攻击，已成为技术探索的核心焦点。为了应对这一挑战，研究者们已经提出了多种解决方案。例如文献[1，2]采用差分隐私技术，通过在模型参数的更新过程中引入随机噪声，有效阻挠了攻击者通过分析加密后的数据来揭示原始数据间的关联。然而，差分隐私的引入可能会对模型的准确性和收敛性产生一定的影响。与此同时，为了在模型精度与隐私保障之间寻求更优的均衡点，同态加密技术为数据隐私的维护开辟了新的视野，使得在数据保持加密状态的同时进行计算成为现实。

例如文献[3＼～5]探讨了如何利用同态加密技术，在联邦学习框架下确保各参与方在共享模型参数时，能够避免暴露各自的敏感数据，从而确保用户的数据隐私。尽管同态加密技术能够保护用户的数据隐私，但其计算效率相对较低，尤其是在处理复杂计算任务时，效率的下降尤为明显。……