【文献总结】AsyncFLEO: Asynchronous Federated Learning for LEO Satellite Constellation

236 阅读3分钟

导语

为解决卫星网络中联邦学习存在的空闲等待和模型陈旧问题,加速模型聚合,提出了一种新的异构联邦学习架构,引入星环拓扑结构、模型分层中继、分组聚合与陈旧折扣,提高模型收敛速度与准确率。

1 基本信息

作者:M., Elmahallawy;T., Luo
发表年份:2022
会议/期刊名:2022 IEEE International Conference on Big Data (Big Data)
研究对象:卫星网络联邦学习架构

2 问题陈述

同步联邦学习应用于卫星网络时,散兵卫星造成的空闲等待和模型陈旧问题将降低模型的学习效率,因此需要一种新的适用于卫星网络的异构联邦学习架构。

3 研究内容/方法

利用高空平台(HAP)作为参数服务器,通过星环通信拓扑、模型传播算法和具有卫星分组和过时折扣的模型聚合算法,减少收敛延迟、提升模型精度。
星环通信拓扑
HAP为环状结构,相邻节点之间能够相互通信。SAT中同一轨道的卫星之间能与相邻节点通信,不同轨道的卫星之间不能通信。HAP能与SAT中不同轨道的可见卫星通信。 image.png 模型传播算法
(1)HAP层转发全局模型:由源卫星开始,向两端转发,直到宿卫星
(2)SAT层中继全局和本地模型:当卫星可见时,从HAP接收全局模型,并向两端传播;本地训练完成后,发送本地模型至HAP,否则,将本地模型与元数据一起发送给邻居卫星
(3)HAP层中继本地模型:每个HAP接收的本地模型集合到达一定数量,将向两端传播,到达宿卫星后进行聚合,聚合完成后再将聚合后的模型从两端传播给其他HAP。
image.png
收敛操作
(1)卫星分组:宿卫星对每个轨道的第一轮训练的模型进行聚合,生成针对每个轨道的局部全局模型,计算两两之间的欧氏距离,并基于此进行分组。在后续过程中,模型将分配至对应的组内进行聚合。 image.png
(2)模型聚合:优先选择新的、数据量大的模型进行聚合,对于陈旧模型,定义陈旧折扣因子,乘上该因子进行聚合。

4 创新点

作者定义了一套用于卫星互联网的异步联邦学习架构

5 总结

为了将FL引入卫星通信,最大限度地提高效率和效率,作者提出了一种新的异步FL框架,AsyncFLEO for LEO星座,解决了卫星和PS之间的高度零星的连接和不规则的访问模式,以及由掉队的卫星,这共同导致大的收敛延迟和模型性能差造成的模型陈旧的挑战。AsyncFLEO根据从模型权重推断出的数据分布的相似性对来自不同轨道的卫星进行分组。此外,AsyncFLEO还引入了星环通信拓扑结构和模型传播算法。模拟表明,与几种最先进的方法相比,AsyncFLEO将FL模型收敛速度加快了22倍,同时将准确度提高了40%。结果还表明,AsyncFLEO对非IID数据具有鲁棒性,在5小时内达到81.36%的准确度,与IID设置下的85.57%准确度相当。

6 其他

作者如何模拟轨道卫星的运行以及彼此之间的通信,目前还未弄清。

参考文献

[1]. M., E. and L. T. AsyncFLEO: Asynchronous Federated Learning for LEO Satellite Constellations with High-Altitude Platforms. in 2022 IEEE International Conference on Big Data (Big Data). 2022. Ithaca: Cornell University Library, arXiv.org.