Dissertação (Mestrado)
Multi-channel aloha optimization for federated learning with multiple models
Autor
Silva, Rafael Valente da
Institución
Resumen
Dissertação (mestrado) - Universidade Federal de Santa Catarina, Centro Tecnológico, Programa de Pós-Graduação em Engenharia Elétrica, Florianópolis, 2022. Redes de sensores sem fio de larga escala são fundamentais para diversas aplicações de Internet das Coisas (IoT) que envolvam análise de dados e aprendizado de máquina. O enorme volume de dados gerado por tais redes impõe uma mudança de paradigma de aprendizado de máquina centralizado para descentralizado. Federated Learning (FL) é uma forma conhecida de aprendizado de máquina descentralizado, cuja eficiência depende da comunicação sem fio. Protocolos de Random Access (RA), como ALOHA, apesar de sua simplicidade, podem melhorar o tempo de convergência de sistemas de FL quando múltiplos canais ortogonais são utilizados. Este trabalho considera que os dispositivos estão envolvidos na otimização de mais de um modelo em um sistema de FL, e então propõe um método ótimo para alocar recursos de comunicação em uma configuração com o uso de ALOHA e múltiplos canais. O método proposto tem melhor desempenho, em termos de tempo de convergência, que alocações de canais uniforme ou compartilhada. Abstract: Large-scale wireless sensor networks are instrumental for several Internet of Things (IoT) applications involving data analytics and machine learning. The huge data volume generated by such networks imposes a change of paradigm from centralized machine learning to decentralized. Federated Learning (FL) is a well-known type of decentralized machine learning, whose efficiency heavily depends on the use of wireless communication resources. Random Access (RA) protocols, such as ALOHA, despite their simplicity, can improve the convergence time of FL systems if multiple orthogonal channels are used. This work considers that devices are involved in the optimization of more than one model in a FL system, and then proposes an optimum method to allocate wireless resources in a multi-channel ALOHA setup. The proposed method outperforms uniform and fully-shared channel allocations in terms of convergence time.