Split learning on low power devices for collaborative inference

Abstract

Este trabajo se centra en la creación de un sistema de machine learning capaz de ser desplegado en sistemas embebidos y microcontroladores de bajo poder mediante una metodología split. Partiendo de las limitaciones computacionales que este tipo de dispositivos nos ofrecen, se propone una arquitectura en donde se realiza un proceso de inferencia de forma colaborativa entre múltiples dispositivos, con el fin de compartir recursos y poder desplegar modelos neuronales más grandes y robustos en sistemas embebidos pequeños. Todo esto buscando explorar el potencial del Edge Computing y procesar los datos en el mismo lugar donde se generan.

The present work focuses on creating a distributed Machine Learning system capable of being deployed on multiple low-power embedded devices. Furthermore, we are looking to share the device resources through collaborative computing to be able to deploy more powerful neural models in a network of embedded systems. According to that, different stages of the solution were considered to solve the challenges inherent to creating a collaborative learning model and the challenges presented by adopting this type of solution in embedded systems, such as code optimization, communication protocols, and device synchronization