Formación federada equilibrada entre generalización y personalización

Ruipeng ZHANG ,  

Ziqing FAN ,  

Jiangchao YAO ,  

Ya ZHANG ,  

Yanfeng WANG ,  

Abstract

Debido a los cambios significativos provocados por el modelo base en el campo de la inteligencia artificial, el aprendizaje federado intercentros está atrayendo cada vez más la atención debido a sus datos relativamente abundantes y su potente capacidad informática. A diferencia del aprendizaje federado entre dispositivos, el problema de la heterogeneidad de los datos en el aprendizaje federado intercentros está causado principalmente por los datos a gran escala entre clientes y el desplazamiento de la distribución, lo que requiere algoritmos para equilibrar la personalización y la generalización. Este artículo tiene como objetivo resolver el desafío del aprendizaje federado equilibrando la generalización y la personalización al mejorar la capacidad de generalización del modelo global en diversos campos y mejorar el rendimiento del entrenamiento local del cliente. Al estudiar la equidad de la distribución del rendimiento en el sistema federado, la investigación posterior explora la relación entre el error de generalización establecido en estudios anteriores y los pesos de agregación, proponiendo un método de aprendizaje federado que tenga en cuenta la equidad de la generalización y la personalización (FFT-GP). FFT-GP combina una estrategia de percepción de la equidad en la agregación para minimizar la varianza del error de generalización entre clientes de entrenamiento locales y una estrategia de metaaprendizaje para mantener la coherencia entre el entrenamiento local y la distribución global de las características del modelo, equilibrando así la generalización y la personalización. Numerosos resultados experimentales muestran que en comparación con los modelos existentes, FFT-GP tiene un rendimiento excepcional, lo que demuestra su potencial para mejorar el rendimiento del entrenamiento federado en diversos escenarios prácticos.

Keywords

Formación federada y generalización; Equidad en la distribución del rendimiento; Desplazamiento de dominio

READ MORE