Comment décider du moment de partir
Abstract
Les réseaux profonds à sortie anticipée (Early-Exit Deep Neural Networks -EE-DNN) offrent des multiples sorties permettant une inférence hiérarchique distribuée, optimisant l'équilibre entre calculs locaux et soutien du cloud. En segmentation sémantique d'images, le cas d'usage que nous avons choisi pour cet article, les EE-DNN exploitent leurs sorties anticipées pour effectuer des déductions simples à la périphérie. Cette approche fournit un résultat rapide et économe en ressources, car la communication avec le cloud peut entraîner des retards de transmission et consommer inutilement des ressources réseau. Cependant, il manquait dans la littérature un critère de sortie efficace visant spécifiquement la réduction de l'impact des communications avec le cloud. Nous proposons un nouveau critère basé sur les différences de segmentation entre sorties successives. Nos résultats montrent que ce nouveau critère de sortie s'adapte mieux à la taille des données et optimise les ressources de l'EE-DNN, surpassant ainsi l'entropie normalisée traditionnellement utilisée. Ce critère augmente la rapidité du modèle tout en réduisant les données envoyées au cloud.
| Origin | Files produced by the author(s) |
|---|---|
| Licence |