Cet article étudie une nouvelle architecture récurrente basée sur l'attention, plus légère et moins coûteuse en temps de calcul qu'un réseau d'attention global. Nous détaillons en quoi ce type d'architecture permet d'atteindre de meilleures performances que des réseaux récurrents plus classiques, dans le cas de la régression de séries temporelles. Nous montrons son intérêt pour la prédiction de l'état d'un réseau de communication, et plus particulièrement pour la détection de la congestion.