Nous nous intéressons aux algorithmes MCMC dans le cas où une des composantes à rééchantillonner est un vecteur gaussien de grande dimension dont la covariance varie au cours des itérations (du fait de sa dépendance à des hyperparamètres eux-même rééchantillonnés par exemple). Pour éviter le coût de calcul d'une factorisation de type Cholesky à chaque itération, une solution récente propose de passer par la résolution d'un système linéaire de grande dimension, effectuée de façon approchée par gradient conjugué tronqué. Notre contribution consiste (1) à mettre en évidence que cette troncature empêche la convergence vers la loi cible ; (2) à proposer l'incorporation d'une étape de Metropolis-Hastings peu coûteuse rétablissant la convergence. Nous illustrons nos résultats sur un problème de super-résolution en imagerie. Ils mettent en avant de façon concrète le biais engendré par la version sans étape d'acceptation-rejet, ainsi que le degré de troncature possible grâce à l'algorithme proposé.