Les différents types de vibrations des garnitures de forage jouent un rôle important dans le dysfonctionnement des opérations de forage car celles-ci conduisent à la rupture prématurée des trains de tiges, par conséquent, à la perte de l'outil au fond du trou et aussi à l'endommagement de la machine. En s'intéressant au forage de type rotary, cette thèse étudie le phénomène des vibrations de torsion de point de vu, modélisation par une EDP (modèle distribué) dont on établi les conditions aux limites adéquats. Une large partie de notre analyse dans ce mémoire concerne la commande du phénomène de vibration de torsion conduisant à une vitesse de rotation contrôlée sur le bord. La modélisation du phénomène de torsion affectant le train de tiges lors d'un forage pétrolier a été représentée par une équation aux dérivées partielles (1D) d'ordre deux: type linéaire intégrant le phénomène de frottement. Deux entrées apparaissent dans les conditions aux limites en termes de vitesse de rotation du train et de la réaction avec le sol. Il s'agit donc de designer la commande en vitesse qui assure la rotation adéquate pour le forage et qui n'excite pas le phénomène du torsion en tenant en compte l'interaction de la formation avec le sol. La stabilité de la garniture de forage dépend d'un système de boue du fluide qui doit injecté. Nous traitons une connexion entre le système de forage rotary et le système du fluide. Nous obtenons un système couplé sous la forme EDP-EDO. Egalement, nous avons transformé le système couplé à un système neutre avec retard. Nos achevons ce mémoire par la construction d'une loi de contrôle pour l'observateur du système de forage rotary avec une seule mesure aux limites dans le haut de la colonne pour estimer les paramètres de l'outil de forage qui sont accessibles à mesurer.