Dans un futur proche, les véhicules autonomes ne seront plus limités aux routes et auront à naviguer dans des environnements urbains denses et dynamiques comme les espaces partagés. Dans de tels espaces, la séparation entre piétons et véhicules est réduite au minimum et les usagers doivent négocier leur passage sans règles de circulation explicites. Les piétons naviguent selon certaines normes sociales et s'attendent à ce que le véhicule autonome ait une navigation sécurisée, mais aussi efficace et conforme aux conventions sociales et urbaines. Pour cela, un élément clé de la navigation dans les espaces partagés repose sur la compréhension et l'anticipation des comportements piétons et de leurs interactions.Cependant, nous ne savons pas comment les piétons vont se comporter, car actuellement il est très rare que des véhicules autonomes naviguent dans le même espace que des piétons. Notre problématique est donc la suivante : comment anticiper les comportements piétons dans un espace partagé avec un véhicule autonome ?Cette thèse s'inscrit dans le cadre du projet ANR HIANIC (Human Inspired Autonomous Navigation In Crowds). Dans cette thèse, nous étudions le comportement des piétons en espace partagé avec un véhicule autonome en modélisant et en simulant des comportements piétons réalistes.Notre approche intègre des observations empiriques et des concepts issus des sciences sociales afin de proposer un modèle et un simulateur à base d'agents pour une application en robotique. À chaque étape, le modèle proposé a été évalué et validé par des simulations de plusieurs scénarios et des comparaisons avec des données réelles.Notre première contribution est un modèle des comportements piétons individuels dans un contexte d'espace partagé. Le modèle tient compte de la perception, de l'attention et de l'espace personnel des piétons pour simuler des foules peu denses en environnement ouvert.Notre deuxième contribution est un modèle de quatre relations sociales au sein des groupes de piétons (couples, amis, familles et collègues de travail). Le modèle permet de simuler à la fois le mouvement des groupes sociaux de piétons dans plusieurs contextes de foule et les comportements d'évitement des groupes par d'autres piétons.Notre troisième contribution est un modèle des comportements piétons en interaction avec un véhicule autonome en espace partagé.Le modèle permet de représenter des comportements piétons à la fois hétérogènes, précis et explicables dans plusieurs situations d'interaction. Le modèle peut être utilisé pour reproduire des scènes du monde réel et pour prédire les trajectoires des piétons autour d’un véhicule autonome en temps réel.Notre quatrième contribution est l'implémentation du modèle pour proposer le simulateur SPACiSS, "Simulator for Pedestrians and an Autonomous Car in Shared Spaces". SPACiSS est open source et permet de simuler les interactions entre les piétons et les véhicules dans différents espaces partagés. Avec l'intégration dans le cadre ROS, couramment utilisé en robotique, SPACiSS est conçu comme un environnement pour le test de systèmes de navigation autonome.Nous avons montré que la modélisation et la simulation à base d'agents peuvent contribuer à une intégration efficace entre les sciences sociales et la robotique. Cette association est prometteuse pour aborder des scénarios du monde réel.