Détection et suivi de personnes par vision omnidirectionnelle: approches 2D et 3D - Informatique, Biologie Intégrative et Systèmes Complexes Accéder directement au contenu
Thèse Année : 2018

People detection and tracking with omnidirectional vision: 2D et 3D approaches

Détection et suivi de personnes par vision omnidirectionnelle: approches 2D et 3D

Résumé

In order to realize applications allowing 3D pose estimation, we investigate the problem of 3D people detection and tracking in omnidirectional images sequences. This requires a stable and accurate monitoring of the person in a real environment. In order to achieve this, we will use a catadioptric camera composed of a spherical mirror and a perspective camera. This type of sensor is commonly used in computer vision and robotics. Its main advantage is its wide field of vision which allows it to acquire a 360-degree view of the scene with a single sensor and in a single image. However, this kind of sensor generally generates significant distortions in the images, not allowing a direct application of the methods conventionally used in perspective vision. Our thesis contains a description of two monitoring approaches that take into account these distortions. These methods show the progress of our work during these three years, allowing us to move from person detection to the 3D estimation of its pose. The first step of this work consisted in setting up a person detection algorithm in the omnidirectional images. We proposed to extend the conventional approach for human detection in perspective image, based on the Gradient-Oriented Histogram (HOG) implemented by dallal [Dalal, 2006], in order to adjust it to spherical images. Our approach uses the Riemannian varieties to adapt the gradient calculation for omnidirectional images as well as the spherical gradient for spherical images to generate our omnidirectional image descriptor. The descriptor will be used along with an SVM classifier for decision making. Several experiments have been done using the INRIA image database [Dalal, 2005], as well as our own database. We will introduce the different results obtained with our algorithm for a robust detection of people in omnidirectional images. Subsequently, we set up a 3D tracking system for people with omnidirectional cameras. We have chosen to do a 3D tracking based on a model of the person with 32 degrees of freedom, because we have imposed as a constraint the use of a single catadioptric camera. Our work focused on the implementation of several likelihood functions, based on geodesic distances in the spherical space SO3, as well as on the mapping of the silhouette in the image with the 3D model projected. Our likelihood functions combined with a particlefilter (whose particle propagation model is adapted to spherical space) allows accurate 3D tracking of the person in omnidirectional images. The approach has been validated in real conditions and with different person moves. In this manuscript we have shown that the use of omnidirectional cameras in the field of object detection and tracking can be accurate if we take into account the distortions of this type of sensor.
Dans cette thèse, nous traiterons du problème de la détection et du suivi 3D de personnes dans des séquences d'images omnidirectionnelles, dans le but de réaliser des applications permettant l'estimation de pose 3D. Ceci nécessite, la mise en place d'un suivi stable et précis de la personne dans un environnement réel. Dans le cadre de cette étude, nous utiliserons une caméra catadioptrique composée d'un miroir sphérique et d'une caméra perspective. Ce type de capteur est couramment utilisé dans la vision par ordinateur et la robotique. Son principal avantage est son large champ de vision qui lui permet d'acquérir une vue à 360 degrés de la scène avec un seul capteur et en une seule image. Cependant, ce capteur va engendrer généralement des distorsions importantes dans les images, ne permettant pas une application directe des méthodes classiquement utilisées en vision perspective. Ce mémoire traite la description de deux approches de suivi développées durant cette thèse, qui permettent de tenir compte de ces distorsions. Elles illustrent le cheminement suivi par nos travaux durant ces trois années, nous permettant de passer de la détection de personnes à l'estimation 3D de sa pose. La première étape de nos travaux a consisté à mettre en place un algorithme de détection de personnes dans les images omnidirectionnelles. Nous avons proposé d'étendre l'approche conventionnelle pour la détection humaine dans une image perspective, basée sur l'Histogramme Orienté du Gradient (HOG), mise en place par Dallal [Dalal, 2006], pour l'adapter à des images sphériques. Notre approche utilise les variétés riemanniennes afin d'adapter le calcul du gradient dans le cas des images omnidirectionnelles. Elle utilise aussi le gradient sphérique pour le cas des images sphériques afin de générer notre descripteur d'image omnidirectionnelle. Le descripteur sera utilisé avec un classifieur SVM pour la prise de décision. Plusieurs expériences ont été faites en utilisant la base de données d'images INRIA [Dalal, 2005], ainsi que notre base de données mise en place. Nous présenterons aussi les différents résultats obtenus avec notre algorithme pour une détection robuste de personnes dans les images omnidirectionnelles. Par la suite, nous nous sommes concentrés sur la mise en place d'un système de suivi 3D de personnes avec des caméras omnidirectionnelles. Nous avons fait le choix de faire du suivi 3D basé sur un modèle de la personne avec 32 degrés de liberté car nous nous sommes imposés comme contrainte l'utilisation d'une seule caméra catadioptrique. Notre travail a porté sur la mise en place de plusieurs fonctions de vraisemblance, basées sur les distances géodésiques dans l'espace sphérique SO3, ainsi que sur la mise en correspondance de la silhouette dans l'image avec le modèle 3D projeté. Nos fonctions de vraisemblance combinées à un filtre particulaire (dont le modèle de propagation des particules est adapté à l'espace sphérique), permettent de faire un suivi 3D précis de la personne dans des images omnidirectionnelles. L'approche a été validée dans des conditions réelles et avec différents mouvements de la personne. Dans ce manuscrit, nous avons tenté de montrer que l'utilisation des caméras omnidirectionnelles dans le domaine de la détection et du suivi d'objets peut être précise si on tient bien compte des distorsions de ce type de capteur.
Fichier principal
Vignette du fichier
Manuscrit.pdf (16.23 Mo) Télécharger le fichier
Origine : Fichiers produits par l'(les) auteur(s)
Loading...

Dates et versions

tel-02100091 , version 1 (15-04-2019)

Identifiants

  • HAL Id : tel-02100091 , version 1

Citer

Marouane Boui. Détection et suivi de personnes par vision omnidirectionnelle: approches 2D et 3D. Traitement du signal et de l'image [eess.SP]. Université Paris Saclay; Université d'Evry-Val-d'Essonne; Université Mohammed V, Rabat, 2018. Français. ⟨NNT : ⟩. ⟨tel-02100091⟩
277 Consultations
23 Téléchargements

Partager

Gmail Facebook X LinkedIn More