Comparing GMM and parzen in automatic signature recognition : a step backward or forward ?
Résumé
The use of Gaussian Mixture Models (GMM), adapted through the Expectation Minimization algorithm, is quite widespread in automatic verification (Biometric) tasks. Its choice is, at a first glance, founded on the good qualities of GMM models when aimed at approximating Probability Density Functions (PDF) of random variables. But biometric models for verification are frequently adapted from small sample sets of biometric signals, since in real applications subjects are not willing to accept long enrollment sessions. This well known constraint raises a problem of balance between model complexity and sample size. From this perspective, we show, through simple online signature verification experiments, that constrained GMM with fewer degrees of freedom, compared to GMM with full covariance matrices, provide better performances. Moreover, pushing this argument even further, we also show that a Parzen model (seen here as a over-constrained GMM) can be even better than usual GMM, in terms of Equal Error Ratio (EER)
O uso de Gaussian Mixture Models (GMM), adaptados atraves do algoritmo iterativo Expectation Minimization , e comum em tarefas de verificacao automatica de individuos (Biometria). Sua escolha, a primeira vista, e bem fundamentada nas boas caracteristicas do GMM como ferramenta para modelar Funcoes Densidade de Probabilidade de variaveis aleatorias. Mas os modelos em biometria, nao raramente, sao adaptados/aprendidos a partir de pequenos conjuntos de amostras, pois em aplicacoes reais, os individuos podem nao aceitar longas sessoes de cadastros. Esta restricao, bem conhecida em biometria, pode gerar problemas de balaco entre complexidade de um modelo de probabilidade e a quantidade de dados disponiveis para o seu aprendizado. A partir desta perspectiva, atraves de experimentos simples de verificacao pela assinatura online, este trabalho aponta evidencias de que modelos com menos garus de liberdade que os GMM com matrizes de covariancia cheias, incluindo GMM regularizados, provem melhores resultados. Mais ainda, tambem e mostrado que um simples modelo Parzen (visto aqui como um GMM sobre-regularizado) pode ser melhor que os GMM usuais, em termos de Equal Error Ratio (EER).