Dans ce papier, nous présentons un nouvel algorithme d'apprentissage incrémental d'un système de reconnaissance en-ligne de caractères manuscrits. L'objectif est d'apprendre «à la volée » toute nouvelle classe de caractères à partir de très peu d'exemples de caractères tout en optimisant les classes déjà modélisées au fur et à mesure de la saisie de nouveaux exemples. Le système proposé est capable de surmonter le problème du manque de données d'apprentissage lors de l'introduction d'une nouvelle classe de caractères grâce à la synthèse de caractères artificiels. Les tests ont été conduits dans le cadre d'un apprentissage incrémental mono-scripteur de lettres minuscules cursives sur une base de 18 scripteurs. Les résultats montrent qu'un bon taux de reconnaissance (environ 90 %) est atteint en utilisant seulement 5 exemples d'apprentissage par classe. De plus, ce taux augmente rapidement pour atteindre 94 % pour 10 exemples, et environ 97 % pour 30. Une réduction d'erreur de 40 % est obtenue en utilisant la synthèse de caractères par rapport à une stratégie sans synthèse.