Après de bonnes études au collègue d’Harcourt pour certains, au collège de Beauvais pour d’autres, il suivit des études de théologie et fut ordonné prêtre. Les informations sur sa carrière avant la chute de l’Ancien Régime sont parfois confuses. En 1756 il fut nommé prédicateur du roi. Peu de temps après, il prononce et publie deux panégyriques de Saint-Louis et en 1774, une oraison funèbre de Louis XV. Ce serait suite à une oraison funèbre de Charles de Bourbon, comte d’Eu prononcée devant la cour en 1776 qu’il obtient la charge conservateur de la bibliothèque de l’Arsenal. En 1770, il entreprend un voyage en Italie et assiste à l’élection du pape Clément XIV. Il profite de son séjour pour visiter Parme, Milan, Turin, Naples, Venise et Florence et séjourne chez l’abbé Galiani. Après le décès du duc d’Orléans survenue en novembre 1785, il prononce en février 1786 un Discours aux enfants de Monseigneur le duc d’Orléans. La Correspondance littéraire souligne le talent de l’abbé dans son numéro de mars 1786 : « Le discours de M. l’abbé Bourlet de Vauxcelles […] est moins un éloge funèbre qu’une exhortation simple et touchante adressée aux enfants de Mgr le duc d’Orléans […] ; il y règne une sensibilité douce, un abandon aimable, et qu’on doit préférer souvent dans un ouvrage de ce genre à la méthode la plus ingénieuse. » Bourlet de Vauxcelles est à cette époque lecteur du comte d’Artois. Sous l’Ancien Régime, Bourlet de Vauxcelles n’entretient pas de mauvais rapports avec les philosophes des Lumières. Si l’on en croit la Biographie Michaud, le fondateur de la Quotidienne, « il voyait souvent Saint-Lambert et Diderot, quoiqu’il fût bien éloigné d’approuver leurs doctrines ». Il est l’ami des poètes Antoine Thomas et Jacques Delille. Il fut rédacteur au Journal de Paris fondé en 1777 et au Mercure de France mais ne signa apparemment pas ses articles. En avril 1788, la Correspondance littéraire publie un petit fragment de l’abbé dédié à Rivarol Mais c’est surtout durant la Révolution, particulièrement après le 9 thermidor qu’il devint célèbre comme contre-révolutionnaire.