CROQuant: Complex Rank-One Quantization Algorithm
CROQuant: Complex Rank-One Quantization Algorithm
Résumé
This paper presents a quantization algorithm for complex-valued rank-one matrices that exploits rescaling-invariances of the problem to obtain better results than round-to-nearest strategy. This algorithm is also used as a building block for an heuristic strategy to quantize complex-valued butterfly-structured sparse matrices appearing for example in the fast Fourier transform. Compared to element-wise round-to-nearest quantization, the number of bits is reduced by 30% the number of bits for a given precision on butterfly matrices, while maintaining a polynomial time complexity in the dimension of the matrices.
Cet article présente un algorithme de quantification pour les matrices de rang un à valeurs complexes qui exploite les invariances par remise à l'échelle du problème pour obtenir un meilleur résultat que la quantification au plus proche voisin. En s'appuyant sur cet algorithme, on propose aussi une approche pour la quantification des matrices creuses à structure papillon à valeurs complexes apparaissant par exemple dans la transformée de Fourier rapide. Comparé à la quantification au plus proche voisin élément par élément, on obtient ainsi une réduction de 30% du nombre de bits nécessaires pour une précision donnée sur les matrices papillons, tout en maintenant une complexité polynomiale en la dimension des matrices.
Domaines
| Origine | Fichiers produits par l'(les) auteur(s) |
|---|---|
| Licence |