La méthode OneBit, développée en collaboration entre l'Université Tsinghua et l'Université des sciences et technologies de Harbin, a réussi à compresser des modèles de grande taille à 1 bit, tout en conservant 83 % de leurs performances. Cette méthode, qui franchit la limite précédente de 2 bits grâce à une quantification à 1 bit, a suscité un vif intérêt au sein de la communauté scientifique.
Combinant une architecture en couches à 1 bit, une initialisation des paramètres basée sur SVID et un entraînement conscient de la quantification, cette méthode ouvre de nouvelles perspectives. Cette avancée majeure laisse entrevoir de nouvelles possibilités pour le déploiement de modèles de grande taille sur les PC et les smartphones, promettant ainsi une exécution efficace de ces modèles sur les appareils mobiles.
