Eine von der Tsinghua-Universität und der Harbin Institute of Technology gemeinsam entwickelte Methode namens OneBit ermöglicht die erfolgreiche Komprimierung großer Modelle auf 1 Bit, wobei 83 % der Leistung erhalten bleiben. Diese Methode überwindet die bisherige 2-Bit-Grenze durch die Verwendung von 1-Bit-Quantisierung und hat in der akademischen Welt große Aufmerksamkeit erregt.
Die Methode kombiniert eine 1-Bit-Schichtenstruktur, eine auf SVID basierende Parameterinitialisierung und ein quantisierungsbewusstes Training und eröffnet damit neue Möglichkeiten. Dieser Durchbruch bedeutet neue Perspektiven für den Einsatz großer Modelle auf PCs und Smartphones und verspricht die effiziente Ausführung großer Modelle auf mobilen Geräten.