Kürzlich haben das Institut für Automatisierung der Chinesischen Akademie der Wissenschaften und Muxi MetaX gemeinsam den weltweit ersten „SpikingBrain-1.0“-Modell, ein kognitiv inspiriertes Spikemodell, erfolgreich eingeführt. Dies markiert einen wichtigen Schritt in der Technologie der großen Modelle in China. Diese Innovation erreichte nicht nur die vollständige nationale Entwicklung, sondern zeigte auch eine bemerkenswerte Steigerung der Effizienz bei der langen Sequenzschlussfolgerung.
„SpikingBrain-1.0“ basiert auf einer tiefen Forschung zur komplexen Arbeit von Neuronen im Gehirn und schlägt eine neue Architektur für große Modelle vor, genannt „Innere Komplexität“. Der Modellansatz verbindet die innere Dynamik der Spikeneuronen mit dem linearen Aufmerksamkeitsmodell und weist einen neuen Weg für die Entwicklung großer Modelle. Professor Li Guoqi betonte, dass die Veröffentlichung dieses Ergebnisses nicht nur die Innovationsfähigkeit Chinas in der Kombination von kognitiver Berechnung und großen Modellen zeigt, sondern auch neue Ansätze für die zukünftige neuronale Formberechnung und Chip-Entwicklung bietet.
Das Entwicklungs-Team hat auch das „SpikingBrain-1.0-7B“-Modell öffentlich zugänglich gemacht und bietet eine Test-Website für „SpikingBrain-1.0-76B“ an. Diese Modelle wurden weit verbreitet in der Industrie getestet und haben großes Potenzial für effiziente Anwendungen in Bereichen wie Recht und Medizin. Darüber hinaus hat das Team einen effizienten Trainings- und Inferenzrahmen für den „Xiyun C550 GPU-Cluster“ von Muxi MetaX in China entwickelt, wodurch die Anwendung großer Modelle reibungsloser und effizienter wird.
Mit der Einführung von „SpikingBrain-1.0“ wird der Fortschritt in der Technologie großer Modelle in China die Modellierungs-effizienz in Szenarien mit sehr langen Sequenzen in verschiedenen Branchen erheblich steigern und die Weiterentwicklung der entsprechenden Technologien fördern. In Zukunft können wir uns auf eine breite Anwendung dieser Technologie in Bereichen wie Recht, Medizin und wissenschaftlicher Simulation freuen und mehr Innovationen erwarten.



