Kürzlich hat IBM vier neue Granite4.0Nano-Modelle vorgestellt. Diese Modellreihe umfasst Modelle mit Größen zwischen 3,5 Millionen und 1,5 Milliarden Parametern und zeigt, wie sehr sich IBM in der KI-Branche auf Effizienz und Zugänglichkeit konzentriert. Im Gegensatz zu den meisten großen Modellen in der Branche, die sich auf Cloud-Computing verlassen, können die Granite4.0Nano-Modelle auf gewöhnlichen Notebooks laufen und sogar lokal im Browser ausgeführt werden. Dies ermöglicht Entwicklern, Anwendungen für Verbraucherhardware oder Edge-Geräte ohne Abhängigkeit von Cloud-Diensten zu erstellen.
Alle Granite4.0Nano-Modelle werden unter der Apache2.0-Lizenz veröffentlicht und sind für Forscher, Unternehmen und unabhängige Entwickler geeignet sowie für kommerzielle Nutzung. Diese Modelle sind mit verschiedenen Tools kompatibel, wie z. B. llama.cpp, vLLM und MLX, und haben die Zertifizierung ISO42001 für verantwortungsvolles AI-Entwicklung erhalten.
Die Granite4.0Nano-Familie besteht aus vier Modellen: Granite-4.0-H-1B (ca. 150 Millionen Parameter), Granite-4.0-H-350M (ca. 3,5 Millionen Parameter), Granite-4.0-1B (eine Variante mit fast 200 Millionen Parametern) und Granite-4.0-350M (Variante). Die H-Serie-Modelle verwenden eine gemischte Zustandsraumarchitektur und sind für Umgebungen mit geringer Latenz an der Edge geeignet, während die Standard-Transformer-Modelle eine breitere Kompatibilität bieten.
Auch wenn es bereits viele kleine Sprachmodelle auf dem Markt gibt, hebt sich IBM's Nano-Familie durch ihre außergewöhnliche Leistung hervor. Neue Benchmarks zeigen, dass die Granite4.0-Modelle in mehreren Bereichen besser abschneiden als ihre Konkurrenten. Das Forschungsteam von IBM gibt an, dass diese Modelle bei Aufgaben zur Befolgung von Anweisungen und Funktionsaufrufen hervorragend abschneiden und Vorteile in Bezug auf Speicherbedarf und Geschwindigkeit haben, sodass sie auf mobilen Geräten oder CPUs reibungslos laufen können.
Es ist erwähnenswert, dass IBM nicht nur diese Modelle veröffentlicht hat, sondern auch aktiv mit der Entwicklergemeinschaft interagiert, Feedback sammelt und über zukünftige Entwicklungspläne diskutiert. Das Granite-Team kommuniziert auf Reddit mit Nutzern und zeigt so, wie sehr sich IBM für den Fortschritt des Open-Source-KI-Entwicklungs engagiert.
huggingface:https://huggingface.co/blog/ibm-granite/granite-4-nano
Wichtige Punkte:
🌟 IBM hat die Granite4.0Nano-Modelle veröffentlicht, die auf gewöhnlicher Hardware laufen und die Verfügbarkeit kleiner KI-Modelle verbessert.
🛠️ Alle Modelle werden unter der Apache2.0-Lizenz veröffentlicht und sind für Forschung und kommerzielle Nutzung geeignet, was Offenheit und Kompatibilität sicherstellt.
📈 Neue Benchmarks zeigen, dass die Granite4.0-Modelle in ihrer Leistung besser sind als ihre Konkurrenten und eine effiziente Verarbeitungsfähigkeit demonstrieren.
