Nemotron-4 340B ist eine von NVIDIA veröffentlichte Reihe von Open-Source-Modellen, die speziell für die Generierung synthetischer Daten zum Training großer Sprachmodelle (LLMs) entwickelt wurden. Diese Modelle sind optimiert für die Verwendung mit NVIDIA NeMo und NVIDIA TensorRT-LLM, um die Effizienz von Training und Inferenz zu steigern. Nemotron-4 340B umfasst Basis-, Instruktor- und Belohnungsmodelle, die zusammen eine Pipeline zur Generierung synthetischer Daten zum Trainieren und Verbessern von LLMs bilden. Diese Modelle stehen auf Hugging Face zum Download bereit und werden in Kürze auch auf ai.nvidia.com als Teil des NVIDIA NIM-Microservices verfügbar sein.