NVIDIA améliore les LLM avec des Q&A synthétiques
NVIDIA a développé une méthode de génération de Q&A synthétiques pour l'entraînement des modèles Nemotron. Cette approche a amélioré MMLU-Pro de +1.8, le code de +1.9, la compréhension de +1.6 et GPQA de +11.1 dans un test sur 100 milliards de tokens.
