Infrastructure d'entraînement FP8 : la nouvelle génération de précision numérique
L'entraînement FP8 réduit les besoins en calcul et en mémoire d'environ moitié par rapport au BF16 tout en maintenant une qualité de production. Microsoft, Meta et Google entraînent des modèles de pointe en FP8 avec des améliorations de débit de 30 à 40 %...
None