Musk prédit Grok 4.6/4.7 : les paramètres 1,5T seront lancés en août, les paramètres 2,1T suivront de près
Musk a annoncé la feuille de route du modèle xAI de nouvelle génération le 28 juillet : Grok 4.6 devrait être publié vers le 7 août, avec une taille de paramètres de 1,5 billion et des améliorations significatives dans la formation SFT et RL ; Grok 4.7 avec une taille de paramètres de 2,1 billions sera lancé dans quelques semaines, atteignant la limite supérieure des capacités avec une rafale à haute fréquence.
Dans le cercle des modèles, Musk est probablement le seul à oser publier la prochaine génération et la feuille de route de la nouvelle génération avant sa sortie. Le 28 juillet, le responsable de xAI a annoncé publiquement les plans de sortie de Grok 4.6 et Grok 4.7 : le premier devrait être lancé vers le 7 août, avec une échelle de paramètres de 1,5 billion ; cette dernière prendra le relais quelques semaines plus tard, et l'échelle des paramètres sera encore élargie à 2,1 billions.
Incrément technologique de deux générations de modèles
Selon les informations divulguées, la mise à niveau de Grok 4.6 ne se concentre pas sur l'échelle, mais sur le processus de formation : des améliorations significatives ont été apportées dans deux aspects clés : le réglage fin supervisé (SFT) et l'apprentissage par renforcement (RL). SFT détermine la conformité aux instructions et la qualité de l'alignement du modèle, et RL détermine la capacité de raisonnement et la stabilité comportementale. L'amélioration de ces deux éléments signifie que « l'intelligence » de Grok 4.6 vient davantage de l'amélioration de la méthode d'entraînement plutôt que d'un simple amas de paramètres.
Grok 4.7, qui a suivi de près, est revenu sur la route des paramètres : 2,1 billions de volume de paramètres, visant directement à franchir la limite supérieure des capacités. De la version 4.5 à la version 4.6, puis à la version 4.7, xAI a utilisé deux générations de modèles pour montrer une courbe d'itération claire : d'abord en utilisant le processus de formation pour peaufiner la qualité, puis en utilisant l'échelle pour atteindre la limite.
Stratégie concurrentielle « continue »
La chose la plus informative à propos de cette bande-annonce est le rythme lui-même. Depuis le lancement complet de Grok 4.5 à la mi-juillet, jusqu'à Grok 4.6 début août, puis jusqu'à 4.7 quelques semaines plus tard, xAI met en œuvre une stratégie d'expédition à haute fréquence presque « de mise à jour mensuelle ». Cela contraste fortement avec le rythme d'Anthropic derrière Claude et d'OpenAI derrière ChatGPT - xAI choisit d'utiliser des intervalles plus courts et des itérations plus rapides pour continuer à supprimer ses adversaires en termes d'élan.
Du point de vue du secteur, les coûts et les avantages de cette stratégie sont tout aussi évidents : les mises à jour à haute fréquence peuvent rapidement absorber les commentaires de la communauté et maintenir le sujet d'actualité, mais elles imposent également des exigences plus élevées en matière de stabilité du modèle et de continuité de l'écosystème des API. Pour les développeurs, leur volonté de suivre le rythme de xAI et de procéder à des mises à niveau fréquentes dépend de la question de savoir si la méthode d'ouverture de l'API et la tarification de Grok 4.6/4.7 peuvent être suffisamment sincères lors de sa sortie officielle. Pour l'instant, il ne s'agit que d'"aperçus", et le responsable n'a pas encore divulgué les performances spécifiques et les coûts d'accès.
Plusieurs orientations à suivre dans le futur :
- Que ce soit dans les délais le 7 août : Le fait que le ticket soit retardé ou non testera directement le rythme d'exécution du projet de xAI.
- Perceptibilité des améliorations RL dans Grok 4.6 : Les améliorations des capacités d'alignement et de raisonnement peuvent-elles être réalisées dans des tests de référence et des mesures réelles ?
- Compte de puissance de calcul des paramètres 2.1T : Les coûts de formation et d'inférence de Grok 4.7 testeront les réserves de ressources de xAI.
- Le rythme de l'ouverture des API et des tarifs : grâce aux mises à jour continues, les partenaires de l'écosystème peuvent-ils suivre le rythme de la migration ?
Avis