Mercury 2.5 : le pari de la diffusion pour rendre les modèles de langage instantanés

Pendant que la course aux modèles se joue à coups de milliards de paramètres et de benchmarks de raisonnement, une start-up californienne attaque le problème par un autre bout : la vitesse. Inception a mis en ligne le 9 septembre Mercury 2.5, qu'elle décrit comme son modèle de production le plus performant et, « à sa connaissance, le plus grand modèle de langage par diffusion jamais entraîné ». Là où la quasi-totalité des grands modèles génèrent le texte un jeton après l'autre, Mercury en produit plusieurs en parallèle. Le résultat revendiqué : une latence de quelques centaines de millisecondes et une facture divisée, au prix d'un changement d'architecture que le reste de l'industrie n'a pas encore adopté.

Diffusion contre autorégression

Les modèles dits autorégressifs — GPT, Claude, Gemini, Mistral — écrivent de gauche à droite : chaque jeton dépend de tous les précédents, ce qui impose une génération séquentielle et borne mécaniquement le débit. La diffusion, elle, part d'un brouillon bruité qu'elle raffine par passes successives sur l'ensemble de la séquence, en produisant de nombreux jetons d'un coup. C'est la même famille de techniques qui a fait le succès des générateurs d'images, transposée au texte par l'équipe d'Inception, fondée par le chercheur de Stanford Stefano Ermon et peuplée d'anciens de Google DeepMind, Meta AI et OpenAI.

L'intérêt n'est pas théorique. Selon Inception, Mercury 2.5 tourne à 1 107 jetons par seconde sur des GPU NVIDIA courants, avec un temps de réponse au premier jeton inférieur à 300 millisecondes et un débit cinq à sept fois supérieur à celui des modèles frontière optimisés pour la vitesse. Le laboratoire annonce aussi une hausse de 40 % de « l'intelligence » par rapport à Mercury 2, plaçant le modèle au niveau des offres bon marché des grands acteurs — GPT-5.6 Luna (Low), Gemini 3.5 Flash-Lite ou Claude Haiku 4.5. Ces chiffres restent des mesures maison, à confronter à des évaluations indépendantes, mais la thèse est claire : atteindre une qualité « suffisante » beaucoup plus vite.

Là où la latence est le produit

Mercury 2.5 conserve la fenêtre de 260 000 jetons de la génération précédente et ajoute un raisonnement modulable, des appels d'outils en parallèle et une sortie JSON conforme à un schéma — de quoi l'intégrer dans des chaînes agentiques. Son tarif catalogue est fixé à 0,20 dollar le million de jetons en entrée et 0,75 en sortie, cassé à 0,04 et 0,15 pour le lancement. Mais l'argument central n'est pas le prix affiché : c'est le nombre d'appels que la vitesse rend possibles à l'intérieur d'une seule interaction.

C'est particulièrement vrai pour trois familles d'usages qu'Inception met en avant. Dans la recherche augmentée et les pipelines RAG, une requête déclenche des dizaines d'appels — planifier, réécrire, reclasser, résumer, vérifier — que seule une faible latence maintient dans un temps acceptable. Dans la voix, la latence n'est pas un détail d'infrastructure : c'est le silence qu'entend l'appelant. La société OpenCall, qui construit des agents téléphoniques, affirme avoir ramené son temps de réponse médian autour de 170 millisecondes et son P99 « de plusieurs minutes à une seconde » après bascule sur Mercury. Enfin, les agents de code, qui répartissent le travail entre plusieurs modèles, paient la latence et le coût à chaque appel secondaire — un terrain où un modèle rapide et bon marché se substitue avantageusement aux gros modèles pour les tâches de support.

Ce que la vitesse déplace pour l'Europe

Pour les éditeurs européens, l'intérêt de Mercury est moins la performance brute que l'économie des produits temps réel. Les agents vocaux, la relation client, la recherche interne ou les copilotes de code vivent ou meurent sur la latence et le coût par tâche ; un modèle qui divise les deux ouvre des cas d'usage que les API haut de gamme rendaient trop lentes ou trop chères. C'est le même mouvement de fond qui pousse déjà les acheteurs vers des modèles ouverts performants et bon marché : la valeur se déplace du modèle unique vers l'orchestration d'un ensemble de briques, chacune choisie pour son rapport vitesse-coût-qualité.

La diffusion appliquée au texte n'est pas encore un standard, et Mercury n'égale pas les modèles de raisonnement les plus lourds sur les tâches les plus difficiles — ce n'est pas sa cible. Mais en industrialisant une architecture alternative jusqu'en production chez des entreprises du Fortune 500, Inception fait la démonstration qu'il existe plus d'une manière de bâtir un grand modèle de langage. Dans un marché où l'inférence est devenue le poste de coût qui décide de la rentabilité d'un produit, la question n'est plus seulement « quel modèle est le plus intelligent ? » mais « lequel est assez bon, assez vite, à ce prix ? ». C'est précisément le pari de Mercury.