on WEKA
WEKA introduit un tableau de bord d'économie inférentielle pour affiner l'évaluation des infrastructures d'IA
WEKA, en collaboration avec NAND Research, a lancé l'Inference Economics Scorecard, un outil d'évaluation des infrastructures d'IA basé sur la productivité plutôt que sur l'activité GPU. Ce nouveau cadre, testé avec Nebius sur des GPU NVIDIA HGX B300, propose neuf indicateurs de performance, dont le nombre de jetons par watt et le coût par inférence. Cette approche permet de prendre en compte les contraintes liées à la consommation d'énergie, à la mémoire et à l'espace disponible dans les racks.
Selon 451 Research, la part de l'inférence dans les dépenses d'infrastructure d'IA devrait passer de 34 % en 2026 à 46 % en 2030. Les méthodes traditionnelles d'utilisation des GPU sont insuffisantes pour l'inférence, car elles ne tiennent pas compte des répétitions de tâches qui constituent des cycles GPU improductifs. Ceci souligne la nécessité de nouvelles mesures sensibles à un travail soutenu et efficace, et non à une simple activité.
Les résultats de référence récents de WEKA, déployés avec WEKA NeuralMesh, ont montré des améliorations notables en matière d'efficacité, renforçant la pertinence du nouveau tableau de bord dans la planification d'une infrastructure d'IA capable de gérer efficacement les charges de travail des agents modernes.
R. E.
Copyright © 2026 FinanzWire, all reproduction and representation rights reserved.
Disclaimer: although drawn from the best sources, the information and analyzes disseminated by FinanzWire are provided for informational purposes only and in no way constitute an incentive to take a position on the financial markets.
Click here to consult the press release on which this article is based
See all WEKA news