Вход на сайт
Просмотр новости

Найдите то, что Вас интересует

MLPerf Inference v6.1: Erstmals mit Vera Rubin und AMD skaliert auf 512 Instinct MI355X
Дата публикации: 17-09-2026 05:23:07

Die unabhängige Organisation MLCommons hat mit MLPerf Inference in der Version 6.1 neue Benchmarks für die Inferencing-Leistung der verschiedenen Systeme veröffentlicht. Für uns immer wieder interessant dabei ist das Auftauchen neuer Hardware und auch eine mögliche Einschätzung dessen, was wir nicht testen können: Große und hochskalierte Serversysteme und deren Training- sowie Inferencing-Leistung.Die immer wieder aktualisierten Benchmarks bieten aber nicht nur Einblicke in die Hardware, sondern auch in die Software. Dazu fügt MLCommons auch immer wieder neue Benchmarks hinzu. Es zeigen sich aber auch die Verbesserungen in der Software. Gegenüber den Benchmarks von Inference v4.0 hat die Weiterentwicklung bei der Hard- und Software die Leistung um den Faktor 5,58 steigern können. Die Einführung von FP4 trägt dazu natürlich ebenfalls bei.In den neuen Ergebnissen ebenfalls auffällig: AMD zeigt zunehmend Ambitionen, seine Systeme skalieren zu wollen. Zudem scheint man nun auch seine Software-Plattform zunehmend in den Griff zu bekommen und kann auf Basis der aktuellen ROCm-Entwicklung Ergebnisse für die Instinct MI355X, Instinct MI350X und Instinct MI350P liefern. Im Falle eines Systems von Crusoe arbeiteten sogar 512 Instinct MI355X zusammen – in dieser Form präsentierten AMD oder einer der Partner bisher keinerlei Inferencing-Ergebnisse. Die Skalierung der Systeme wird aber zunehmend wichtiger. Bei NVIDIA arbeiten in den NVL72-Systemen bis zu 72 GPUs zusammen. Diese NVL72-Cluster lassen sich aber auch weiter zusammenschließen.{nozuna nzimagefromgallery}1ca0934a-68ce-46a4-b452-fdc8afcccea5 0{/nozuna nzimagefromgallery}
NVIDIA ist aber weiterhin der Big Player und dies zeigt sich auch anhand der Tatsache, dass die Mehrzahl der eingereichten Ergebnisse Hardware von NVIDIA verwendet. Eine Vielzahl fällt dabei auf die aktuellen Blackwell-Systeme. Erstmals tauchen aber auch Ergebnisse auf Basis der Vera-Rubin-Plattform auf.Eine um 2,5- bis 3,7-mal höhere Leistung gegenüber der GB300-Hardware nennt NVIDIA. Allerdings verbraucht VR200 mit 2.300 W auch deutlich mehr als GB300 bei 1.400 W.{nozuna nzdoubleimagefromgallery}1ca0934a-68ce-46a4-b452-fdc8afcccea5 1 2{/nozuna nzdoubleimagefromgallery}
NVIDIA hat für Vera Rubin bisher wohl eher zurückhaltende, eigene Ergebnisse präsentiert. Noch zur GTC sprach NVIDIA von einem dreifach höheren Leistung/Watt-Verhältnis (VR200 NVL72 gegen GB300 NVL72), auf dem AI Infra Summit präsentierte Ian Buck von NVIDIA dann aber einen um den Faktor 67 höheren Durchsatz für agentische Workloads.[twitter]2100079531923038659[/twitter]Auch Intel mit Xeon 6 und Arc Pro B70 dabeiAufgrund der fehlenden Skalierung spielt Intel eher im Workstation-Bereich für das Inferencing mit. Gezeigt werden Ergebnisse mit Xeon-6-Prozessoren und solchen mit Arc Pro B70. Im 1:1-Vergleich mit der Hardware hat Intel weiterhin das Nachsehen und kann mit AMD und NVIDIA nicht mithalten.Die Software aber scheint sich gut weiterzuentwickeln. Gegenüber den Inference-Ergebnissen 6.0 konnte Intel die Leistung um bis zu 36 % steigern. Für Intel dürfte es daher lauten, durchzuhalten, bis dann mit Crescent Island auch im Serverbereich wieder neue Hardware erschienen ist.

Основное содержимое страницы с новостью.

Die unabhängige Organisation MLCommons hat mit MLPerf Inference in der Version 6.1 neue Benchmarks für die Inferencing-Leistung der verschiedenen Systeme veröffentlicht. Für uns immer wieder interessant ist dabei das Auftauchen neuer Hardware und auch eine mögliche Einschätzung dessen, was wir nicht testen können: Große und hochskalierte Serversysteme und deren Training- sowie Inferencing-Leistung.

Die immer wieder aktualisierten Benchmarks bieten aber nicht nur Einblicke in die Hardware, sondern auch in die Software. Dazu fügt MLCommons auch immer wieder neue Benchmarks hinzu. Es zeigen sich aber auch die Verbesserungen in der Software. Gegenüber den Benchmarks von Inference v4.0 hat die Weiterentwicklung bei der Hard- und Software die Leistung um den Faktor 5,58 steigern können. Die Einführung von FP4 trägt dazu natürlich ebenfalls bei.

In den neuen Ergebnissen ebenfalls auffällig: AMD zeigt zunehmend Ambitionen, seine Systeme skalieren zu wollen. Zudem scheint man nun auch seine Software-Plattform zunehmend in den Griff zu bekommen und kann auf Basis der aktuellen ROCm-Entwicklung Ergebnisse für die Instinct MI355X, Instinct MI350X und Instinct MI350P liefern. 

Im Falle eines Systems von Crusoe arbeiteten sogar 512 Instinct MI355X zusammen – in dieser Form präsentierten AMD oder einer der Partner bisher keinerlei Inferencing-Ergebnisse. Die Skalierung der Systeme wird aber zunehmend wichtiger. Bei NVIDIA arbeiten in den NVL72-Systemen bis zu 72 GPUs zusammen. Diese NVL72-Cluster lassen sich aber auch weiter zusammenschließen.

NVIDIA ist aber weiterhin der Big Player und dies zeigt sich auch anhand der Tatsache, dass die Mehrzahl der eingereichten Ergebnisse Hardware von NVIDIA verwendet. Eine Vielzahl fällt dabei auf die aktuellen Blackwell-Systeme. Erstmals tauchen aber auch Ergebnisse auf Basis der Vera-Rubin-Plattform auf.

Eine um 2,5- bis 3,7-mal höhere Leistung gegenüber der GB300-Hardware nennt NVIDIA. Allerdings verbraucht VR200 mit 2.300 W auch deutlich mehr als GB300 bei 1.400 W.

NVIDIA hat für Vera Rubin bisher wohl eher zurückhaltende, eigene Ergebnisse präsentiert. Noch zur GTC sprach NVIDIA von einem dreifach höheren Leistung/Watt-Verhältnis (VR200 NVL72 gegen GB300 NVL72), auf dem AI Infra Summit präsentierte Ian Buck von NVIDIA dann aber einen um den Faktor 67 höheren Durchsatz für agentische Workloads.

Datenschutzhinweis für Twitter

An dieser Stelle möchten wir Ihnen einen Twitter Feed zeigen. Ihre Daten zu schützen, liegt uns aber am Herzen: Twitter setzt durch das Einbinden des Applets Cookies auf ihrem Rechner, mit welchen sie eventuell getracked werden können. Wenn Sie dies zulassen möchten, klicken Sie einfach auf diesen Feed. Der Inhalt wird anschließend geladen und Ihnen angezeigt.

Ihr Hardwareluxx-Team

Tweets ab jetzt direkt anzeigen

Auch Intel mit Xeon 6 und Arc Pro B70 dabei

Aufgrund der fehlenden Skalierung spielt Intel eher im Workstation-Bereich für das Inferencing mit. Gezeigt werden Ergebnisse mit Xeon-6-Prozessoren und solchen mit Arc Pro B70. Im 1:1-Vergleich mit der Hardware hat Intel weiterhin das Nachsehen und kann mit AMD und NVIDIA nicht mithalten.

Die Software aber scheint sich gut weiterzuentwickeln. Gegenüber den Inference-Ergebnissen 6.0 konnte Intel die Leistung um bis zu 36 % steigern. Für Intel dürfte es daher lauten, durchzuhalten, bis dann mit Crescent Island auch im Serverbereich wieder neue Hardware erschienen ist.

Схожие новости

#Наименование новостиТональностьИнформативностьДата публикации
1NVIDIA Vera: 88 Olympus-Kerne und 1,2 TB/s LPDDR5X für Agentic-AI-Racks022.8924-07-2026
2vLLM vs LMDeploy vs Triton: обзор бэкендов для инференса LLM0718-07-2026
3 Крупный и средний бизнес за полтора года вчетверо увеличил траты на GPU-серверы — данные Рег.облака 0704-06-2026
4NVIDIA: СПРОС НА ИИ РАСТЁТ, ДОРОЖНАЯ КАРТА НЕ МЕНЯЕТСЯ Investing.com ...5712-07-2026
5Сравнение производительности GPU в задачах обучения и инференса LLM: A100 против A6000 Ada05.5221-05-2026
6How NVIDIA GB10 CPU Performance Compares To Vera0726-06-2026
7One Of Three New Intel Xeon 6 CPU’s Was Designed Specifically For NVIDIA’s DGX B30009.1326-05-2025
8AMD Report Says Zen 6 EPYC Venice Smokes NVIDIA Vera In Revised Agentic AI Benchmarks07.9419-09-2026
9La inferencia de IA ya gasta más que el entrenamiento. Es un cambio de paradigma del sector (y malo para ti) 08.0612-08-2026

Классификация: Пресс-релизы. Схожих патентов: 0. Схожих новостей: 9. Тональность: 0. Информативность: 9.92. Источник: www.hardwareluxx.de.