AMD MI355X gegen Nvidia B200: Morehs Leistungswerte sind nicht unabhängig geprüft

Der südkoreanische KI-Softwareentwickler Moreh hat auf der Veranstaltung AMD Advancing AI World Tour Seoul 2026 im Hotel Westin Seoul Josun Parnas seine Softwarestrategie für sogenannte Token-Fabriken vorgestellt.

Wie Medien am 4. November 2026 berichteten, erzielte das hauseigene MoAI Inference Framework nach Unternehmensangaben beim Einsatz aktueller Open-Source-Modelle auf dem Beschleuniger AMD Instinct MI355X unter allgemeinen Servicebedingungen mehr als den doppelten Inferenzdurchsatz im direkten Vergleich zu Nvidias B200.

Heterogene Clusterarchitektur und Optimierung im Software-Stack

Das MoAI Inference Framework bündelt mehrere Kernfunktionen in einem gemeinsamen Stack: Es integriert die Modelloptimierung, spezifische Anpassungen an verschiedene AMD-GPU-Generationen sowie Verfahren für die heterogen verteilte Inferenz. Neben dem reinen Leistungsvergleich homogener Systeme präsentierte Moreh auch Messwerte für gemischte Umgebungen.

In einer heterogenen Konfiguration, bei der Grafikprozessoren von Nvidia für die Prefill- beziehungsweise Prompt-Verarbeitung und AMD-Beschleuniger für die Dekodierung sowie Antwortgenerierung zuständig waren, lag die Durchsatzrate laut Herstellerangaben um etwa das 1,7-Fache über der Leistung homogener GPU-Cluster.

Wer sich mit der Implementierung solcher KI-Systeme befasst, muss neben der Performance auch die rechtlichen Rahmenbedingungen im Blick behalten. Dieser kostenlose Praxisleitfaden bietet Unternehmen eine kompakte Übersicht über alle Anforderungen und Fristen der aktuellen EU-KI-Verordnung. Umsetzungsleitfaden zum EU AI Act kostenlos herunterladen

Moreh-Chef Cho Kang-won betonte in diesem Zusammenhang, dass sich die Grundlage des Wettbewerbs in der Branche zunehmend vom bloßen Bestand an Grafikprozessoren hin zu den tatsächlichen Kosten pro generiertem Token verschiebe.

Markteinsatz und methodische Einschränkungen

Moreh liefert seine Betriebssoftware für heterogene Token-Fabriken im Jahr 2026 an mehrere Kunden im In- und Ausland. Der Entwickler greift dabei auf mehrjährige Erfahrung mit AMD-Systemen zurück: Seit der Kommerzialisierung eines auf AMD-Grafikprozessoren basierenden KI-Cloud-Dienstes gemeinsam mit dem südkoreanischen Telekommunikationskonzern KT im Jahr 2021 betreibt das Unternehmen mehr als 2.000 AMD-GPUs. Die Aktivitäten stehen im Kontext übergeordneter Pläne in Südkorea, den Ausbau der nationalen KI-Infrastruktur gemeinsam mit AMD voranzutreiben.

Die rasante Entwicklung von KI-Infrastrukturen stellt Unternehmen nicht nur vor technische, sondern auch vor neue regulatorische Herausforderungen bei der Risikodokumentation. Erfahren Sie in diesem kostenlosen E-Book, welche KI-Systeme als Hochrisiko eingestuft werden und welche konkreten Dokumentationspflichten jetzt gelten. Kostenlosen KI-Risiko-Report jetzt sichern

Trotz der gemeldeten Leistungswerte verweisen Berichte auf offene Fragen bei der Überprüfbarkeit. Demnach sind weder die Verdopplung des Durchsatzes gegenüber Nvidias B200 noch der 1,7-fache Durchsatz im heterogenen Verbund bislang von unabhängiger Seite verifiziert worden.

Zudem gehe aus den Veröffentlichungen teilweise nicht vollständig hervor, auf welche spezifische Softwarekomponente innerhalb des Stacks das Messergebnis primär zurückzuführen ist.