Der Jalapeño-Chip ist bei OpenAI in die Phase des internen Einsatzes eingetreten, und auch die Host-Konfiguration daneben ist nun bestätigt. Am 2. Oktober 2026 berichtete Tom's Hardware unter Berufung auf SemiAnalysis' Beschreibung des Rack-Aufbaus und in einem Interview mit Richard Ho, Vizepräsident und Hardwarechef bei OpenAI, dass der Jalapeño-ASIC zusammen mit AMD-EPYC-Turin-Host-CPUs eingesetzt wird — nicht mit den Vera-CPUs aus Nvidias eigener Plattform — und dass jeder Host 1,5 TB Speicher erhält.
Zwei Racks nebeneinander: Hosts auf der einen, 128 Chips auf der anderen Seite
SemiAnalysis beschreibt eine Kombination aus zwei Racks. Das Host-Rack namens Katsu hat 16 Trays, jedes mit zwei Turin-Klasse-EPYC-Prozessoren, 1,5 TB herkömmlichem DRAM, lokalem NVMe-Speicher und 400G-Frontend-Netzwerk. Das Beschleuniger-Rack namens Vindaloo hat ebenfalls 16 Trays mit je acht Jalapeño-Chips — 128 Chips pro Rack, mit bis zu 1,7 ExaFLOPs an 4-Bit-Rechenleistung und 27,5 TB HBM4-Speicher. Acht PCIe-Direct-Attach-Kupferkabel verbinden die entsprechenden Trays eins zu eins zwischen den Racks. Jedes Jalapeño-Package zieht rund 700 W und nutzt sechs 12-lagige HBM4-Stacks für 15,4 TB/s Speicherbandbreite.
Warum die Host-Wahl auf AMD fiel
Die Host-CPU übernimmt in einem KI-Rack die Datenvorverarbeitung, die Aufgabenplanung und das Füttern der Beschleuniger. Sie ist nicht das sichtbarste Bauteil, entscheidet aber über die Beschaffungsstruktur des gesamten Racks. Nvidia verkauft seine GPUs im Paket mit der eigenen Vera-CPU — je tiefer ein Kunde einsteigt, desto enger die Bindung. Da OpenAI den Beschleuniger durch den eigenen Jalapeño ersetzt und beim Host auf AMD setzt, enthält diese Kette kein einziges Nvidia-Teil. Das entspricht der langjährigen Multi-Vendor-Strategie: Das Training bleibt bei GPUs von Nvidia und AMD, während die Inferenz schrittweise auf eigene Chips und mehrere Lieferanten verteilt wird, damit der am schnellsten wachsende Kostenblock nicht von einem einzigen Anbieter bepreist wird.
Das Tempo bleibt: kleine Stückzahlen in diesem Jahr, Werte weiterhin aus Eigenmessung
Etwas Nüchternheit ist angebracht. Jalapeño wurde am 24. Juni 2026 von OpenAI und Broadcom vorgestellt; die ersten Ergebnisse, die am 25. August auf der Hot Chips veröffentlicht wurden — 1,5- bis 1,9-mal mehr Durchsatz pro Kilowatt als Nvidias GB200 und GB300 sowie 1,7- bis 3,6-mal geringere End-to-End-Latenz im InferenceX-Benchmark von SemiAnalysis — stammen aus OpenAIs eigenen Tests. Hos Zeitplan sieht den Einsatz Ende 2026 in sehr kleinen Stückzahlen vor, nennenswerte Mengen erst 2027. Die bestätigte Host-Konfiguration zeigt, dass der Rollout planmäßig läuft; eine großflächige Ablösung von GPUs ist aber noch fern. Für Beobachter zählt als Nächstes nicht die Benchmark-Tabelle, sondern ob diese Zwei-Rack-Systeme im echten Betrieb einen stabilen Kostenvorteil pro Inferenz gegenüber GPU-Aufbauten halten.
