Cerebras
Ein Cloud-Inferenzdienst auf Wafer-Scale-Chips mit Fokus auf hohen Durchsatz und niedrige Latenz, damit Entwickler gängige offene Modelle über eine API aufrufen können.
Cerebras nähert sich der Inferenz großer Modelle über seine Wafer-Scale-Engine und macht Cloud-Inferenz zu einem Produkt für Entwickler und Teams. Offene Modelle wie Llama, Qwen und Mistral liegen hinter einer einheitlichen API, Streaming und Batch-Aufrufe inklusive, abgerechnet wird pro Token. Die Stärken sind Durchsatz und Latenz bis zum ersten Token: Messungen brachten Qwen3 Coder auf rund 2000 Token pro Sekunde, und eine VS-Code-Erweiterung verbindet per Klick.
