HuggingChat
Erklärt, wie HuggingChat zwischen offenen Modellen wechselt, Retrieval ergänzt und Inferenzkosten senkt, und wie sich die Open-Source-Chat-UI nach der Änderung des gehosteten Zugangs weiter selbst betreiben lässt.
HuggingChat ist die quelloffene Chat-Oberfläche von Hugging Face, die mehrere Modelle mit offenen Gewichten in einem Dialogzugang bündelt. Austauschbare Modelle, übertragbare Daten und ein frei wählbarer Ausführungsort unterscheiden sie von Werkzeugen, die auf ein einziges Modell festgelegt sind. Drei Linien, Arbeitsteilung zwischen den Modellen, Konfiguration der Recherche und Höhe der Inferenzkosten, zeigen, wo gehosteter Zugang und Selbstbetrieb der Chat UI bei den Kosten auseinanderlaufen.
