Jan ist eine Open-Source-Desktopanwendung, die darauf ausgelegt ist, große Modelle offline auf dem eigenen Rechner auszuführen. Sie wird vom Team von Menlo Research gepflegt und richtet sich an Menschen, die ihre Gespräche nicht in die Cloud schicken, aber auch keine Kommandozeile anfassen möchten. Auf GitHub hat das Projekt mehr als vierzigtausend Sterne gesammelt und steht unter der Apache-2.0-Lizenz, die sowohl private als auch kommerzielle Nutzung großzügig erlaubt. Das gelöste Problem ist konkret: Modell herunterladen, Modell laden und Chatten beginnen werden in einer grafischen Oberfläche zusammengeführt, sodass sich lokale Modelle erstmals wie gewöhnliche Software anfühlen.
Offizielle Angaben zum Repository
Plattform: GitHub. Organisation: janhq. Projekt: jan. Die Anwendung läuft unter Windows, macOS und Linux. Nach der Installation lassen sich offene Modelle wie Llama, Gemma, Qwen und gpt-oss direkt von Hugging Face herunterladen und lokal ausführen, auf Wunsch vollständig ohne Netz. Auch die Tür zur Cloud bleibt offen: Mit eigenen Schlüsseln lassen sich Anbieter wie OpenAI und Anthropic anbinden, und Jan bietet einen lokalen Dienst, der zur OpenAI-Schnittstelle kompatibel ist, auf Port 1337 des eigenen Rechners, dazu MCP-Unterstützung, damit andere lokale Programme dasselbe Modell aufrufen können.
Die eigentlichen Kosten stecken in der Hardware
Die Installation selbst ist nicht schwer; die wirkliche Schwelle ist der Rechner. Als offizielle Orientierung gelten etwa 8 GB Arbeitsspeicher für ein kleines Modell um 3B Parameter, 16 GB für 7B und 32 GB für 13B, und die Modelldateien selbst belegen mehrere bis dutzende Gigabyte Plattenplatz. Ohne eigene Grafikkarte läuft es ebenfalls, nur spürbar langsamer, sodass lange Antworten Geduld verlangen. Gespart werden also Abo-Gebühren und die Sorge um Daten, die das Gerät verlassen; bezahlt wird mit Speicherplatz, Arbeitsspeicher und Wartezeit. Diese Rechnung gehört vor den ersten Modell-Download.
Drei ehrliche Fallstricke
Erstens bedeutet Offline-Chat nicht die Fähigkeit der großen Cloud-Modelle. Lokal läuft vor allem Kleines und Mittleres flüssig, und bei komplexem Schlussfolgern, langen Texten und feinem mehrsprachigem Ausdruck bleibt ein Abstand, sodass die Erwartung zum gewählten Modell passen muss. Zweitens wählen Sie das Modell selbst. Die Anwendung kann viele Modelle aufnehmen, und Anfänger verlieren sich leicht in der Download-Liste; mit einem allgemeinen Modell um 7B zu beginnen ist weit praktischer, als gleich fünf oder sechs zu laden. Drittens ist Jan eine Einzelplatzanwendung ohne Teamkonten, Rechteverwaltung oder zentrale Verwaltung, sodass Teams mit gemeinsamem, kontrolliertem Einsatz besser Serverlösungen prüfen, statt Jan in diese Rolle zu zwingen. Jan passt zu Menschen mit ausreichend starkem Rechner, deren Gespräche oft Inhalte berühren, die nicht in die Cloud gehören, und die Geschwindigkeit gegen Privatsphäre tauschen. Mit nur 8 GB Speicher und Vorrang für Antwortqualität bleibt ein Cloud-Dienst die bequemere Wahl.
