Jan
Ein quelloffener Desktop-Client, der Text- und Vision-Modelle lokal ausführt, und erklärt, wie Modellimport, Auto-Optimierung und interne Abläufe ohne Datenabfluss funktionieren.
Jan ist ein quelloffener Desktop-Client, der Text- und Vision-Modelle direkt auf dem eigenen Rechner ausführt und bei Bedarf auf Cloud-Endpunkte umschaltet. Importierte Vision-Modelle übernehmen Bildverständnis, Screenshot-Analyse und Tabellenerkennung lokal, während eine experimentelle Auto-Optimierung Quantisierung und Threads an die Hardware anpasst und manuelles Tuning erspart. Im internen Netz verarbeiten lokale Modelle Bilder und Dokumente, sodass sensible Inhalte auf dem Gerät bleiben.
