Ein großes Modell lokal auf dem Heim-NAS laufen zu lassen, klingt nach einer Maschine für zwei Aufgaben: In den Laufwerksschächten liegen Familienfotos und Filme, und dieselbe Box beantwortet Fragen lokal, ohne Netz und ohne Abo. Doch ein NAS ist im Kern ein Speichergerät. Sein Prozessor ist auf niedrigen Verbrauch ausgelegt, und Speicher wie Rechenleistung sind auf Sparsamkeit getrimmt. Trennen Sie die echten Verkaufsargumente von der Decke, bevor Sie entscheiden, ob das Geld überhaupt in ein NAS gehört oder stattdessen in einen kleinen Computer.
Die echten Stärken: immer an, leise, Daten bleiben im Haus
Der größte Vorteil des NAS ist, dass es ohnehin rund um die Uhr läuft. Ein Desktop rechnet nur, solange er an ist, ein Laptop schläft mit geschlossenem Deckel, aber ein NAS steht das ganze Jahr online in der Ecke, und jedes Gerät im Haus kann ihm jederzeit eine Frage stellen; diese Verfügbarkeit ist die bequemste Form für ein lokales Modell. Strom und Lautstärke sprechen ebenfalls für das NAS: Das ganze Gerät zieht üblicherweise nur einige zehn Watt, und der Lüfter bleibt leise genug fürs Wohnzimmer. Drittens die Datengrenze: Familienalben, gescannte Ausweise und Verträge und private Dokumente liegen ohnehin auf dem NAS; lässt man ein Modell sie auf derselben Maschine lesen, muss man für eine Frage keine Dateien in eine Cloud laden. Für datenschutzbewusste Nutzer mit leichten Frage-Antwort-Bedürfnissen sind diese drei Punkte handfest.
Die Einstiegshürde: Modellgröße entscheidet zuerst der Speicher, dann der Chip
Der Platzbedarf eines lokalen Modells hängt vor allem an Parameterzahl und Quantisierungsstufe, und ob es passt, entscheidet zuerst der Arbeitsspeicher. Die bei NAS üblichen 4 oder 8 GB teilen sich mit Betriebssystem und Speicherdiensten, sodass für das Modell so wenig bleibt, dass nur die kleinsten Modelle überhaupt laufen und ein langer Kontext den Prozess beenden kann. Ab 16 GB wird es bequem, mit mittelgroßen quantisierten Modellen für Zusammenfassungen, Klassifikation und Dokumentenfragen. Prüfen Sie vor dem Kauf unbedingt, ob der Speicher erweiterbar ist; viele Geräte sind verlötet oder haben nur einen Steckplatz. Darüber sitzt die Rechenleistung: Die meisten Heim-NAS haben keine nennenswerte Grafikbeschleunigung, die Inferenz läuft allein auf dem Prozessor, oft mit nur wenigen bis gut einem Dutzend Wörtern pro Sekunde, und eine Antwort von einem Absatz dauert spürbar. Dieses Tempo passt zu Hintergrundarbeit, etwa Fotos über Nacht zu etikettieren oder Dokumente stapelweise zusammenzufassen, nicht zu Sofortantworten wie bei einem Onlinedienst.
Wer gut kauft: drei Arten von Menschen
Erstens alle, deren Einkaufsliste ohnehin ein NAS enthielt: Der Speicher bezahlt die Rechnung, das lokale Modell ist Zugabe – die gesündeste Einstellung. Zweitens leichte, aber häufige Nutzer, deren Bedarf Dokumentenzusammenfassungen, Fotosuche und Fragen ans Familienwissen ist, unempfindlich beim Tempo und empfindlich bei der Privatsphäre. Drittens Bastler, die Container installieren, Umgebungen einstellen und quantisierte Modelle aussuchen als Teil eines Heimlabors und die Langsamkeit als Teil des Spiels akzeptieren.
Wo es sich nicht lohnt, offen gesagt
Ist Ihr Hauptziel, flüssig mit einem großen Modell zu sprechen, Code zu schreiben oder lange Dokumente zu verarbeiten, wird ein NAS Sie enttäuschen: Dasselbe Budget auf einem kleinen Computer mit eigener Grafikkarte liefert Inferenztempo einer anderen Größenordnung. Dazu kommt eine versteckte Rechnung: Der Aufpreis für ein starkes NAS nur zum Modellbetrieb reicht oft für einen eigenen kleinen Computer, während die Speicherleistung kaum besser wird und das Modellerlebnis am stromsparenden Chip hängt. Die stabilere Aufteilung ist Arbeitsteilung: Das NAS zurück an den Speicher, das Modell an das stärkste Gerät im Haus oder in die Cloud, und die stille Dauerbereitschaft des NAS bleibt für Medien und Backups. Das Urteil ist damit klar: Ein NAS für Speicher kaufen und nebenbei ein kleines Modell laufen lassen, lohnt sich; ein NAS hauptsächlich für große Modelle kaufen, lohnt sich nicht.
