Project Beacon wurde am 9. Oktober 2026 von Baseten im offiziellen Blog angekündigt, Partner ist Goodfire AI. Ziel ist es, proaktive Sicherheitskontrollen direkt in die Inferenz offener Modelle einzubauen. Statt einen Textfilter hinter die Ausgabe zu schalten, liest das System während der Generierung die internen Aktivierungen des Modells und erkennt mit Sonden ein entstehendes Risikoereignis, um zu handeln, bevor der Inhalt einen Nutzer oder ein Werkzeug erreicht.
Die vier Risiken im Blick
Baseten nennt als Risiken auf der Inferenzebene: Prompt Injection in Dokumenten oder Werkzeug-Rückgaben, die einen Agenten umlenken soll; ein Agent, der Aktionen vorschlägt, die über die Freigabe seines Nutzers oder seiner Organisation hinausgehen; Kunden- oder Firmendaten, die an unpassender Stelle auftauchen; sowie Anzeichen von Cyber-Missbrauch in sicherheitssensiblen Arbeitsabläufen. Jedes Risiko verlangt eine andere Reaktion, deshalb verbindet Beacon die von Goodfire für konkrete Verhaltensweisen entwickelten Monitor-Signale mit den Systemen bei Baseten, die entscheiden, wie eine Anwendung reagiert: menschliche Freigabe anfordern, ablehnen, auf eine andere Option ausweichen oder den Vorfall nur für die Prüfung durch Administratoren protokollieren.
Warum das Monitoring parallel zur Generierung läuft
In der Architektur klassifizieren aktivierungsbasierte und textbasierte Monitore jede Anfrage gleichzeitig; nur wenn beide uneins sind, entscheidet ein Frontier-Modell. Das Monitoring läuft parallel zur Generierung und blockiert die Antwort nicht. Für Unternehmenskunden plant Baseten eine zentral anwendbare Sicherheits-Basislinie, pro Arbeitslast anpassbare Richtlinien und eine klare Aufzeichnung dessen, was markiert und wie damit umgegangen wurde; für Entwickler kommen Sicherheitsereignisse und Kontrollen über dieselben APIs und Werkzeuge wie die Inferenz. Das genannte Beispiel ist konkret: Ein Agent für Zahlungsstreitigkeiten liest Händlernachrichten und Kontodaten; bösartige Inhalte könnten ihn umlenken, eine falsche Aktion könnte Daten offenlegen oder Geld bewegen – jede Stufe mit einem weiteren großen Modell zu prüfen, wäre bei Kosten und Latenz nicht skalierbar.
In den nächsten Monaten starten die Beacon-Fähigkeiten mit ausgewählten Modellen und überwachten Verhaltensweisen, werden zu Unternehmenssteuerungen und Entwicklerfunktionen ausgebaut und kommen zunächst über wenige frühe Partner auf den Markt. Für Teams, die Agenten auf offenen Modellen bauen, ist das Signal dieses Updates klar: Sicherheitsprüfungen wandern vom nachträglichen Filter in die Inferenz-Infrastruktur selbst – und ob sich Monitor-Signale direkt aus eigenen Richtlinien aufrufen lassen, wird beim Vergleich von Inferenzplattformen neben Preis und Geschwindigkeit stehen.
