Open Inference ist gestartet und bietet Forschern und Privatnutzern über OpenRouter kostenlosen Inferenzzugriff auf ausgewählte Open-Source-Modelle. Ziel ist es, die offene Forschung zu beschleunigen und das Inferenzerlebnis mit einem „Quality First“-Ansatz zu optimieren. Auf der offiziellen Website und in der Ankündigung wird erklärt, dass Nutzer direkt auf den Dienst zugreifen können, indem sie die entsprechenden Einstellungen in OpenRouter aktivieren. Dieser Dienst ist für den kostenlosen forschungsbasierten Zugriff vorgesehen, nicht für die kommerzielle oder programmatische Nutzung.
Die Datenschutzrichtlinie besagt, dass der Dienst Einsendungen und Ausgaben (einschließlich minimaler technischer Protokolle) aufzeichnet, keine IP-Adressen, Cookies oder Kontokennungen speichert und die Daten vor der Veröffentlichung automatisch und manuell desensibilisiert. Die Daten werden der Community in einem anonymen, wiederverwendbaren Format für Forschung, Sicherheitsbewertungen und Serviceverbesserungen zur Verfügung gestellt. Da Benutzeridentitäten nicht verfolgt werden, können Einsendungen nicht einzeln zurückgezogen werden. Benutzer, die nicht verwendet werden möchten, sollten die Übermittlung vertraulicher Informationen vermeiden.
Häufig gestellte Fragen
F: Was bietet Open Inference?
A: Freier Zugriff auf eine Reihe von Open-Source-Modellen über OpenRouter für offene Forschung und Evaluierung, mit Schwerpunkt auf der Inferenzqualität.
F: Wie werden die Daten verarbeitet?
A: Eingabeaufforderungen und Ausgaben werden aufgezeichnet und anonymisiert und können in maskierter Form für Forschungs- und Sicherheitsbewertungen veröffentlicht werden.
F: Kann es gewerblich oder in Chargen verwendet werden?
A: Nein. Die Bedingungen sind auf die persönliche, nicht kommerzielle und nicht programmatische Nutzung beschränkt und befinden sich in der Forschungsvorschauphase.
F: Wie fange ich an?
A: Sie können es aufrufen, nachdem Sie die Anweisungen auf der Open Inference-Seite überprüft und trainierbare/öffentlich bekannt gegebene kostenlose Endpunkte und Anbieter in den Datenschutzeinstellungen von OpenRouter aktiviert haben.
F: Kann ich die übermittelten Daten löschen?
A: Da persönliche Identitäten nicht verfolgt werden, können einzelne Einsendungen nicht zurückgezogen werden. Bitte übermitteln Sie keine sensiblen persönlichen Daten.