Die Trainingsregeln für OpenAI-Daybreak-Blue-Sitzungen ändern sich. Am 31. Oktober berichtete The Decoder unter Berufung auf E-Mails an Mitglieder des Trusted-Access-Programms, dass Daten aus diesen Cybersicherheitssitzungen ab dem 29. November zum Training von Modellen verwendet werden dürfen, selbst wenn ein Konto den Hauptschalter „Modell für alle verbessern" ausgeschaltet hat. OpenAI versprach daraufhin in einer zweiten E-Mail einen eigenen Opt-out-Schalter, doch Starttermin und Standardeinstellung sind noch nicht bekannt gegeben worden.
Warum das Ausschalten des Hauptschalters nicht reicht
Daybreak Blue ist eine Stufe von OpenAIs Trusted-Access-Programm für Cybersicherheit, für geprüfte Sicherheitsforscherinnen und -forscher, die defensive Arbeiten wie Schwachstellen-Triage, sichere Code-Reviews und Incident Response leisten. Laut The Decoder lagen diese Sitzungen bisher außerhalb des Trainings; die neue Regel nimmt sie als eigene Ausnahme heraus: Inhalte von Daybreak-Blue-Sitzungen persönlicher Konten dürfen zur Modellverbesserung verwendet werden, und der Hauptschalter deckt diese Kategorie nicht mehr ab. Auch die aktualisierte Seite zu den ChatGPT-Datenkontrollen von OpenAI schreibt dieselbe Unterscheidung fest: Der Hauptschalter regelt weiterhin andere Aktivitäten außerhalb von Trusted-Access-Sitzungen, während Eingaben und Ausgaben von Business-, Enterprise-, Edu- und API-Plattform-Diensten standardmäßig nicht zum Training verwendet werden. OpenAI erklärt, die Trainingsnutzung solle den Schutz vor Cybermissbrauch stärken. Das Problem: In solchen Sitzungen tauchen oft unveröffentlichte Schwachstellendetails, Proof-of-Concept-Code, Protokolle und Kunden-Systemstrukturen auf, und sobald sie in die Trainingspipeline gelangen, können Forschende nicht mehr kontrollieren, wohin sie gehen.
Worauf Forschende warten, sind die Details des Opt-outs
In den bisher veröffentlichten Informationen ist der Opt-out nur ein Versprechen, ohne Umsetzungsplan: Wann er startet, ob er standardmäßig ein- oder ausgeschaltet ist und ob er Sitzungen vor dem 29. November abdeckt, ist nicht angegeben. Die Sicherheitsprüfung ist eine weitere Ausnahme: Interaktionen, die zur Sicherheitsprüfung markiert wurden, dürfen weiterhin für Sicherheitszwecke verwendet werden, sodass ein Opt-out aus dem Training nicht unbedingt bedeutet, dass die Daten überhaupt nicht verwendet werden. Bis die Details veröffentlicht sind, dürfen Daybreak-Blue-Mitglieder nicht davon ausgehen, dass der Hauptschalter sie noch schützt; Inhalte zu unveröffentlichten Schwachstellen oder sensiblen Kundenstrukturen sollten nicht voreilig in eine Sitzung eingefügt werden, sondern erst, wenn die tatsächlichen Opt-out-Regeln vorliegen. Die verfügbaren Angaben stammen aus der Berichterstattung über die E-Mails an Programmmitglieder und aus der aktualisierten Seite zu den Datenkontrollen; die Details des Opt-outs hängen von den Regeln ab, die OpenAI als Nächstes veröffentlicht.
Zur gleichen Zeit ändert OpenAI auch die Regeln auf der Abonnementseite: ChatGPT und Codex teilen sich ab Dezember ein Nutzungslimit, sodass viel Coding weniger Chat-Kontingent übrig lässt. Zusammengenommen stehen Abonnentinnen und Abonnenten Ende November und im Dezember vor demselben Muster: Die Standardregeln haben sich geändert, und die neuen Grenzen müssen selbst geprüft werden.
