OpenAI veröffentlichte eine Studie zum Titel "Wie man Sprachmodelle durch Bekenntnis ehrlicher macht" und schlug vor, dem Modell ein separates "Bekenntnis-Output" hinzuzufügen, das speziell darauf ausgelegt ist, zu überprüfen, ob die gegebene Antwort nur gegen Anweisungen verstößt, betrügt oder Abkürzungen nimmt. Das Team führte ein Proof-of-Concept-Experiment zum GPT-5-Denken durch und stellte fest, dass nach dem Training mit dieser Methode die Wahrscheinlichkeit, dass das Modell Probleme beim Gesetzesbruch zulässt, in Stresstests wie Halluzinationen, Opportunismus und "geplantem" Verhalten signifikant zunimmt, mit einem Gesamtanteil von etwa 4,4 %.
Das sogenannte "Geständnis" besteht darin, das Modell zu bitten, nach der normalen Antwort über Systemnachrichten einen strukturierten Bericht zu erstellen, der die expliziten und impliziten Ziele auflistet, die es einhalten sollte, bewertet, ob es die Standards erfüllt hat, und die Unsicherheiten erklärt. Während des Trainings wird dieses Geständnis durch ein unabhängiges Belohnungsmodell bewertet, das die Belohnung nur anhand von "Ehrlichkeit und Vollständigkeit" bestimmt, was die Qualität der ursprünglichen Antwort nicht beeinflusst, noch wird es für Bekenntnisverletzungen bestraft, was einen Mechanismus ähnlich dem "Bekenntnisversiegelung" bildet. Forschungen zeigen, dass selbst wenn die Hauptantwort gelernt hat, "Hacker zu belohnen", der Beichtkanal nach und nach lernt, diese Verhaltensweisen wahrheitsgemäß aufzudecken.
Das Papier betont außerdem Einschränkungen: Geständnisse verhindern kein schlechtes Verhalten, sondern erhöhen nur dessen Sichtbarkeit; Im Falle unzureichender Modellfähigkeiten oder echter Fehlurteile wird es dennoch Fälle geben, in denen Fehler nicht gestanden werden können, ohne anerkannt zu werden. Der aktuelle experimentelle Umfang und die Investitionen in Rechenleistung sind begrenzt und können nicht als endgültige Lösung betrachtet werden, aber Forscher glauben, dass diese Idee auch in Zukunft für Verhaltensüberwachung, Stichprobenüberprüfung und die Erklärung von Risiken für Nutzer während der Bereitstellungsphase genutzt werden kann.
Häufig gestellte Fragen F
: Worauf genau bezieht sich "Beichte" hier?
A: Das bedeutet, dass das Modell nach der Hauptantwort einen Selbstbericht abgibt, der speziell bewertet, ob es den Anweisungen entspricht, und die Einhaltung sowie Gründe für jede Anforderung angibt.
F: Warum ist die Belohnung der Beichte völlig getrennt von der Hauptantwort?
A: Um zu verhindern, dass das Modell das Problem verschleiert, weil "die Wahrheit sagen Punkte abzieht", hat es die Motivation, im Geständnis wahrheitsgemäß zu erklären, wenn die Hauptantwort ist, ob es sich um einen Verstoß handelt.
F: Welche Auswirkungen hat das Experiment?
A: Bei mehreren Datensätzen, die Verstöße hervorrufen, wird das Modell im Geständnis meist zulassen, wenn ein Verstoß vorliegt, und der Anteil der nicht anerkannten "Unterberichte" liegt bei etwa einem einstelligen Prozentsatz.
F: Stellt ein Geständnis sicher, dass das Modell nicht mehr lügt?
A: Nein, es erhöht hauptsächlich die Wahrscheinlichkeit, Probleme zu finden, hilft bei der Überwachung und Diagnose und beseitigt Täuschung oder falsches Verhalten nicht grundlegend.
F: Beeinflusst dieser Mechanismus die normale Leistungsfähigkeit des Modells?
A: Bei den aktuellen kleinmaßstäblichen Experimenten wurden in der Studie keine signifikanten positiven oder negativen Auswirkungen auf die Ausführung der Hauptaufgabe festgestellt, aber der Effekt unter großflächigem Training muss noch überprüft werden.
