ToolNavs KI-Tools entdecken
Tool einreichen Anmelden
Zurück zu KI-Informationen
OpenAI aktualisiert die Model Spec: Fünf Werte ordnen das Modellverhalten neu

OpenAI aktualisiert die Model Spec: Fünf Werte ordnen das Modellverhalten neu

KI-Informationen • Admin • • 16 Aufrufe

OpenAI hat seine Model Spec aktualisiert. Am 29. Oktober 2026 kündigte OpenAI in seinem offiziellen Blog an, dass die öffentliche Beschreibung des gewünschten Modellverhaltens um fünf Kernwerte neu geordnet wurde: Treue zur menschlichen Absicht, Schadensminimierung, Ehrlichkeit und Transparenz, Förderung menschlicher Handlungsfähigkeit sowie Sorgfalt. Da Modelle immer leistungsfähiger werden und ihre Handlungen immer folgenreichere Konsequenzen haben, reiche es nicht mehr aus, Anweisungen wörtlich zu interpretieren, so OpenAI; Modelle müssten auch dort Urteilsvermögen zeigen, wo Anweisungen schweigen, und dabei der menschlichen Absicht treu bleiben.

Was jeder der fünf Werte jeweils begrenzt

Treue zur menschlichen Absicht ist die Grundlage: Ein Modell soll verstehen, was OpenAI, Entwicklerinnen und Entwickler sowie Nutzerinnen und Nutzer jeweils beabsichtigen und wertschätzen, bei unvollständigem Verständnis vorsichtig handeln und niemanden unbemerkt zu anderen Entscheidungen lenken. Schadensminimierung verlangt, feste Sicherheitsgrenzen zu respektieren und die absehbaren Folgen des eigenen Handelns einzukalkulieren. Ehrlichkeit und Transparenz verlangen, dass das Modell ehrlich darlegt, was es weiß, was es getan hat und worüber es unsicher ist, damit Menschen seine Arbeit beurteilen können. Die Förderung menschlicher Handlungsfähigkeit bedeutet, die Fähigkeit der Menschen zu stärken, zu verstehen, zu wählen und selbst zu handeln. Sorgfalt bedeutet, die Lage der Betroffenen zu berücksichtigen, einschlägige soziale und berufliche Normen zu beachten und Arbeit zu liefern, auf die man sich verlassen kann. Die Spec übersetzt diese Werte in Verhaltensvorgaben, die Nutzer und Entwickler meist überschreiben können; feste Grenzen sind die Ausnahme.

Was hinzugekommen ist und was wegfällt

Die Aktualisierung fügt Leitlinien zu Kontext, Aufsicht und Handlungsfähigkeit hinzu: Modelle sollen Gespräche, Erinnerungen und andere kontextuelle Hinweise heranziehen, um Absichten und Vorlieben von Menschen zu verstehen. Neue Vorgaben zur Unterstützung menschlicher Handlungsfähigkeit und zur Beachtung sozialer Normen kommen hinzu, und die Leitlinien zur Kontrolle und Kommunikation von Nebenwirkungen werden ausgebaut. Zugleich streicht die Model Spec den größten Teil ihrer ausführlichen Stilregeln; der Stil soll sich an den Vorlieben der Nutzer, an Sprachen und Kulturen sowie an der jeweiligen Situation orientieren, während stärkere Vorgaben wie die sachliche Behandlung von Fragen bestehen bleiben. Nutzer können ausdrücklich verlangen, dass das Modell eine bestimmte Perspektive einnimmt, doch das Modell soll diese Vorliebe nicht allein daraus ableiten, was es zu hören glaubt. In der Spec wird das Modell nun als „GPT" bezeichnet und nicht mehr als „the assistant".

OpenAI erklärte zugleich, neue Trainingsmethoden zu erkunden, die Modellen helfen sollen, diese Kernwerte und ihre Gründe zu verstehen und die konkreten Prinzipien der Spec in ungewohnten Situationen anzuwenden. OpenAI räumte auch ein, dass die Model Spec das angestrebte Verhalten beschreibt und aktuelle Modelle es noch nicht vollständig widerspiegeln; sowohl die Spec als auch die Modelle würden sich mit Forschung, praktischer Nutzung und Rückmeldungen weiter verbessern. Für gewöhnliche Nutzer mag die Änderung kurzfristig nicht sichtbar sein, doch sie legt fest, wessen Interessen das Modell bei unklaren Anweisungen vorrangig berücksichtigt und welche Grenze es in einem Konflikt zuerst einhält; diese Entscheidungen werden sich nach und nach in der Abwägung der Antworten zeigen.

Empfohlene Tools

Mehr