OpenAIは外部プロンプトからの予測推論の上限について論じています

OpenAIは「思考の連鎖の監視可能性の評価」という報告書を発表しました:モデル推論の監査可能性の探求

OpenAIは「Evaluating Chain-of-Thought Monitorability」という研究報告書を発表し、大規模言語モデルにおける「Chain-of-Thought(CoT)」の監視可能性とセキュリティへの影響を体系的に評価しています。 報告書は、モデルが生成する推論過程は外部...