OpenAIOpenAIのパブリックプロキシアンチプロンプトインジェクション設計は、エンタープライズ調達エージェントの機能をリリースし、単一ポイント効果よりもセキュリティ制御により注意を払っています

OpenAIはプロキシのアンチプロンプト注入を解体:高リスクの行動が事前に制限され、機密データをワークフローに保護する

OpenAIはエージェントがプロンプト注入に抵抗する方法についての技術記事を公開しており、その核心的な意味はシンプルです。つまり、本当の危険は悪意のあるテキストを余分に読むことではなく、誘発された後にユーザーのために行うべきでない行動をエージェントが行うことです。 エージェント製品の場合、コンテンツ...