ヘルメスのエージェント AGENTS.md が迎撃された場合はどうすればいい?
Hermesエージェントが AGENTS.md 潜在的なプロンプト注入をプロンプトした場合、バイパスしないでください。 これはコンテキストファイルが危険なモードに到達したことを示しており、ヘルメスはヒント注入を避けるためにこのルールを読み込まないことを選びました。 正しい方法は、エージェントがセキュ...
AI Q&A(英語) • Admin •
67
Found 2 related articles
Hermesエージェントが AGENTS.md 潜在的なプロンプト注入をプロンプトした場合、バイパスしないでください。 これはコンテキストファイルが危険なモードに到達したことを示しており、ヘルメスはヒント注入を避けるためにこのルールを読み込まないことを選びました。 正しい方法は、エージェントがセキュ...
プロンプト注入とは、攻撃者がモデルの挙動に影響を与えるコマンドを秘密裏にモデルが読み取る内容に詰め込み、モデルが従うべきタスクやルールから逸脱させることを意味します。 必ずしも「悪意のあるコード」のように見えるわけではなく、ウェブページやPDFドキュメント、ナレッジベースの内容、表記、あるいは一見普...