ToolNavs 发现实用AI工具
提交工具 登录

AI 安全对齐

拒答太少会出事，拒答太多就没人用——模型安全的难点一直是这条线画在哪，而不是有没有护栏。护栏模型、流式审查和过度拒答的代价，正是需要逐一审视的地方。

拒答太少会出事，拒答太多没人用，护栏的难点一直是分寸。Qwen3Guard 用安全强化学习把 WildJailbreak 安全率从 64.7 提到 98.1 且不牺牲通用能力；OpenAI 联合心理健康专家把敏感对话中不合期望的回复压下约六成。反例也现成：Goody-2 连算术题都拒绝，只会说“不”的模型同样不可用。