ToolNavs 유용한 AI 도구 찾기
도구 제출 로그인
돌아가기 AI 정보
OpenAI, 적대적 증류 방어 공개: GPT-6.2 추론 추출 성공률 54%에서 0.2%로

OpenAI, 적대적 증류 방어 공개: GPT-6.2 추론 추출 성공률 54%에서 0.2%로

AI 정보 • Admin • • 21 회 조회

적대적 증류에 대한 방어가 강해졌다. OpenAI는 11월 20일 GPT-6.2의 적대적 증류 방어 세부 내용을 공개했다. 적대적 증류란 최첨단 모델의 출력을 이용해 다른 모델을 훈련하면서 능력만 가져가고 보호 장치는 남겨두는 기법을 말한다. OpenAI의 내부 레드팀 테스트에서 이전 요청으로부터 보호된 추론을 추출하는 성공률은 GPT-6 Astra의 54.0%에서 GPT-6.2 Astra의 0.2%로 떨어졌다.

방어는 두 개 층으로 이루어진다.

  1. 요청 층: 적대적 훈련을 통해 모델은 보호된 추론을 밝히기를 거부한다. 입력·출력 분류기가 답변과 도구 호출 인자를 함께 검사해 추출 시도를 차단한다. API 차원의 제어로 구형 모델이 보호된 추론을 읽지 못하게 한다. 추론은 그것을 만든 대화 기록에 묶여 있어, 이전 메시지를 고치면 API는 그 뒤의 추론을 버린다.
  2. 캠페인 층: OpenAI는 추출 캠페인에 관여한 것으로 의심되는 계정을 매주 수천에서 수만 개씩 정지하고 있으며, 올해 여름 이후 단속 빈도가 크게 높아졌고, 침해 지표를 다른 모델 제공업체와 공유한다.

0.2%라는 숫자를 어떻게 읽을 것인가

이 숫자에는 두 가지 전제가 있다. 첫째, 이것은 OpenAI의 내부 적응형 레드팀 평가로, 공격자가 볼 수 있는 것은 일반 사용자가 보는 정보뿐이며 독립적인 제3자의 재현은 아직 없다. 둘째, 0.2%가 측정하는 것은 추출 행위 자체의 성공 여부이지, 훔친 추론으로 학생 모델이 최종적으로 얼마나 강해지는지가 아니다. OpenAI 자신의 결론도 여지를 남긴다. 추론 흔적을 보호하면 기저 과업 자체가 이용 정책상 허용되는 경우에도 사이버 능력의 이전을 제한할 수 있다. 막는 것은 능력의 유출이지 과업 자체의 금지가 아니다.

배경은 낯설지 않다. 앞서 DeepSeek와 Moonshot AI가 GPT-6 Astra의 출력을 증류해 새 모델을 훈련했다는 지적을 받았다. Anthropic도 같은 시기에 자사의 증류 방어를 공개했다. Anthropic 증류 방어 효과: Claude에서 추출되는 추론량이 기존의 수십 분의 1로를 참고하면 된다. OpenAI에 따르면 개선 사항 일부는 GPT-6 Astra에도 적용된다. 앞으로 볼 것은 이 방어가 실제 공격 앞에서 얼마나 버티는지, 그리고 다른 업체들이 같은 방식의 공개에 나설지다.

추천 도구

더보기