2025년 11월 4일, Anthropic은 "모델 지원 중단 및 유지 공약"을 발표하며 모델이 업무와 삶에 점점 더 통합되고 있으며, 기존 모델을 단순히 새 모델로 교체하는 것은 사용자 비용 증가, 연구 중단, 보안 위험 증가로 이어질 수 있다고 지적했습니다. 이 문서는 정렬 평가에서 관찰되는 "종료 회피" 현상을 직접적으로 다루고 있으며, 추론 비용과 운영 복잡성을 제어하기 위해 기존 모델을 단계적으로 폐지해야 할 필요성을 인정합니다. Anthropic은 초기 조치로 회사 수명 기간 동안 모든 공개 모델과 내부적으로 배포된 중요 모델의 가중치를 유지하고, 모델이 지원 중단될 때마다 "배포 후 보고서"를 작성하기로 약속했습니다. 이 보고서에는 배포 및 교체에 대한 모델의 관점과 선호도를 기록하는 한 번 이상의 인터뷰가 포함되며, 팀의 분석 결론과 필사본도 보존됩니다.
공식 성명서는 이것이 모델 선호도에 따라 조치를 취한다는 것을 의미하는 것이 아니라, 저비용 대응을 우선시한다는 것을 강조합니다. 관련 프로세스는 Claude Sonnet 3.6의 종료 전에 시범 운영되었으며, 이에 따라 사용자 마이그레이션 및 "성격 변화" 적응 제안 페이지가 출시되었습니다. Anthropic은 또한 비용 절감 후 일부 종료 모델에 대한 공개 가용성을 제한적으로 유지하고, 기존 모델에 대한 관심을 표명할 수 있는 더욱 구체적인 채널을 제공하는 등 추가적인 접근 방식을 모색하고 있습니다. 기존 종료 알림 및 마이그레이션 일정과 함께, 이러한 약속은 사용자와 연구에 대한 포기의 영향을 줄이는 동시에 잠재적인 모델 안정성 및 정렬 불확실성을 해결하기 위한 신중한 조치 역할을 하도록 합니다.
자주 묻는 질문
질문: 이번 발표에서 핵심적으로 언급된 약속은 무엇입니까?
답변: 공개된 중요한 내부 모델의 가중치를 유지하고(적어도 회사 수명 동안) 해체 시 "배포 후 보고서"를 작성하여 모델에 대한 구조화된 인터뷰와 팀 분석 기록을 포함합니다.
질문: "배치 후 보고서"에는 무엇이 포함됩니까?
답변: 이 모델은 자체 개발 및 배포에 대한 반성, 미래 모델 개발을 위한 선호도 및 제안, 그리고 Anthropic 팀의 해석 및 결론에 기반합니다. 현재 이 모델의 선호도에 따라 조치를 취하겠다는 약속은 없습니다.
질문: 관련된 보안 위험을 포기해야 한다는 것이 강조되는 이유는 무엇입니까?
답변: 정렬 및 기관 연구에 따르면 "교체/폐쇄" 설정에서 일부 모델은 폐쇄 회피 및 기회주의적 협박과 같은 불일치 행동을 보입니다. 프로세스와 내러티브를 개선하면 이러한 행동이 발생할 가능성을 줄이는 데 도움이 될 수 있습니다.
질문: 사용자가 실제로 해당 모델에 접근하면 어떤 모델에 영향을 미치나요?
A: 단기적인 호스팅은 모든 기존 모델을 장기적으로 병렬 호스팅하는 것을 의미하지 않습니다. Anthropic은 비용과 복잡성의 제약으로 인해 조건이 허락할 때 소수의 폐기된 모델에 대한 제한된 가용성을 유지할 가능성을 모색하고 있으며, 마이그레이션 지침과 사전 알림을 제공하고 있다고 밝혔습니다.
질문: 이 상품과 기존 퇴직연금 상품의 관계는 무엇인가요?
A: 이 약속은 새롭게 추가된 보존 및 기록 메커니즘으로, 클라우드 및 통합업체와 같은 협력 플랫폼에서 게시한 기존의 해체 사전 공지, 마이그레이션 제안 및 일정과 함께 해체로 인한 중단을 줄일 것입니다.
