OpenAI는 "AI 역량 발전에 따른 사이버 회복력 강화"라는 제목의 최신 보안 발표를 발표했으며, 이는 사이버 보안 분야에서 모델 역량 향상에 중점을 두고 전반적인 사이버 회복력 전략을 제시합니다. OpenAI는 Capture the Flag와 같은 사이버 공격 및 방어 평가에서 신세대 모델의 성능이 크게 향상되었으며, "각 세대의 모델이 높은 네트워크 성능을 달성할 수 있다"는 가정을 바탕으로 보안 조치를 계획하고 있으며, 이는 방어자를 지원하면서 허용 가능한 범위 내에서 남용 위험을 통제하는 것을 목표로 한다고 밝혔습니다.
내부 거버넌스 측면에서 OpenAI는 접근 제어, 인프라 강화, 출구 제어 및 모니터링 시스템을 결합하는 다층 보호 방식을 채택하고, 명백한 네트워크 남용 요청을 거부하거나 안전하게 대응하도록 모델을 훈련시키면서도 교육 및 방위 목적의 지원을 유지하려고 노력합니다. 또한 시스템 수준의 모니터링과 자동 탐지를 통해 잠재적 악성 활동을 식별하고, 외부 레드팀과 협력해 보호 링크의 취약점을 찾아내고 패치하기 위한 종단 간 테스트를 수행합니다.
더 넓은 생태계를 위해 OpenAI는 사이버 방어 작업을 위한 "신뢰 접근 계획"을 출시할 계획이며, 자격을 갖춘 사용자에게 등급별 향상된 역량 접근을 제공할 예정입니다; 프록시 보안 연구 도구인 Aardvark는 코드베이스를 스캔하고 취약점을 찾아 패치 제안을 제공하며, 일부 비상업적 오픈 소스 프로젝트에 대해 무료 커버리지를 제공할 계획입니다. OpenAI는 또한 프런티어 리스크 위원회를 설립하여 고위 국방 전문가들을 초청해 역량 경계 및 위협 모델링 논의에 참여하고, 프런티어 모델 포럼과 같은 플랫폼을 통해 업계에 위협 모델과 모범 사례를 공유하여 전체 생태계의 사이버 회복력을 강화할 예정입니다.
자주 묻는 질문
: 이번 발표의 핵심 목적은 무엇인가요?
답변: 주로 OpenAI가 AI 네트워크 공격 및 방어 능력의 빠른 개선을 위해 다층 보호, 접근 제어, 산업 협력을 통해 방어 역량 강화와 남용 위험을 줄이는 데 우선순위를 두고 있음을 설명합니다.
Q: 이른바 '고수준 네트워크 역량' 모델이란 무엇인가요?
A: 복잡한 원격 공격을 개발하고 은밀한 침입 작전을 지원할 수 있는 최첨단 모델을 의미하므로, 보다 엄격한 위협 모델링과 보안 경계 설정이 필요합니다.
Q: 트러스트 액세스 프로그램은 누구에게 개방되나요?
A: 계층별 접근은 사이버 방어에 참여하는 자격을 갖춘 사용자와 고객에게 제공되며, 구체적인 경계와 오픈 스코프는 아직 설계 및 시범 과정 중입니다.
Q: 아드박은 시스템 내에서 어떤 역할을 하나요?
A: 개발자와 보안팀이 대규모로 코드를 스캔하고 취약점을 찾아내며 수정 제안을 하는 '프록시 보안 연구원'이며, 앞으로 일부 비상업적 오픈 소스 프로젝트를 무료로 다룰 예정입니다.
Q: 프런티어 리스크 위원회는 어떤 역할을 하나요?
A: 자문 패널은 경험 많은 사이버 방어 및 보안 실무자들로 구성되며, 모델 역량 경계, 위협 모델링, 보안 평가에 대해 자문하고 이후 안전장치 설계에 영향을 미칠 것입니다.
