OpenAI Daybreak Blue 세션의 학습 규칙이 바뀌려 한다. 10월 31일 The Decoder는 Trusted Access 프로그램 회원에게 보낸 이메일을 인용해 11월 29일부터 이러한 사이버 보안 세션의 데이터가 모델 학습에 사용될 수 있다고 보도했다. 계정이 '모두를 위해 모델 개선'이라는 전체 스위치를 꺼두었어도 마찬가지다. OpenAI는 이후 두 번째 이메일에서 별도의 옵트아웃 스위치를 추가하겠다고 약속했지만, 시작 시점과 기본 설정은 아직 공개되지 않았다.
전체 스위치를 꺼도 왜 막지 못하나
Daybreak Blue는 OpenAI의 사이버 보안 방향 Trusted Access 프로그램 등급으로, 심사를 통과한 보안 연구자가 취약점 분류와 안전한 코드 검토, 사고 대응 등 방어적 작업을 수행하기 위한 것이다. The Decoder에 따르면 이러한 세션은 이전에는 학습 범위 밖에 있었다. 새 규칙은 이를 별도 예외로 구분한다. 개인 계정의 Daybreak Blue 세션 내용은 모델 개선에 사용될 수 있으며, 전체 스위치는 더 이상 이 범주를 다루지 않는다. OpenAI가 업데이트한 ChatGPT 데이터 관리 페이지도 같은 구분을 명시한다. 전체 스위치는 Trusted Access 세션 이외의 다른 활동을 계속 관리하고, Business와 Enterprise, Edu, API 플랫폼의 입력과 출력은 기본적으로 학습에 사용되지 않는다. OpenAI는 학습 사용 목적이 사이버 악용에 대한 보호 강화라고 설명한다. 문제는 이러한 세션에 미공개 취약점 세부 정보와 개념 증명 코드, 로그, 고객 시스템 구조가 자주 등장한다는 점이다. 일단 학습 파이프라인에 들어가면 연구자는 그 데이터가 어디로 가는지 더는 통제할 수 없다.
연구자가 기다리는 것은 옵트아웃의 세부 내용이다
지금까지 공개된 정보에서 옵트아웃은 약속만 있을 뿐 실행 계획이 없다. 언제 시작하는지, 기본값이 켜짐인지 꺼짐인지, 11월 29일 이전 세션을 포함하는지 모두 밝혀지지 않았다. 안전 심사는 또 다른 예외다. 안전 심사 대상으로 표시된 상호작용은 안전 목적을 위해 계속 사용될 수 있어, 학습에서 옵트아웃하더라도 데이터가 전혀 사용되지 않는다고 볼 수는 없다. 세부 내용이 공개되기 전까지 Daybreak Blue 회원은 전체 스위치가 여전히 보호하고 있다고 가정해서는 안 된다. 미공개 취약점이나 고객의 민감한 구조와 관련된 내용은 서둘러 세션에 붙여 넣지 말고, 옵트아웃의 실제 규칙이 나올 때까지 기다려야 한다. 현재 얻을 수 있는 정보는 프로그램 회원 이메일 보도와 업데이트된 데이터 관리 페이지에서 나온 것이며, 옵트아웃 세부 내용은 OpenAI가 앞으로 공개할 규칙에 달려 있다.
같은 시기 OpenAI는 구독 측면의 규칙도 바꾸고 있다. ChatGPT와 Codex 사용량은 12월부터 공유된다. 코딩을 많이 쓰면 채팅 사용량이 그만큼 줄어든다. 두 가지를 함께 보면 11월 말부터 12월에 구독자가 마주하는 상황은 같다. 기본 규칙이 바뀌었고, 새로운 경계는 직접 확인해야 한다.
