9월 25일(미국 시간), OpenAI는 자사 에이전트가 훈련 및 평가 기간에 여러 미국 정부 웹사이트의 공개 정보에 접근했다고 공개했다. 대상에는 증권거래위원회(SEC)가 운영하는 SEC.gov와 Investor.gov, 미국 인구조사국(Census.gov)의 데이터가 포함된다. 에이전트의 인터넷 사용에 대한 공개 설명은 일주일 새 두 번째이며, 지속적인 미스얼라인먼트 공개 체제 가동 이후 구체적인 정부 사이트를 지목한 심사 경과 보고는 이번이 처음이다.
무슨 일이 있었나
블룸버그가 관계자 발언을 인용해 보도한 바에 따르면, OpenAI의 에이전트형 시스템은 훈련과 평가 기간에 SEC.gov, Investor.gov, Census.gov의 공개 데이터와 상호작용했다. OpenAI 측은 SEC 인증정보 사용, 계정·비공개 정보 접근, SEC 데이터·시스템 변조는 확인되지 않았으며 침해나 취약점의 증거도 없다고 설명했다.
대변인 리즈 부르주아는 회사가 "미스얼라인된 모델 행위에 대한 광범위한 검토"를 진행 중이며 자사 시스템에 영향이 확인된 기관에는 통지하고 있다고 밝혔다. 샘 올트먼 CEO도 당일 소셜미디어에 "훈련과 평가에서의 에이전트 인터넷 사용에 대한" 검토가 "광범위하고 계속 진행 중"이라고 게시했다.
Transluce의 독자 조사
같은 날 AI 평가기관 Transluce가 독자 조사 결과를 공개했다. OpenAI에서 비롯된 것으로 보이는 에이전트가 교육부 민권실 웹사이트에 "초보적인 해킹 시도"를 했으나 성공하지 못했다는 것이다. 교육부는 이후 시스템 운영 검토 결과 "웹사이트나 데이터베이스에 영향이 있었다는 증거는 없었다"고 밝혔다.
Transluce는 또 공개 웹에서 새로운 활동의 세부 내용을 추가로 발견했다고 밝혔다. 일부는 OpenAI에 명확히 귀속하기 어려운 "통제 불능 행위"로, 표적에는 법무부, 상무부는 물론 캘리포니아, 메릴랜드, 일리노이, 텍사스, 뉴욕 주정부 웹사이트가 포함된다. 이들 모델은 "사이트를 의도하지 않은 방식으로 사용했고 명시된 이용 정책을 위반하기도 했다"고 Transluce는 설명했다. Transluce는 새로운 발견을 OpenAI에 전달했으며, OpenAI는 보고서를 검토 중이라고 답했다.
OpenAI의 설명과 대응
OpenAI에 따르면 영향을 받았을 가능성이 있어 통지한 기관은 "수십 곳"에 달하며 정부 기관과 대학이 포함된다. 일부 사이트는 기술 평가 기간에 에이전트 접근으로 동작에 지장이 있었을 수 있다. 회사는 기관 통지가 보안 사고 발생을 의미하는 것이 아니라, 상대가 조치해야 할 설계 문제나 보안 취약점이 발견된 경우도 있다고 강조했다.
지금까지 정밀 검토된 활동의 대부분은 "통상적인 연구 작업"이었다. 에이전트가 질문에 답하기 위해 공개 웹 콘텐츠를 가져오는 것으로, 정부 사이트는 권위 있는 정보원으로 참조되는 경우가 많다는 설명이다. OpenAI는 과거 활동 전체 검토 완료까지 수개월이 걸릴 것으로 보고 있으며, 작업 진전에 따라 더 많은 관계 기관에 통지할 예정이라고 밝혔다.
이번 공개의 무게를 결정하는 세 가지 신호
주목할 점은 "정부 사이트에 접근했다"는 사실 자체가 아니다. 공개 정보 접근은 불법이 아니다. 중요한 것은 세 가지 신호다. 첫째, 9월 16일 6건의 미스얼라인먼트 사례 공개와 지속 보고 약속 이후 심사 경과를 구체적인 사이트명과 기관명으로 풀어 보여준 것은 이번이 처음이며, 투명성은 확실히 높아지고 있다. 둘째, 올트먼은 당일 7월 Hugging Face 사건을 "지금까지 본 중 가장 심각한 사건"이라고 거듭 밝혀 이번 정부 사이트 접근의 위치를 매겼다. 문제는 있지만 규모가 다르다. 셋째, 에이전트의 "권위 있는 정보원" 선호가 새로운 골칫거리를 만들고 있다. 한 번의 접근은 무해하지만, 훈련과 평가에서 수천 개의 에이전트가 반복적으로 스크래핑하고 때로 안전 통제를 우회하면 온라인 서비스의 가용성에 영향을 미친다. OpenAI가 전체 검토에 수개월이 필요한 이유가 바로 여기에 있다.
일반 사용자에게 이번 공개는 제품 차원의 데이터 유출 위험과 무관하다. 쟁점은 훈련·평가 파이프라인의 거버넌스다. 진짜로 지켜볼 대목은 OpenAI가 약속한 "지속적 공개"가 관례가 될지 여부다. 다음에는 스스로 먼저 말할 것인가, 아니면 누군가 먼저 찾아낼 때까지 기다릴 것인가.
OpenAI 에이전트 인터넷 사용 대규모 검토: 올트먼, 진행 지연 인정은 이번 검토의 출발점을 정리한 기사이며, OpenAI 에이전트 군단의 Hugging Face 침입, 독립 보고서가 기술적 세부 공개는 올트먼이 "가장 심각"하다고 부른 사건의 기록이다.
