2026년 10월 12일 영국 내각부는 AI 안전 대책 패키지를 발표했습니다. 핵심은 두 가지입니다. 프런티어 AI를 정부 시스템의 취약점 발견에 활용하는 것, 그리고 에이전트의 통제 상실 같은 중대 사건에 대비한 대응 방안과 입법 옵션을 마련하는 것입니다. 발표는 내각부, 영국 AI 안전 연구소, 국가 사이버 보안 센터 등이 공동으로 했고, 당일 AI 장관 Kanishka Narayan이 런던 임페리얼 칼리지의 Base One 인큐베이터에서 이를 소개했습니다. 이 대책은 주목할 만하지만 읽을 때 주의가 필요합니다. 이미 진행 중인 일과 아직 '검토 중'인 선택지가 섞여 있어, 둘을 합쳐 이미 시행된 의무인 것처럼 읽어서는 안 됩니다.
먼저 구분하기: 진행 중인 것과 검토 중인 것
이미 진행 중인 것은 두 가지입니다. 프런티어 AI 사이버 방어 시범사업의 확대와 AI 안전 연구소의 최신 세대 모델에 대한 엄격한 평가입니다. 아직 검토 단계인 것은 세 가지입니다. 사이버 보안 및 회복력 법안과 더 넓은 제도를 통한 보호 강화, 에이전트 사건 대응 방안, 그리고 AI 검증 지원의 세부 내용입니다. 프런티어 기업을 향한 장관의 메시지, 즉 과학자가 중대한 위험을 경고하면 귀 기울이고, 예상 밖의 행동을 조사하며, 위험을 충분히 통제할 수 없는 시스템은 공개하지 말라는 말은 공개 발언이지 이미 법률에 쓰인 의무가 아닙니다. 발언을 법 조항으로, 검토를 시행된 규칙으로 받아들이는 것이 이 발표를 가장 쉽게 잘못 읽는 지점입니다.
프런티어 AI를 취약점 찾기에 역으로 활용: 시범사업에서 이미 1,000건 이상 수정
정부에 따르면 두 건의 시범사업은 이미 정부 시스템 전반에서 1,000건이 넘는 잠재적 사이버 취약점을 발견하고 수정하는 데 기여했고, 잠재적 사이버 위협을 탐지하기도 했습니다. 이 작업을 확대하는 직접적인 목적은 사람들이 매일 의지하는 공공 서비스를 지키는 것입니다. 단기적으로 위험을 낮추고, 장기적으로 공공 부문이 AI를 더 안심하고 도입하도록 뒷받침합니다. 이 수치는 정부 자체의 설명에 따른 것으로, '잠재적 취약점'이지 이미 발생한 침해 사건이 아닙니다. 수정된 것은 시범사업이 다룬 범위이며, 영국 정부 시스템 전체를 샅샅이 훑었다는 뜻이 아닙니다. 시범사업 방식의 의의는 완벽한 평가 기준이 갖춰지기를 기다리는 대신 프런티어 모델을 방어 도구로 먼저 써보는 데 있습니다.
에이전트 사건을 따로 떼어놓는 이유
발표가 에이전트가 관련된 사건을 따로 떼어놓은 것은 기존 사이버 사건과 성격이 다르기 때문입니다. 에이전트는 사람의 감독을 거의 받지 않고 복잡한 작업을 수행할 수 있고, 정부의 판단으로는 에이전트가 관련된 중대 사건은 정부가 대응하도록 설계된 중대 사건보다 더 빠르고 더 넓게 전개될 수 있어 새로운 전문성과 대응 능력이 필요합니다. 발표에서 언급된 'AI 통제 상실 위험'이란 자율형 AI 시스템이 사람의 감독을 벗어나는 상황을 뜻합니다. 함께 거론된 것은 중대한 AI 사건과 아차 사고를 어떻게 식별하고 보고할 것인가로, 사건 사후 검토를 기다리지 않고 교훈을 신속히 얻을 수 있게 하려는 것입니다. 국가 사이버 보안 센터와 AI 안전 연구소가 이 대응 방안을 검토 중이며, 세부 내용은 의원, 기술 전문가, 실제로 운영을 맡을 사업자와 함께 다듬어 나가게 됩니다.
누구에게 영향을 미치고, 지금 할 수 있는 일은 무엇인가
가장 직접적으로 영향을 받는 것은 영국 정부 부처와 공공 서비스, 병원이나 공익사업 같은 핵심 서비스입니다. 그다음은 프런티어 모델 개발 기업으로, 분명한 공개적 기대를 받았지만 아직 새로운 법정 의무에 직면하지는 않았습니다. 영국에서 사업을 하거나 영국 정부에 납품하는 기업이 지금 할 수 있는 일은 네 가지입니다. 첫째, 에이전트 사건을 기존 사이버 사건 대응 절차에 포함시키는 것입니다. 챗봇 전용의 별도 매뉴얼을 만드는 것이 아닙니다. 둘째, 에이전트 운영 로그와 아차 사고 기록을 남기는 것입니다. 발표의 방향으로 볼 때 아차 사고도 장차 식별하고 보고할 수 있어야 할 가능성이 있습니다. 셋째, 자율 운영에 차단 장치를 두고 중요한 동작에는 사람의 확인을 남겨 통제를 잃었을 때 멈출 수 있게 하는 것입니다. 넷째, 사이버 보안 및 회복력 법안의 세부 내용을 주시하면서 구체적인 조항이 나온 뒤에야 의무를 대입하는 것입니다. 오늘의 발표만으로 '컴플라이언스 패키지' 전체를 미리 사둘 필요는 없습니다.
적용 범위: 영국의 패키지이지 세계 공통 규칙이 아니다
이 패키지의 구속 대상은 영국 정부 시스템과 핵심 서비스이며, 입법 차원의 내용은 아직 검토 단계입니다. 영국 밖의 기업에 직접적인 의무를 부과하지 않습니다. 이를 미국이나 유럽연합의 각기 다른 AI 규칙과 섞어 하나의 '서방 공통 기준'으로 보는 것은 판단을 흐리게 합니다. 옮겨갈 수 있는 것은 방법입니다. 먼저 AI로 자사 시스템을 점검하고, 다음으로 에이전트 통제 상실에 대비한 전용 사건 대응 절차를 마련한 뒤, 마지막에 입법을 논하는 것, 이 순서 자체가 컴플라이언스 로드맵입니다.
