Claude Duet의 보안 설계가 10월 23일 Anthropic 공식 블로그에서 완전히 공개됐다. 리서치 프리뷰 단계인 이 에이전트는 클라우드 컴퓨터에서 당신 대신 계속 일한다. 이메일을 읽고, 답장을 작성하고, 주문을 넣고, 예약 작업을 실행하며, 당신이 자리 비워도 움직인다. 권한이 클수록 하나의 질문에 답해야 한다. 무엇을 믿고 맡길 수 있는가?
첫 번째 잠금장치는 승인이다. 민감한 메시지를 보내거나, 결제하거나, 무언가를 삭제하기 전에 Duet은 승인 카드를 띄워 작업 내용, 대상, 내용, 모든 수신자를 보여주고 고개를 끄덕이길 기다린다. 동시에 작업을 수행하는 모델과 독립적인 분류기가 이 작업이 사용자의 의도와 일치하는지 병렬로 판단한다. 검사는 모델 외부에서 실행되므로 페이지에 숨겨진 지시로 방해할 수 없다. 어떤 작업은 승인조차 불가능하다. 증권 거래, 은행 계좌 간 이체, 타인의 계정 접근이 그것이다. 결제, 주문 취소, 계정 생성 같은 작업은 "다시 묻지 않기"로 설정할 수조차 없다.
두 번째 잠금장치는 정보 등급이다. Duet이 메시지를 보내기 전, 또 다른 독립 분류기가 내용을 먼저 스캔한다. 로그인 자격 증명, 카드 전체 번호, 은행 계좌번호, 정부 발급 신분증 번호는 "절대 공유 금지"로, 사용자가 요구해도 보내지 않는다. 건강, 금융 같은 개인정보는 "동의 후 공유"지만, 당신 자신의 명시적 요청 자체가 동의로 간주된다. "치과에 치아 아프다고 메시지 보내줘"라면 2차 확인이 필요 없다.
세 번째 잠금장치가 가장 철저하다. 모델은 당신의 비밀번호에 전혀 닿지 않는다. 로그인할 때 Claude 앱 안의 양식에 비밀번호를 입력하면, 양식은 클라우드의 보안 브라우저 머신에서 일회용 키로 암호화하고, 암호문을 그대로 브라우저에 전달해 양식을 채운다. 모델은 볼 수도 저장할 수도 없다. 로그인 토큰은 프록시 방식으로 다룬다. 에이전트 머신에는 자리표시자만 있고, 실제 토큰은 외부 에이전트가 요청이 나가는 순간에야 주입한다. 브라우저 자체는 독립 클라우드 가상 머신에서 구동되고, 에이전트는 고정된 지시만 내릴 수 있으며, 웹사이트의 코드와 쿠키는 모델 메모리에 닿지 못한다.
Anthropic은 또한 외부 침투 테스트 업체에 소스 코드를 제공해 Duet을 테스트하게 했다. 클라우드 브라우저와 로그인 양식을 대상으로 한 새로운 라운드의 테스트가 진행 중이며, Duet은 이미 공개 버그 바운티 프로그램에 포함돼 있다.
이 설계가 가리키는 방향은 명확하다. 에이전트 보안은 "모델을 묶기"에서 "시스템을 묶기"로 전환하고 있다. 승인, 정보 등급, 자격 증명 분리 세 층은 서로 독립적이라 어느 한 층이 우회돼도 다음 층이 받쳐준다. 이것이 개인 에이전트의 업계 표준이 될 가능성이 크다.
