캘리포니아 SB 574의 변호사 AI 새 규정이 법이 됐다. 2026년 9월 30일 Gavin Newsom 주지사가 이 법안(2026년 제정법 제858장)에 서명했고, 2027년 1월 1일부터 시행된다. 이로써 캘리포니아는 변호사의 생성형 AI 사용을 성문법으로 전문적으로 규정한 미국 최초의 주가 됐다. 법관의 개별 명령도, 변호사협회의 의견도 아닌, Business and Professions Code에 신설되는 제6068.1조와 Code of Civil Procedure 제128.7조의 개정이라는 형태의 법적 의무다. 서명 소식은 로이터와 Bloomberg Law가 10월 1일 보도했다.
이 법이 실제로 다루는 세 가지
첫째, 변호사는 법률 실무 자체를 생성형 AI에 위임할 수 없다. AI는 초안 작성, 조사, 정리를 도울 수 있지만, 법적 판단과 결과물에 대한 책임은 자격을 갖춘 변호사 본인이 져야 한다. 실질적인 검토 없이 AI가 만든 조언을 의뢰인에게 보내거나, AI가 쓴 서면을 그대로 법원에 제출하는 것이 바로 이 규정이 막으려는 사용 방식이다.
둘째, 비밀 정보를 아무 AI에나 입력할 수는 없다. 변호사는 비밀 정보, 개인 식별 정보, 그 밖의 비공개 정보를, 입력 내용에 대한 접근이 변호사 본인과 비밀 유지 의무를 지는 변호사의 승인을 받은 사람으로 제한되지 않은 생성형 AI 시스템에 입력해서는 안 된다. 입력을 보관하고 사업자 직원이 열람하거나 학습에 활용하는 소비자용 도구는 원칙적으로 의뢰인 자료 처리에 쓸 수 없다. 기업용 도구도 자동으로 안전한 것은 아니어서, 데이터 보관과 사람의 열람 조건을 실제로 확인해야 하며, '학습 끄기'만으로는 부족할 수 있다. 개인 식별 정보의 법정 정의는 넓어서 운전면허번호와 사회보장번호, 생년월일, 당사자와 증인의 주소와 전화번호, 의료 및 금융 정보, 계좌번호, 법에 따라 봉인된 정보까지 포함한다.
셋째, AI 출력은 검증하고 바로잡아야 하며, 법원에 제출하는 서면은 AI 사용을 공개해야 한다. 변호사는 AI 출력의 정확성을 확인하기 위한 합리적인 조치를 취해야 하고, 오류나 환각이 포함된 내용을 사용하면 정정해야 한다. 이 의무는 인용에만 국한되지 않고 사실 요약, 증언 정리, 계약 분석 등 변호사가 실제로 사용하는 모든 자료에 미친다. 여기에 더해 생성형 AI를 사용해 작성한 법원 제출 서면은 그 사용 사실을 공개해야 하는데, 이는 기존 윤리 지침과 비교해 새로 생긴 일상적 의무다.
서명하는 변호사가 피할 수 없는 개인 의무
개정된 Code of Civil Procedure 제128.7조는 별도의 규칙을 추가했다. 소장, 신청서 등 법원에 제출하는 어떤 서면에도, 제출 책임이 있는 변호사가 직접 확인하지 않은 인용을 포함해서는 안 되며, 생성형 AI가 제공한 인용도 여기에 포함된다. 두 가지가 중요하다. '직접'이라는 말은 확인 작업을 보조 인력, 주니어 변호사, 인용 검사 도구에 전적으로 맡기고 서명 변호사가 직접 확인하지 않는 방식으로는 의무를 다한 것으로 인정받지 못할 수 있다는 뜻이다. 또 범위는 AI 인용에 한정되지 않는다. AI에서 나온 인용이 아니더라도 서명 변호사가 직접 확인해야 한다. 부담은 개인 개업 변호사와 소규모 사무소에 가장 크다. 대형 사무소는 확인 작업을 주니어 변호사들에게 나눌 수 있지만, 개인 변호사는 모든 인용을 혼자 확인해야 한다.
중재인도 같은 법의 적용을 받는다. 의사결정의 어떤 부분도 생성형 AI에 위임할 수 없고, 기록 밖에 있는 AI 생성 정보를 활용하려면 먼저 당사자들에게 공개하고 가능한 한 의견을 낼 기회를 줘야 한다. 주 사법위원회 역시 생성형 AI를 반영해 사법 행정 기준을 재검토하도록 요구받는다.
왜 지금인가: 가공의 인용에 이미 실제 제재가 내려졌다
이 법의 배경에는 지난 2년간 미국 각지 법원에서 가공의 인용에 대한 제재가 잇따른 일이 있다. 올해 3월 캘리포니아 항소법원은 양육권 분쟁에서 가공의 AI 생성 인용을 사용한 변호사에게 5000달러의 제재를 부과했다. 그동안 각 주는 주로 법관별 명령과 변호사협회 윤리 의견에 의존해 기준이 제각각이었다. SB 574는 흩어져 있던 요구를 하나의 성문법으로 모으고 개인 확인 의무에 제재를 연결했다. 인용 확인 위반에 대한 금전적 제재는 대리받는 당사자에게 부과할 수 없어 부담은 변호사와 사무소가 지며, 사무소는 원칙적으로 소속 변호사와 직원의 위반에 대해 연대 책임을 진다. 동시에 21일의 세이프하버도 유지돼, 제재 신청이 송달된 뒤 21일 이내에 문제 서면을 철회하거나 정정하면 제재를 피할 수 있다.
9월 30일 함께 서명된 캘리포니아 AI 법안 묶음에는 직장의 자동 의사결정을 규율하는 또 다른 법이 포함돼 있어 두 법을 나란히 읽으면 이해가 쉽다. 캘리포니아 SB 947 시행 이후에는 자동화 시스템만으로 징계와 해고를 결정할 수 없다. 하나는 고용주가 AI로 직원을 관리하는 방식을, 다른 하나는 변호사가 AI로 사건을 처리하는 방식을 다룬다. 둘 다 도구 자체를 금지하지 않고, 판단을 도구에 넘기는 것을 금지한다.
2027년 1월 1일 전까지 사무소가 먼저 할 일
적용 범위부터 분명히 하자. 이 법은 캘리포니아에서 업무를 수행하며 캘리포니아 법원에 서면을 제출하는 변호사를 대상으로 하고, 특별 승인을 받아 캘리포니아 법정에 서는 타주 변호사도 적용 대상일 가능성이 크다. 다른 주의 법원을 직접 규율하지 않으며, 변호사의 AI 사용 자체를 금지하지도 않는다. 비밀 유지와 검증 의무는 법원 서면에만 한정되지 않아 의뢰인 조언과 내부 메모도 포함된다.
시행 전까지 캘리포니아에서 업무를 하는 사무소는 최소 네 가지를 해야 한다. 사용 중인 모든 AI 도구의 데이터 보관, 사람의 열람, 학습 조건을 검토해 접근 제한 요건을 충족하는 도구만 승인하고, 소비자용 도구를 의뢰인 정보에 쓰지 않는다고 명시할 것. 법의 개인 식별 정보 정의를 하한선으로 삼아 '어떤 정보를 어떤 도구에 입력할 수 있는지'를 문서로 정할 것. 서명 변호사의 인용 본인 확인을 제출 전 체크리스트에 넣고 그 과정을 기록할 것. 캘리포니아 제출 서면용 표준 공개 문구를 마련하고, 서면마다 AI 사용 여부를 확인할 책임자를 정할 것. 가장 어려운 문제는 공개의 경계다. 생성형 AI는 이제 조사 도구와 문서 작성 도구에 널리 내장돼 있는데, 어떤 사용이 '사용'에 해당하는지, 가벼운 편집도 포함되는지 법은 말해주지 않는다. 법원이나 주 변호사협회의 지침이 나오기 전까지는 '실질적인 사용은 공개한다'는 전제로 준비하는 것이 위험이 낮은 기본값이다. 반대로 책임이 따르지 않는 지름길로 AI를 취급하는 일은 내년의 캘리포니아에서는 단순한 윤리적 당부가 아니라 명확한 법적 위험이 된다.
