콜로라도 자동 의사결정 기술법(SB 26-189)이 결정적 국면에 접어들었다. 2026년 10월 26일 콜로라도주 법무장관실은 이 법의 시행규칙에 대한 공개 청문회를 열고, 서면 의견은 같은 날 산악시간 오후 11시 59분에 마감된다. 청문회가 26일을 넘겨 이어지면 의견 수렴은 청문회 마지막 날까지 연장된다. 이 법은 2027년 1월 1일 이후 내려지는 중대한 결정에 적용되며, 기업에 남은 준비 시간은 두 달 남짓이다.
이 법은 무엇을 규율하는가
먼저 범위를 분명히 하자. 이는 미국 콜로라도주의 주법으로, 전국 공통 규칙도, 세계 표준도 아니다. 규율 대상은 교육, 고용, 주거, 대출 및 기타 금융서비스, 보험, 의료, 필수 정부서비스 등의 분야에서 중대한 결정에 실질적인 영향을 미치는 자동 의사결정 기술이다. 함께 제정된 챗봇 안전법(HB 26-1263)도 같은 규칙 제정 절차를 거치고 있으며, 대화형 AI 서비스를 대상으로 미성년자 보호와 법무장관에 대한 연례 보고를 포함한다.
놓치기 쉬운 연혁도 있다. 2024년에 제정되어 2026년 6월 30일 시행 예정이었던 SB 24-205는 2026년 5월 14일 서명된 SB 26-189에 의해 폐지되고 대체되었다. 구법의 영향평가를 전제로 짠 컴플라이언스 체계는 다시 짜야 한다. 신법은 개별 결정에 더 밀접하게 닿아 있고, 일부 의무는 오히려 실무 적용이 더 어렵다.
10월 6일 중간 개정안: 실질적 영향의 판단 기준
법무장관실은 2026년 8월 11일 규칙안을 제출했고, 10월 6일 중간 개정안을 공개했다. 가장 중요한 추가는 실질적 영향에 대한 추정 기준이다. 의사결정자가 개인에 관한 점수, 순위, 추천, 임계값 등의 결과를 검토했고 그 결과가 최종 결정과 일치하면, 해당 시스템이 결정에 실질적 영향을 미친 것으로 추정된다. 도입자는 그 결과가 극히 미미한 요인에 불과했음을 보여 추정을 뒤집을 수 있다. 반대로 정보를 요약·정리·제시하여 사람의 검토에 제공하는 데 그치는 도구는 이 기술의 정의에 들어가지 않는다.
개정안의 예는 명확하다. 신용조합이 위험 점수가 임계값에 못 미친다는 이유로 대출을 거부하면 실질적 영향에 해당한다. 마찬가지로 중요한 것은 제3자에게 운영을 맡겨도 책임이 넘어가지 않는다는 점이다. 제3자의 결과를 이용해 결정을 내리는 도입자는 그 결정에 계속 책임을 진다.
개발자와 도입자가 각각 져야 할 의무
개발자가 져야 할 것은 문서화다. 용도, 훈련 데이터 범주, 알려진 한계, 적절한 인간 검토 방법 등의 기술 문서를 하위 사용자에게 제공하고, 컴플라이언스 기록을 최소 3년간 보관해야 한다. 도입자가 져야 할 것은 결정 이후의 대응이다. 시스템 사용 전 고지, 불리한 중대 결정 후 30일 이내의 쉬운 말로의 설명, 부정확한 개인정보 정정 기회, 그리고 의미 있는 인간 검토와 재고가 그것이다.
위험은 어디에 있는가: 집행 중단은 작업 중단이 아니다
현재 연방 법원 명령이 당사자 쌍방의 공동 신청에 따라 명령에 정해진 기간 동안 법무장관의 집행 개시를 제한하고 있다. 그러나 법정 준수일인 2027년 1월 1일은 변하지 않으며, 규칙 제정은 그 전에 규칙을 확정하는 것을 목표로 한다. 더 중요한 것은 이 중단이 법무장관의 집행을 대상으로 할 뿐, 차별 등 다른 법적 위험을 없애주지 않는다는 점이다. 고객에게 모든 책임을 지우는 계약 조항도 개발자 자신의 책임을 이전시킬 수 없다.
지금 해야 할 일은 세 가지다. 첫째, 콜로라도 주민의 중대한 결정에 실질적 영향을 미치는 시스템을 전수 조사하는 것. 채용, 대출, 보험 심사가 최우선이다. 둘째, 결과 기록, 고지 양식, 인간 검토 절차의 빈틈을 메우는 것. 기록의 빈틈은 1~2주 만에 메울 수 없다. 셋째, 실질적 영향 판단 기준과 제3자 책임 분담 등 모호한 부분에 대해 10월 26일 마감 전에 의견을 제출하는 것. 규칙이 확정된 뒤 바꾸는 비용은 초안 단계에서 의견을 내는 비용보다 훨씬 크다.
