1. 배경:
국가사이버보안 표준화 기술위원회(TC260)가 제정하고 2024년 9월 9일 국가사이버보안 홍보 주간 메인 포럼에서 공식 발표되었습니다. 이 프레임워크는 글로벌 AI 거버넌스 이니셔티브에 대응하며 AI 안전 거버넌스를 위한 체계적이고 실행 가능한 지침을 제공하고 안전하고 신뢰할 수 있으며 제어 가능한 AI 애플리케이션 생태계 구축을 촉진하는 것을 목표로 합니다.
2. 거버넌스 원칙
포용성, 신중함 및 안전, 위험 지향적이고 민첩한 거버넌스, 기술 및 관리와 협력적 대응, 개방성, 협력, 공동 거버넌스 및 공유의 원칙을 고수합니다.
3.
- 프레임워크 구조의 내생적 보안 위험: 모델 알고리즘 보안, 데이터 보안, 시스템 보안 등을 포함합니다.
- 애플리케이션 보안 위험: 네트워크 환경 위험, 실제 시나리오 위험, 인지 편향 위험, 윤리적 위험 등을 포함합니다.
- 대책: 기술적 대책과 포괄적인 거버넌스 조치를 제안하고 알고리즘 개발자, AI 서비스 제공업체, 업계 사용자 및 대중과 같은 다양한 주체에 보안 지침을 제공합니다.
4. 전략적 의의
이프레임워크는 법적으로 집행 가능하지는 않지만 인공지능 보안 거버넌스에 대한 우리나라 최초의 체계적인 지침 문서로서 위험 식별, 기술 대응 및 협업 거버넌스를 위한 경로 참조를 제공하고 인공 지능 보안 거버넌스에 대한 국제 협력과 합의를 촉진합니다.
자세한 내용은 공식 웹사이트를 참조하세요:
https://www.tc260.org.cn/front/postDetail.html?id=20240909102807
