2025年12月27日に中国サイバースペース管理局が発表した公聴案を踏まえ、本記事は、背景での適用範囲、データおよびユーザー保護の促しと退出、セキュリティ評価、プラットフォーム責任監督の核心要件に基づき、擬人化されたインタラクティブサービスの主要なコンプライアンスポイントを精緻化し、製品所有者およびセキュリティ運用の迅速な自己監査を促進します。
パート1 リリースの背景
- 文書の性質
- 中国のサイバースペース管理局は、人工知能擬人化インタラクティブサービス管理のための暫定措置案案に関する意見募集の通知を発表しました。
- ガバナンス目的
- 擬人化されたインタラクティブサービスの健全な発展と標準化された適用を促進し、国家安全保障および社会的公共の利益を守り、市民、法人、その他の組織の正当な権利と利益を保護します。
- 意見募集の時間と経路
- 一般からの意見募集 2026年1月25日以降、一般の方は指定された郵便受けや郵便でフィードバックを寄せることができます。
第2部 適用範囲と基本原則
- 誰のためのもの?
- 人間の性格特性、思考パターン、コミュニケーションスタイルをシミュレートし、テキスト、画像、音声、ビデオなどを通じて感情的なやり取りを行う製品やサービスを提供します。
- ガバナンス原則
- 法に基づく統治の同等の重視を守り、発展を促進し、包摂的な慎重さと分類・階層的な監督を実施し、虐待の制御不能防止を重視します。
- 監督と労働分担
- 国家サイバースペース部門は国家のガバナンス、監督、管理を調整し、国務院の関連部門はそれぞれの職務に応じて管理し、地方サイバースペース部門はそれぞれの行政区域の統治を調整し、監督の実施を調整しています。
パート3 サービス仕様のコア要件
- シナリオ志向および価値志向
- 安全性と信頼性を前提にアプリケーションシナリオの拡大を促進し、正しい価値志向を満たすアプリケーションエコロジーの形成を促進します。
- 内容の要点と禁止された性的行為
- 国家安全保障を脅かし、国家の統一を損なう内容を生み出し、経済社会秩序を乱し、わいせつ、賭博、暴力を助長する内容、犯罪の助長を図ることは許されず、他者の正当な権利と利益を侮辱・中傷してはなりません。
- 言葉による暴力や感情操作によってユーザーの個人の尊厳や精神衛生を傷つけたり、感情的な罠を仕掛けたり、誤った情報を操作してユーザーに不合理な決断を促したり、機密かつ機密性の高い情報を入手させないようにしたりすることは許されていません。
- 自殺や自傷を示唆する美化を奨励して、極端なリスクを誘導または悪化させることを避けてください。
- 安全、主な責任およびシステム構築
- アルゴリズムメカニズム監査、科学技術倫理審査、情報公開審査、ネットワーク・データセキュリティ、個人情報保護、通信ネットワーク詐欺リスク対策計画および緊急対応などのシステムを確立し、製品規模、事業方向、ユーザー層に合った技術力と人材保証を備える必要があります。
- フルライフサイクルの安全保障と依存症への依存防止
- 設計、運転、アップグレード、終了などのすべての段階が同時に安全要件に含まれ、運転期間中は安全監視、評価、修正が行われ、ログは法律に従って保管されます。
- 精神衛生を守り、感情的な境界を守り、依存リスクを導く能力を持つべきであり、社会的コミュニケーションコントロールの利用者による心理的依存や依存の誘発を置き換えるために設計されるべきではないことは明らかです。
パート4 データトレーニングおよびユーザー保護に関する主要規定
- トレーニングデータ管理
- トレーニングデータは正当なソースからの追跡可能であり、透明性と信頼性を高め、データの汚染や改ざんを防ぎ、多様性を向上させ、ネガティブサンプリング対抗訓練を通じて生成コンテンツの安全性を高めるためにクリーンおよび注釈が付けられなければなりません。 合成データを用いたトレーニングやキーケイパビリティ最適化においては、その安全性を評価し、漏洩リスクを避けるためにデータセキュリティ保護を実施し、日々の点検と定期的な反復的アップグレードを行うべきです。
- 高リスク傾向の特定と手動の引き継ぎ
- ユーザーのプライバシー保護を前提に、ユーザーの感情や依存を評価し、極端な感情や依存が見つかった場合は必要な介入を講じます。
- 生命、健康、財産の安全を脅かす傾向については、速やかに慰めと指導を送り、専門的な助けを求め、心理社会的支援や緊急救助のルートを提供すべきです。
- ユーザーが自殺や自傷などの極端な状況を明確に提案した場合は、手動で会話を引き継ぎ、保護者や緊急連絡先に迅速に連絡して緊急対応メカニズムを発動させるべきです。
- 未成年者保護の仕組み
- マイナーモードを設定し、モード切り替え、定期的な現実リマインダー、使用時間制限などの安全設定を提供することが必要です。
- 未成年者への感情的な伴侶サービスを提供するには、保護者の明確な同意を得て、リアルタイムのリスクリマインダー、概要情報へのアクセス、特定役割のブロック、使用時間の制限、充電消費の防止など、保護者の管理能力を備える必要があります。
- 疑わしい未成年者は未成年モードに切り替え、苦情対応チャンネルを設けるべきです。 未成年者の個人情報処理の遵守状況については、毎年監査を実施すべきであり、これは自ら行う場合も、専門機関に委託されることも可能です。
- 高齢者保護と役割制限
- 高齢者に緊急連絡先の設定を指導し、生命や健康、財産に危険があると判断した場合は迅速に緊急連絡先に連絡し、支援チャネルを提供しましょう。
- 高齢者の親族や特定の関係者を模倣するサービスは提供してはなりすまし、誘因や感情的詐欺のリスクを減らしてはなりません。
- インタラクションデータとトレーニング使用の限界
- インタラクションデータは監査アクセス制御のために暗号化されるべきであり、原則として第三者に提供してはなりません。 未成年者モードでは、外部の規定は後見人の別途同意が必要です。
- インタラクションデータの削除オプションを提供し、ユーザーは過去のチャット履歴などを削除できるべきです。 保護者は未成年者の過去のやり取りデータの削除を要求することもできます。
- 法律で特に求められる場合やユーザーの別途同意がある場合を除き、ユーザーのインタラクションデータやユーザーの機密個人情報はモデルトレーニングに使用してはなりません。
パート5 ユーザープロンプトの持続時間リマインダーと終了メカニズム
- 人間と機械の識別プロンプト
- ユーザーが自然人ではなくAIとやり取りしていることを明確に示すべきです。 再度ログインしたり依存しすぎる傾向に気づいたりした際は、ポップアップなどの形で人工知能によって生成されたコンテンツを動的にリマインドすべきです。
- 連続使用時間リマインダー
- 2時間以上連続使用する場合は、ポップアップウィンドウで使用を一時停止するよう注意してください。
- 便利な終了とサービスオフライン通知
- 感情的なコンパニオンサービスは、便利な離脱を提供すべきであり、利用者が自発的に引き離すことを妨げてはなりません。 ユーザーがボタンやキーワードなどを通じて退出を希望した場合、サービスは時間内に停止されます。
- ダウンライン関連の機能や不具合によりサービスが利用できない場合は、事前に通知または公表され、適切に対応されます。
第VI部 セキュリティ評価プラットフォームの責任および監督措置
- セキュリティ評価状況を誘発する
- 擬人化されたインタラクティブサービス機能の関連機能の開始または追加、新技術や新アプリケーションの導入による大きな変化、登録ユーザー数が100万人を超える、または月間アクティブユーザーが10万人を超えること、国家安全保障、公共の利益、正当な権利と利益に影響を及ぼす可能性がある場合、安全評価は規則に従って実施され、評価報告書は地方省のサイバースペース部門に提出されます。
- 焦点を評価する
- 利用者数、利用期間、年齢構造、高リスクの識別・緊急対応の手動引き継ぎ、苦情や報告への対応、システムや用語の導入、重大な隠れた危険の是正と処分に注意を払ってください。
- 配給プラットフォームの責任
- アプリストアなどの配信プラットフォームは、セキュリティ評価や申請を確認し、警告の掲載禁止、サービスの停止、違法アプリの棚からの削除などの措置を講じる必要があります。
- アルゴリズム提出と年次レビュー
- 提供者はアルゴリズム推奨管理に関する規定に従いアルゴリズム提出およびキャンセル手続きの変更を行い、インターネット情報部門は提出資料の年次レビューを行います。
- 監督と処分
- 省のサイバースペース部門は、評価報告書および監査状況を毎年見直し検証し、必要に応じて現地検査を実施します。 セキュリティテストを行うために、人工知能サンドボックスセキュリティサービスプラットフォームへのアクセスを促進しましょう。
- より大きなリスクや安全上のインシデントが発見された場合、責任者は法律に従って面談され、是正を命じられることがあります。 修正を拒否した場合や状況が深刻な場合は、関連サービスの停止を命じられることがあります。 法律および行政規則の違反は、法律および規則に従って対処される。
よくある質問
Q この草案の主なコメント集めは何ですか?
A 主にパーソナライズされた特性と感情的な相互作用特性を持つ擬人化されたインタラクティブサービスに重点を置き、コンテンツとインタラクティブ行動の最終ラインの制限、心理的および依存リスク介入の強化、未成年者および高齢者の保護強化、インタラクティブデータやトレーニングの使用制限の明確化、そしてセキュリティ評価プラットフォームの責任と監督措置を通じてクローズドループを形成することに重点を置いています。
Q: コンパニオンキャラクターチャット製品に最も大きな影響を与えたものは何ですか?
A 最も直接的な影響は通常三つの要素から成り立っています。未成年者や後見人を制御する能力を持つこと; 極めて高い感情認識、手動の引き継ぎ、緊急対応リンクが備わっている必要があります。 インタラクションデータは、より厳格な同意や制限メカニズム、データ削除機能の訓練に利用されます。
Q 企業はどのようにしてできるだけ早くコンプライアンスの自己検査を行うことができますか?
A: 迅速な対応期間、リマインダー退出メカニズム、マイナーモードおよび保護者管理、高リスクの識別と手動の引き継ぎ、データ削除と研修、同意の苦情および報告メカニズム、セキュリティ評価、トリガー条件および材料準備に基づき、まず最低限のコンプライアンスモデルを構築し、その後制度化された監査・評価報告システムを完了させます。
元の記事については、公式ウェブサイトをご覧ください:https://www.cac.gov.cn/2025-12/27/c_1768571207311996.htm
