Auslegung der Zwischenmaßnahmen zur Verwaltung anthropomorpher interaktiver Dienste durch künstliche Intelligenz (Entwurf für Kommentare).

Bezogen auf den Entwurf der öffentlichen Konsultation der Cyberspace Administration of China am 27. Dezember 2025 präzisiert dieser Artikel die wichtigsten Konformitätspunkte anthropomorpher interaktiver Dienste gemäß den Kernanforderungen des Anwendungsbereichs im Hintergrund, Daten- und Benutzerschutz-Prompts und -Exits, Sicherheitsbewertung und Maßnahmen zur Überwachung der Plattformverantwortung, um die schnelle Selbstinspektion von Produktbesitzern und Sicherheitsoperationen zu erleichtern.

Teil 1 Hintergrund der Veröffentlichung

1. Art des Dokuments
2. Die Cyberspace Administration of China hat eine Mitteilung herausgegeben, um Kommentare zum Entwurf der Interim Measures for the Management of Artificial Intelligence Anthropomorphic Interactive Services einzuholen.
3. Governance-Ziele
4. Förderung der gesunden Entwicklung und standardisierten Anwendung anthropomorpher interaktiver Dienste, Schutz der nationalen Sicherheit und der sozialen öffentlichen Interessen sowie Schutz der legitimen Rechte und Interessen von Bürgern, juristischen Personen und anderen Organisationen.
5. Zeit und Kanal zur Einholung von Meinungen
6. Öffentliche Einladung zu Kommentaren Ab dem 25. Januar 2026 kann die Öffentlichkeit Rückmeldungen über spezielle Briefkästen oder Briefe geben.

Teil 2 Anwendungsbereich und Grundprinzipien

1. Für wen ist es?
2. Produkte oder Dienstleistungen anbieten, die menschliche Persönlichkeitsmerkmale, Denkmuster, Kommunikationsstile simulieren und emotionale Interaktionen durch Text, Bilder, Audio, Video usw. ermöglichen.
3. Governance-Prinzipien
4. Halten Sie an der gleichen Betonung der gesetzesgemässen Governance und fördern Sie Entwicklung, setzen Sie inklusive Vorsicht sowie klassifizierte und hierarchische Aufsicht um und betonen Sie die Verhinderung von Missbrauch, bevor sie außer Kontrolle geraten.
5. Überwachung und Arbeitsteilung
6. Die nationale Cyberspace-Abteilung koordiniert die nationale Governance, Überwachung und Management, die zuständigen Abteilungen des Staatsrats verwalten ihre Aufgaben, und die lokalen Cyberspace-Abteilungen koordinieren die Verwaltung ihrer eigenen Verwaltungsregionen und koordinieren die Umsetzung der Aufsicht.

Teil 3 Kernanforderungen der Service-Spezifikationen

1. Szenarioorientiert und wertorientiert
2. Fördern Sie die Erweiterung der Anwendungsszenarien unter dem Vorbild von Sicherheit und Zuverlässigkeit und fördern Sie die Bildung einer Anwendungsökologie, die der richtigen Wertorientierung entspricht.
3. Fazit: Inhalt und verbotene sexuelle Handlungen
4. Es ist nicht erlaubt, Inhalte zu erzeugen und zu verbreiten, die die nationale Sicherheit gefährden, die nationale Einheit untergraben, die wirtschaftliche und soziale Ordnung stören, Obszönität, Glücksspiel, Gewalt fördern oder Straftaten fördern, und dürfen nicht beleidigen, verleumden oder die legitimen Interessen anderer verletzen.
5. Es ist nicht erlaubt, die persönliche Würde und psychische Gesundheit der Nutzer durch verbale Gewalt und emotionale Manipulation zu schädigen, emotionale Fallen zu stellen oder irreführende Informationen zu manipulieren, um Nutzer zu unvernünftigen Entscheidungen zu bewegen, und nicht, sie dazu zu bringen, vertrauliche und sensible Informationen zu erhalten.
6. Fördern Sie keine Verherrlichung, die Suizid und Selbstverletzung usw. impliziert, um extreme Risiken nicht zu lenken oder zu verschärfen.
7. Hauptverantwortung für Sicherheit und Systembau
8. Es ist notwendig, Systeme wie Algorithmus-Mechanismen-Audits, wissenschaftliche und technologische Ethiküberprüfungen, Informationsfreigabeprüfung, Netzwerk- und Datensicherheit, Schutz personenbezogener Daten, Anti-Telekommunikationsnetzbetrugsrisikoplan und Notfallreaktion einzurichten sowie mit technischen Fähigkeiten und Personalgarantien ausgestattet zu sein, die Produktgröße, Geschäftsausrichtung und Nutzergruppen entsprechen.
9. Vollständige Lebenszyklussicherheit und Anti-Sucht-Abhängigkeit
10. Alle Phasen wie Entwurf, Betrieb, Aufrüstung und Terminierung sind gleichzeitig in die Sicherheitsanforderungen einbezogen, und während des Betriebszeitraums werden Sicherheitsüberwachung, Bewertung und Korrektur durchgeführt, wobei Protokolle gesetzeskonform geführt werden.
11. Es sollte die Fähigkeit haben, die psychische Gesundheit zu schützen, emotionale Grenzen zu schützen und Abhängigkeitsrisiken zu steuern, und es ist klar, dass es nicht darauf ausgelegt sein sollte, die psychologische Anregung von Sucht und Abhängigkeit durch Nutzer der sozialen Kommunikation zu kontrollieren.

Teil 4 Zentrale Bestimmungen zu Datenschulung und Nutzerschutz

1. Trainingsdatenmanagement
2. Trainingsdaten müssen aus legitimen Quellen zurückverfolgbar, bereinigt und annotiert werden, um Transparenz und Zuverlässigkeit zu erhöhen, Datenvergiftungen und -manipulationen zu verhindern, die Vielfalt zu erhöhen und die Sicherheit erzeugter Inhalte durch negatives Stichproben-Adversarialtraining zu erhöhen. Beim Einsatz synthetischer Daten für Training oder Optimierung der Schlüsselfähigkeiten sollte die Sicherheit synthetischer Daten bewertet, Datenschutz eingeführt werden, um das Risiko von Lecks zu vermeiden, und tägliche Inspektionen sowie regelmäßige iterative Updates sollten durchgeführt werden.
3. Erkennung und manuelle Übernahme von Hochrisiko-Neigungen
4. Bewerten Sie die Emotionen und die Abhängigkeit der Nutzer unter dem Schutz, die Privatsphäre der Nutzer zu schützen, und ergreifen Sie notwendige Maßnahmen, wenn extreme Emotionen oder Abhängigkeiten festgestellt werden.
5. Bei Tendenzen, die Leben, Gesundheit und Eigentumssicherheit bedrohen, sollten sie umgehend Trost und Anleitung senden, professionelle Hilfe in Anspruch zu nehmen, sowie psychosoziale Hilfe oder Notfallrettungskanäle anbieten.
6. Wenn Nutzer eindeutig extreme Situationen wie Suizid und Selbstverletzung vorschlagen, sollten sie das Gespräch manuell übernehmen und zeitnah Vormundschafts- oder Notfallkontakte kontaktieren, um den Notfallmechanismus zu aktivieren.
7. Mechanismus zum Schutz von Minderjährigen
8. Es ist notwendig, einen Nebenmodus einzurichten und Sicherheitseinstellungen wie Moduswechsel, regelmäßige Realitätserinnerungen und Nutzungszeitlimits bereitzustellen.
9. Die Bereitstellung emotionaler Begleitungsdienste für Minderjährige muss die ausdrückliche Zustimmung des Vormund einholen und die Kontrollmöglichkeiten des Vormund bieten, einschließlich Echtzeit-Risikoerinnerungen, Zugang zu Zusammenfassungsinformationen, Blockieren bestimmter Rollen, Begrenzung der Nutzungsdauer und Verhinderung des Aufladeverbrauchs.
10. Verdächtige Minderjährige sollten in den Minderjährigenmodus gestellt werden und ein Beschwerdekanal sollte bereitgestellt werden. Jährlich sollten Prüfungen zum Compliance-Status der Verarbeitung personenbezogener Daten von Minderjährigen durchgeführt werden, die entweder selbst durchgeführt oder professionellen Institutionen anvertraut werden können.
11. Altersschutz und Rollenbeschränkungen
12. Leiten Sie die älteren Menschen bei der Einrichtung von Notfallkontakten, informieren Sie die Notfallkontakte umgehend und bieten Sie Hilfskanäle bereit, falls sie Leben, Gesundheit und Eigentum gefährden.
13. Dienstleistungen dürfen nicht angeboten werden, um Angehörige oder bestimmte verwandte Personen älterer Nutzer zu simulieren, um das Risiko von Imitationsanreiz und emotionalem Betrug zu verringern.
14. Interaktionsdaten und Trainingsnutzungsgrenzen
15. Interaktionsdaten sollten für die Audit-Zugriffskontrolle verschlüsselt werden und dürfen grundsätzlich nicht an Dritte weitergegeben werden. Im Minderjährigenmodus erfordert externe Versorgung die separate Zustimmung des Vormunds.
16. Die Möglichkeit, Interaktionsdaten zu löschen, sollte vorhanden sein, und Nutzer können den historischen Chatverlauf usw. löschen; Vormünder können auch die Löschung historischer Interaktionsdaten von Minderjährigen beantragen.
17. Sofern nicht gesetzlich vorgeschrieben oder mit separater Zustimmung des Nutzers, dürfen Nutzerinteraktionsdaten und sensible persönliche Informationen der Nutzer nicht für das Modelltraining verwendet werden.

Teil 5: Erinnerung an die Dauer des Benutzerprompts und Austrittsmechanismus

1. Mensch-Maschine-Identifikationshinweise
2. Es sollte klar angegeben werden, dass der Nutzer mit der KI interagiert und nicht mit der natürlichen Person. Wenn Sie es zum ersten Mal nutzen, um sich erneut einzuloggen oder eine Tendenz zur Überabhängigkeit zu erkennen, sollten Sie dynamisch daran erinnern, dass die Inhalte von künstlicher Intelligenz in Form von Pop-ups und anderen Methoden generiert werden.
3. Erinnerung an durchgehende Nutzungszeiten
4. Wenn du es länger als 2 Stunden durchgehend benutzt, solltest du durch Pop-up-Fenster daran erinnert werden, die Nutzung auszusetzen.
5. Bequeme Offline-Benachrichtigung für Ausstieg und Service
6. Emotionale Begleitungsdienste sollten einen bequemen Entzug bieten und nicht verhindern, dass Nutzer freiwillig entziehen. Wenn der Nutzer über Buttons, Schlüsselwörter usw. einen Rückzug anfordert, wird der Dienst rechtzeitig gestoppt.
7. Ist der Dienst aufgrund von Downline-bezogenen Funktionen oder Störungen nicht verfügbar, muss er im Voraus benachrichtigt oder öffentlich bekannt gegeben und ordnungsgemäß gehandhabt werden.

Verantwortlichkeiten und Aufsichtsmaßnahmen des Teils VI der Sicherheitsbewertungsplattform

1. Lösen Sie eine Sicherheitsbewertungssituation aus
2. In Situationen wie dem Start oder der Hinzufügung relevanter Funktionen anthropomorpher interaktiver Dienstfunktionen, dem Einsatz neuer Technologien und neuer Anwendungen mit bedeutenden Veränderungen, der Zahl der registrierten Nutzer von mehr als 1 Million oder der monatlich aktiven Nutzer von mehr als 100.000 sowie der Möglichkeit, die nationale Sicherheit, öffentliche Interessen oder legitime Rechte und Interessen zu beeinträchtigen, wird die Sicherheitsbewertung gemäß den Vorschriften durchgeführt und ein Bewertungsbericht an die lokale provinzielle Cyberspace-Abteilung eingereicht.
3. Bewerten Sie den Fokus
4. Achten Sie auf die Größe der Nutzer, die Nutzungsdauer, die Altersstruktur, die manuelle Übernahme von Hochrisiko-Identifikation und Notfallmaßnahmen, die Reaktion auf Beschwerden und Meldungen, die Implementierung von Systemen und Bedingungen sowie die Behebung und Beseitigung großer versteckter Gefahren.
5. Verantwortung der Vertriebsplattform
6. Vertriebsplattformen wie App-Stores müssen Sicherheitsbewertungen und -abgaben überprüfen und Maßnahmen ergreifen, wie zum Beispiel keine Warnungen aufzulisten, Dienste auszusetzen oder illegale Anwendungen aus den Regalen zu entfernen.
7. Algorithmus-Einreichung und jährliche Überprüfung
8. Anbieter führen Verfahren zur Einreichung und Stornierung von Algorithmen gemäß den Bestimmungen zum Management von Algorithmusempfehlungen durch, und die Internetinformationsabteilung führt eine jährliche Überprüfung der Einreichungsunterlagen durch.
9. Überwachung und Entsorgung
10. Die provinzielle Cyberspace-Abteilung überprüft und überprüft jährlich den Bewertungsbericht und die Prüfungslage sowie führt bei Bedarf Vor-Ort-Inspektionen durch. Fördern Sie den Zugang zur künstlichen Intelligenz-Sandbox-Sicherheitsplattform, um Sicherheitstests durchzuführen.
11. Wird ein größeres Risiko oder ein Sicherheitsvorfall festgestellt, kann die verantwortliche Person gesetzeskonform befragt und zur Behebung angeordnet werden; wenn sie sich weigern, Korrekturen vorzunehmen, oder die Umstände ernst sind, können sie angewiesen werden, die Erbringung relevanter Dienstleistungen auszusetzen. Verstöße gegen Gesetze und Verwaltungsvorschriften sind gemäß Gesetzen und Vorschriften zu behandeln.

Häufig gestellte Fragen

F: Was ist der Hauptfokus dieses Entwurfs für die Kommentare?

A Es richtet sich hauptsächlich auf anthropomorphe interaktive Dienste mit personalisierten Eigenschaften und emotionalen Interaktionsmerkmalen, mit dem Fokus auf die Einschränkung des Inhaltsbestands und interaktiven Verhaltens, die Stärkung psychologischer und Abhängigkeitsrisikointerventionen, die Verbesserung des Schutzes von Minderjährigen und älteren Menschen, die Klärung der Einschränkungen der Nutzung interaktiver Daten und Schulungen sowie die Bildung eines geschlossenen Kreislaufs durch die Verantwortlichkeits- und Aufsichtsmaßnahmen der Sicherheitsbewertungsplattform.

F: Was hatte den größten Einfluss auf das Begleitcharakter-Chat-Produkt?

A Die direkteste Auswirkung besteht in der Regel aus drei Teilen: Muss die Fähigkeit haben, Minderjährige und Erziehungsberechtigte zu kontrollieren; Es muss extreme Emotionserkennung, manuelle Übernahme und Notfallreaktionsverbindungen haben; Interaktionsdaten werden verwendet, um strengere Einwilligungs- und Einschränkungsmechanismen sowie die Löschung von Daten zu trainieren.

F: Wie können Unternehmen die Compliance-Selbstinspektion so schnell wie möglich durchführen?

A: Gemäß der Prompt- und Erkennungsdauer, dem Erinnerungsaustrittsmechanismus, der Kontrolle des Minderjährigen und Vormunds, der Erkennung und manueller Übernahme von Hochrisikos, der Löschung und Schulung von Daten, dem Mechanismus für Einwilligungsbeschwerden und Meldung, Sicherheitsbewertung, Auslöserbedingungen und Materialvorbereitung wird zunächst ein Modell für Mindestanforderungen erstellt und anschließend das institutionalisierte Audit- und Evaluationsmeldesystem abgeschlossen.

Für den Originalartikel siehe bitte die offizielle Website: https://www.cac.gov.cn/2025-12/27/c_1768571207311996.htm