nthropic gab bekannt, dass es drei KI-Labore – DeepSeek, Moonshot AI und MiniMax – identifiziert hat, um eine "industrielle" Destillations-Fähigkeitsextraktionsoperation gegen Claude zu starten: Mehr als 16 Millionen Interaktionen mit Claude wurden über etwa 24.000 betrügerische Konten generiert, um eigene Modelle zu trainieren und zu verbessern, und es wurde verdächtigt, gegen Nutzungsbedingungen und regionale Zugriffsbeschränkungen verstoßen zu haben.
Die Ankündigung wies darauf hin, dass "Destillation" selbst eine gängige Trainingsmethode ist, aber wenn Wettbewerber betrügerische Konten, Proxy-Dienste und Batch-Repeater nutzen, um differenzierte Fähigkeiten wie Argumentation, Werkzeugnutzung und Codierung in kurzer Zeit zentral zu extrahieren, wird die Sicherheitsvorkehrung geschwächt und Sicherheitsrisiken mit sich bringen. Von den drei Operationen hatte Moonshot etwa 3,4 Millionen Interaktionen, MiniMax etwa 13 Millionen Interaktionen, und DeepSeek war klein, enthielt aber Strategien wie das Erzeugen von "Schritt-für-Schritt-Inferenztrajektorien".
Anthropic erklärte, dass es die Überprüfung missbrauchsanfälliger Kanäle wie Erkennung und Verhaltenserkennung gestärkt, Bildung und Forschung verbessert und technische Indikatoren mit anderen Institutionen geteilt habe. Gegenmaßnahmen auf Produkt-, API- und Modellebene werden ebenfalls entwickelt, um die Wirksamkeit der für illegale Destillation verwendeten Ergebnisse zu verringern. Die Ankündigung erwähnte außerdem, dass solche Angriffe politische Diskussionen über Modellexporte und Rechenleistungsbeschränkungen beeinflussen könnten, die relevanten externen Auswirkungen jedoch weiterhin von den Nachfolgemaßnahmen aller Parteien abhängen.
FAQs
F: Wer ist das Ziel dieses Vorfalls?
A: Die Ankündigung wurde von Anthropic gemacht und betraf dessen Modell Claude sowie die benannten DeepSeek, Moonshot AI und MiniMax.
F: Wie unterscheidet sich Distillation Attack von normaler Destillation?
A: Die normale Destillation besteht hauptsächlich aus interner Kompression und Kostensenkung in derselben Institution; Destillationsangriffe beziehen sich auf die Extraktion von Wettbewerbsfähigkeiten durch betrügerische Konten und groß angelegte Prompts.
F: Welche Skalendaten sind bekanntgegeben?
A: Ungefähr 24.000 betrügerische Konten und mehr als 16 Millionen Interaktionen mit Claude; Darunter war Moonshot etwa 3,4 Millionen Mal und MiniMax etwa 13 Millionen Mal.
F: Welche Fähigkeiten werden hauptsächlich aus dieser Art von Angriff gewonnen?
A: In der Ankündigung wird erwähnt, dass der Schwerpunkt auf Denkfähigkeit, Werkzeugnutzung, Codierung und Aufgaben des Agenten usw. liegt.
F: Auf welche Risiken müssen gewöhnliche Nutzer achten?
A: Wenn die Modellverbreitung ohne Leitplanken das Missbrauchsrisiko erhöhen kann; Nutzer sollten auch bei Dienstleistungen wie dem Wiederverkauf von Agenten und ungewöhnlich günstigen "Proxy-Zugängen" vorsichtig sein.
