VaultGemma教师模型蒸馏

VaultGemma 上线：差分隐私训练的开源大模型与规模定律全解

VaultGemma 以差分隐私训练，从零起步构建约 10 亿参数的 Gemma 变体；官方同步发布“差分隐私语言模型的规模定律”，给出隐私预算、算力与效果的权衡方法，权重与技术报告面向研究与企业合规可落地。 一、为什么 VaultGemma 值得关注 1、从零用差分隐私训练 VaultGemma ...