主要观点：VaultGemma 是基于 1B 参数的 Gemma 2 训练的 LLM，利用差分隐私防止模型记忆和回吐训练数据，虽为研究模型但可用于医疗、金融等领域；差分隐私是一种数学技术，通过注入校准噪声来保护数据隐私；其有效需注入的噪声远超原始数据的内在随机性，会增加计算成本；在大语言模型中能确保模型输出与未包含特定样本的数据集训练的模型输出无统计差异；差分隐私有隐私保障但会降低模型准确性和增加计算成本，Google 研究关注平衡并寻找最优训练配置；还设计新训练算法用泊松采样减少噪声；与非隐私模型对比性能相当，其权重可在 Hugging Face 和 Kaggle 上获取，Google 称其是目前最大的差分隐私模型。
关键信息：1B 参数、Gemma 2、差分隐私、防止记忆数据、用于多领域、数学技术、增加计算成本、对比性能、新算法、权重获取
重要细节：通过注入校准噪声保护数据隐私，关键假设是噪声远超原始数据随机性，Google 研究关注平衡找到最优配置，用泊松采样减少噪声，与非隐私模型对比在多个任务中性能相当，权重获取有条件等。