Google представила VaultGemma: приватность данных на первом месте

Google представила VaultGemma — открытую языковую модель с 1 млрд параметров, доступную на платформах Hugging Face и Kaggle. Её ключевая особенность — встроенная система дифференциальной приватности, которая сводит к минимуму риск утечки данных из обучающего корпуса.

Технология добавляет «шум» в процесс обучения, предотвращая прямое влияние отдельных фрагментов текста на итоговые параметры модели. Это затрудняет воспроизведение конфиденциальной информации, в отличие от традиционных подходов.

Несмотря на текущие ограничения (уровень качества соответствует GPT-2), VaultGemma демонстрирует нулевой процент утечек данных в тестах. Эксперты называют её первым шагом к созданию «безопасного по умолчанию» ИИ для медицины, финансов и других чувствительных сфер.

Когда разработчики научатся совмещать эту защиту с высокой производительностью, человечество получит ассистентов, для которых кража вашей кредитной карты будет сложнее, чем рассказ о квантовой физике.