Минимизация запоминания в языковых моделях: подход Goldfish Loss
Языковые модели могут запоминать и воспроизводить свои обучающие данные, что создает значительные риски для конфиденциальности и авторских прав, особенно в коммерческих средах. Это критическая проблема для моделей, генерирующих код, поскольку они могут случайно повторно использовать фрагменты кода, что может противоречить лицензионным условиям, включая ограничения на коммерческое использование. Кроме того, модели могут раскрывать лично идентифицируемую информацию (ЛИИ) или другие чувствительные данные.
Практические решения и ценность
Исследователи из Университета Мэриленда, Института ELLIS в Тюбингене и Института им. Макса Планка по интеллектуальным системам разработали метод обучения “потери золотой рыбки” для снижения запоминания в языковых моделях. Этот метод исключает случайный поднабор токенов из вычисления потерь во время обучения, предотвращая модели запоминать и воспроизводить точные последовательности из своих обучающих данных.
Исследователи также исследовали различные методы количественной оценки и смягчения запоминания в языковых моделях в недавних исследованиях. Техники включают извлечение обучающих данных через подсказки, спонтанное воспроизведение данных, дифференциальное обучение, регуляризацию и инновационные подходы, такие как последовательная маскировка токенов.
Метод “потери золотой рыбки” эффективно предотвращает запоминание в больших языковых моделях (LLM) в различных сценариях обучения. Он также имеет ограничения против атак на членство и адаптивные атаки, но остается жизнеспособной стратегией для повышения конфиденциальности в промышленных приложениях.
Если вы хотите, чтобы ваша компания развивалась с помощью искусственного интеллекта (ИИ) и оставалась в числе лидеров, грамотно используйте Mitigating Memorization in Language Models: The Goldfish Loss Approach.
Если вам нужны советы по внедрению ИИ, пишите нам на https://t.me/flycodetelegram.
Узнайте, как ИИ может изменить ваши процессы с решениями от Flycode.ru.
