Исследование из MIT о том, как обучать языковые модели забывать: выводы из случайного дообучения

 This AI Paper from MIT Explores the Complexities of Teaching Language Models to Forget: Insights from Randomized Fine-Tuning

Исследование Массачусетского технологического института (MIT) рассматривает сложности обучения языковых моделей забывать: исследование метода случайного дообучения

Языковые модели (LMs) привлекли значительное внимание в последние годы благодаря своим выдающимся возможностям. В процессе обучения этих моделей сначала происходит предварительное обучение нейронных последовательностных моделей на большом, минимально обработанном тексте из Интернета, а затем они дообучаются, используя конкретные примеры и обратную связь людей.

Существующие попытки решения проблемы машинного “забывания” выросли из предыдущих методов, сосредоточенных на удалении нежелательных данных из обучающих наборов, к более продвинутым техникам. Однако большинство этих подходов имеют ограничения в выполнимости, обобщении или применимости к сложным моделям, таким как LLMs.

Исследователи из MIT предложили новый подход для изучения поведения обобщения при забывании навыков в LMs. Этот метод включает дообучение моделей на случайно размеченных данных для целевых задач, простой, но эффективный метод для вызывания забывания.

Результаты и выводы

Результаты демонстрируют разнообразное поведение забывания в различных задачах. После дообучения точность теста увеличивается, хотя она может немного уменьшиться, поскольку набор проверки не идентичен набору теста. Забывание производит три различных категории поведения.

В заключение, исследователи из MIT представили подход для изучения поведения обобщения при забывании навыков в LMs. Эта статья подчеркивает эффективность дообучения LMs на случайных ответах для вызывания забывания конкретных навыков.

Если вам нужны советы по внедрению ИИ, пишите нам на Telegram.

Попробуйте ИИ ассистент в продажах здесь.

Узнайте, как ИИ может изменить ваши процессы с решениями от Flycode.ru.

Мобильная разработка на заказ и готовые решения

Мобильная разработка

Готовые и индивидуальные решения

Веб решения - разработка сайтов и сервисов

Web решения

Получите бесплатную консультацию по веб-разработке прямо сейчас

Аутсорсинг, подбор специалистов и команд разработки

Аутсорсинг

Выберите своего специалиста сегодня и начните свой проект