“`html
Web-Instruct’s Instruction Tuning for MAmmoTH2 and MAmmoTH2-Plus Models: The Power of Web-Mined Data in Enhancing Large Language Models
Большие языковые модели (LLM) играют ключевую роль в быстрой и точной обработке огромных объемов данных. Они критически зависят от качественной настройки инструкций для улучшения их способностей к рассуждению. Настройка инструкций необходима для подготовки LLM к эффективному решению новых, невидимых проблем путем применения полученных знаний в структурированных сценариях.
Применение инновационного подхода Web-Instruct
Исследователи из Университета Карнеги-Меллона и Университета Уотерло разработали инновационный подход под названием Web-Instruct, который обходит традиционные ограничения, источником инструкционных данных напрямую из Интернета. Этот метод использует разнообразное онлайн-содержимое, преобразуя его в ценный ресурс для настройки LLM. Процесс включает выбор соответствующих документов из широкого корпуса веб-сайтов, извлечение потенциальных пар инструкций-ответов и их улучшение для обеспечения высокого качества и релевантности для задач LLM.
Практическое применение: MAmmoTH2 и MAmmoTH2-Plus модели
MAmmoTH2 – модель, настроенная с использованием набора данных Web-Instruct, демонстрирует эффективность этого метода. Набор данных, содержащий 10 миллионов пар инструкций-ответов, собирается без значительных затрат на курирование данных людьми или побочных эффектов от методов дистилляции модели. Этот большой и разнообразный набор данных позволил MAmmoTH2 достичь значительного улучшения производительности. Например, MAmmoTH2 продемонстрировал скачок точности с 11% до 34% на сложных задачах рассуждения, таких как решение математических задач и научное рассуждение, без специального обучения в определенной области.
MAmmoTH2-Plus – улучшенная версия модели, интегрирующая дополнительные общедоступные инструкционные наборы для более широкого обучения. Эта вариант модели продемонстрировал превосходство над базовыми моделями на стандартных бенчмарках рассуждения, таких как TheoremQA и GSM8K, с улучшением производительности до 23% по сравнению с предыдущими бенчмарками. MAmmoTH2-Plus также проявляет отличные общие способности, указывая на ее сильные обобщающие способности в широком спектре сложных задач рассуждения и разговорных бенчмарков.
Заключение: преимущества Web-Instruct метода
Метод Web-Instruct и последующее развитие моделей MAmmoTH2 и MAmmoTH2-Plus представляют собой значительный прогресс в настройке инструкций для LLM. Этот подход предлагает масштабный, экономичный альтернативный метод сбора и обработки данных по сравнению с традиционными методами, используя обширное и разнообразное онлайн-инструкционное содержимое. Успех моделей, настроенных с использованием этого набора данных, подчеркивает потенциал веб-данных инструкций для значительного улучшения способностей к рассуждению LLM, расширяя их область применения и устанавливая новые стандарты качества данных и производительности моделей в области ИИ.
“`
