Улучшение производительности искусственного интеллекта путем переработки рассуждений системы 2 в эффективные ответы системы 1
Крупные языковые модели (LLM) могут улучшить свои окончательные ответы, уделяя дополнительные вычислительные ресурсы промежуточной генерации мыслей во время вывода. В процессе использованы стратегии System 2 для имитации намеренного и осознанного рассуждения.
Система 1 может быть понята как простая реализация модели трансформатора для LLM с целью генерации ответов непосредственно из ввода без создания промежуточных процессов. Система 2 генерирует промежуточные токены или стадии и использует продвинутые стратегии, такие как поиск и повторное давление, перед тем как прийти к окончательному ответу.
Практические решения и ценность:
В рамках этого исследования группа исследователей из Meta FAIR изучила самообучающиеся способы сбора или упорядочения этих высококачественных выходов System 2 в генерации LLM. Устранение необходимости создавать последовательности токенов промежуточных рассуждений во время вывода позволяет включить рассуждения прямо в более инстинктивные ответы системы 1 модели. Это позволяет избежать больших вычислительных затрат, связанных с методиками System 2, сохраняя при этом повышенную производительность по сравнению с первоначальными выходами System 1.
Команда поделилась, что результаты показали, что несколько методов System 2 могут быть эффективно сведены к System 1. Этот процесс упрощения более эффективен, поскольку он снижает стоимость вывода, сохраняя при этом улучшения качества, предоставляемые системой 2. Методы, такие как переформулирование и ответ, внимание System 2, Branch-Solve-Merge могут быть сведены к System 1 и производить лучшие результаты при меньших вычислительных затратах, чем при использовании подходов System 2 напрямую.
Команда отметила, что упрощение System 2 будет важным для создания будущих систем искусственного интеллекта, которые всегда будут учиться. Эти системы смогут сосредоточить свои ресурсы System 2 на рассуждающих задачах, которые они найдут сложными, и использовать уплотненные ответы System 1 для быстрых задач. Благодаря этой технике ИИ-системы смогут максимизировать свою вычислительную мощность и поддерживать отличную производительность в широком спектре задач.
В заключение, включение методов рассуждения System 2 в процедуры вывода LLM означает значительный прогресс в возможностях искусственного интеллекта. Улучшение производительности можно получить, не приходится платить значительные вычислительные затраты, связанные с подходами System 2, сжимая эти намеренные, более качественные рассуждения в более эффективные процессы системы 1. Этот метод уплотнения является рабочим вариантом для прикладных приложений, поскольку он улучшает качество выхода модели и точность, а также оптимально использует доступные ресурсы.
Применение в реальном мире:
Если ваша компания заинтересована в использовании искусственного интеллекта для улучшения производства, автоматизации и увеличения производительности, обратитесь к нам для получения консультации.
Мы готовы помочь в выборе подходящего решения и в пошаговом внедрении искусственного интеллекта в ваш бизнес. Обращайтесь к нам также, если вам интересно протестировать наши ИИ-ассистенты в продажах.
Наш ассистент помогает в отвечании на вопросы клиентов, генерации контента для отдела продаж и снижении нагрузки на первую линию.
Мы предлагаем широкий спектр решений, использующих технологии искусственного интеллекта, и готовы помочь в внедрении этих решений для оптимизации вашего бизнеса.
