Meta AI представляет COCONUT: новая модель для машинного мышления с непрерывными скрытыми мыслями и улучшенными планировочными возможностями.

COCONUT: Новый Подход к Машинному Ресонансу

Большие языковые модели (LLMs) обучаются на огромных наборах данных и имитируют логические способности. Однако, существующие методы основаны на языке, что приводит к неэффективности. Исследования показывают, что для решения задач мозг часто использует неязыковые механизмы. Это открывает возможности для создания новых подходов, которые не зависят от языка.

Проблемы Языкового Ресонанса

Языковые методы часто неэффективны в вычислениях. Большинство токенов в языковых моделях служат для флюентности, а не для реального рассуждения, что приводит к потере ресурсов. Кроме того, текущие архитектуры не всегда справляются с критическими шагами в планировании и принятии решений. Это ограничивает их способность решать сложные или динамичные задачи.

Подход Chain-of-Thought (CoT)

CoT помогает улучшить ясность решения, направляя модели на поэтапное генерирование решений. Однако он все еще зависит от языка и неэффективен для сложного планирования. Новые методы, такие как латентное рассуждение, стремятся улучшить эту ситуацию, но часто не обладают достаточной масштабируемостью.

Решение COCONUT

Исследователи из Meta и UC San Diego разработали COCONUT, который позволяет моделям рассуждать в неограниченном латентном пространстве. Вместо использования языковых токенов, COCONUT применяет последнее скрытое состояние модели для представления рассуждений. Это позволяет эффективно обрабатывать шаги рассуждений и исследовать несколько путей решений одновременно.

Обучение COCONUT

COCONUT использует многоступенчатый процесс обучения, который оптимизирует возможности латентного рассуждения. В финальной стадии обучения все цепочки рассуждений заменяются непрерывными мыслями, что позволяет модели решать задачи в латентном пространстве. Это похоже на метод поиска в ширину (BFS), когда модель одновременно оценивает несколько путей рассуждений.

Результаты Исследований

COCONUT продемонстрировал отличные результаты на трех наборах данных:

GSM8k для математического рассуждения
ProntoQA для логического рассуждения
ProsQA для задач с высоким уровнем планирования

COCONUT показал 99.9% точности в логическом рассуждении и 42.9% в математическом. Он также генерировал меньше токенов, что указывает на вычислительную эффективность.

Преимущества COCONUT

COCONUT может кодировать несколько путей рассуждений одновременно, избегая преждевременных решений. Это особенно полезно в задачах с неопределенностью, где требуется гибкость и возможность возврата к предыдущим шагам.

Ключевые Выводы

COCONUT превзошел традиционные методы с точностью 99.9% на логических задачах.
Модель продемонстрировала вычислительную эффективность, сокращая количество генерируемых токенов.
Латентное рассуждение COCONUT позволяет исследовать несколько решений и адаптироваться к сложным задачам.
Многоступенчатый процесс обучения позволяет COCONUT справляться с более сложными проблемами.

Заключение

COCONUT предлагает новый подход к машинному рассуждению, преодолевая недостатки языковых методов и улучшая вычислительную эффективность. Его способность исследовать и кодировать несколько путей делает его идеальным решением для сложных задач.