“`html
Language-Guided World Models (LWMs): Enhancing Agent Controllability and Compositional Generalization through Natural Language
Большие языковые модели (LLM) получили значительное внимание в области искусственного интеллекта, особенно в разработке агентов, основанных на моделях. Эти агенты, оснащенные вероятностными моделями мира, могут предвидеть будущие состояния окружающей среды и планировать соответственно. Однако существующие подходы не в полной мере используют человеческий язык для прямого улучшения моделей окружающей среды.
Решение задачи LWMs
Исследователи из Принстонского университета, Университета Калифорнии и Университета Беркли Южной Калифорнии представляют модели мира, управляемые языком (LWM), которые предлагают уникальный подход к преодолению традиционных ограничений моделей мира. Эти модели могут быть направлены через устную человеческую коммуникацию, интегрируя надзор на основе языка, сохраняя при этом преимущества моделирования мира. LWM снижают усилия человека по обучению и смягчают риски вредных действий агента во время исследования окружающей среды.
Основные особенности LWMs
LWM представляют собой уникальный класс моделей мира, способных интерпретировать языковые описания и имитировать динамику среды. Эти модели решают ограничения наблюдательных моделей мира, позволяя людям легко адаптировать свое поведение через естественное общение. LWM могут использовать существующие тексты, уменьшая необходимость в обширном взаимодействии и усилиях человека по тонкой настройке.
Оценка LWMs на бенчмарке MESSENGER-WM
Оценка LWM на бенчмарке MESSENGER-WM привела к нескольким ключевым результатам:
- Потери кросс-энтропии: EMMA-LWM последовательно превзошел все базовые модели в более сложных разделах NewAttr и NewAll, приближаясь к производительности модели OracleParse.
- Композиционная обобщенность: модель EMMA-LWM продемонстрировала превосходную способность интерпретировать ранее не виденные инструкции и точно имитировать динамику по сравнению с наблюдательной моделью, которую легко можно обмануть спурными корреляциями.
- Базовая производительность: стандартная модель проявила чувствительность к инициализации, в то время как модель GPTHard продемонстрировала результаты ниже ожидаемых, возможно из-за неполной извлечения идентичности и преимуществ совместного изучения извлечения идентичности и атрибутов.
- Генерация воображаемой траектории: EMMA-LWM превзошел все базовые модели по метрикам, таким как прогноз расстояния (∆dist), точность нулевой награды и точность завершения на всех уровнях сложности (NewCombo, NewAttr, NewAll).
Эти результаты подчеркивают эффективность EMMA-LWM в композиционной обобщенности и точной имитации динамики среды на основе языковых описаний, превзойдя другие подходы в сложном бенчмарке MESSENGER-WM.
LWM представляют собой значительное достижение в области искусственного интеллекта, предлагая уникальный подход к адаптации моделей через естественные языковые инструкции. Эти модели обладают рядом преимуществ перед традиционными наблюдательными моделями мира и могут революционизировать способ взаимодействия искусственных агентов с их окружением. LWM обещают значительное улучшение управляемости искусственных агентов и решение проблемы композиционной обобщенности. Внедрение языково-направленной адаптации в модели мира открывает новые возможности для более интуитивных и гибких систем искусственного интеллекта.
“`
