Генератор параметров политики на основе моделей условной диффузии для создания политики на основе поведения

 Make-An-Agent: A Novel Policy Parameter Generator that Leverages the Power of Conditional Diffusion Models for Behavior-to-Policy Generation

“`html

Make-An-Agent: Новый генератор параметров политики, использующий силу условных моделей диффузии для генерации поведения-политики

Традиционное обучение политике использует выборочные траектории из буфера воспроизведения или демонстрации поведения для обучения политик или моделей траекторий, отображающих состояние в действие. Однако существует вызов в направлении генерации высокоразмерного вывода с использованием низкоразмерных демонстраций. Модели диффузии показали высокую конкурентоспособность на задачах, таких как синтез текста в изображение. Этот успех поддерживает работу по генерации сети политики как условного процесса денойзинга диффузии. Улучивая шум в структурированные параметры последовательно, генератор на основе диффузии может обнаружить различные политики с превосходной производительностью и устойчивым пространством параметров политики.

Существующие методы в этой области включают генерацию параметров и обучение для обучения политике.

Генерация параметров была значительной фокусной точкой исследований с момента появления гиперсетей, что привело к различным исследованиям предсказания весов нейронной сети. Например, Hypertransformer использует трансформеры для генерации весов для каждого слоя сверточных нейронных сетей (CNN) на основе образцов задач, используя обучение с учителем и полу-обучение. С другой стороны, обучение для обучения политике включает мета-обучение, которое направлено на разработку политики, способной адаптироваться к любой новой задаче в пределах заданного распределения задач. В процессе мета-обучения или мета-тестирования предыдущие методы мета-усиления обучения (мета-RL) полагаются на вознаграждения для адаптации политики.

Исследователи из Университета Мэриленда, Университета Цинхуа, Университета Калифорнии, Шанхайского института Ци Чжи и Шанхайской лаборатории искусственного интеллекта предложили Make-An-Agent, новый метод генерации политик с использованием условных моделей диффузии. В этом процессе разрабатывается автоэнкодер для сжатия сетей политики в более маленькие латентные представления на основе их слоя. Исследователи использовали контрастное обучение для установления связи между долгосрочными траекториями и их результатами или будущими состояниями. Кроме того, эффективная модель диффузии используется на основе изученных встроенных поведенческих вложений для генерации параметров политики, которые затем декодируются в используемые политики с предварительно обученным декодером.

Производительность Make-An-Agent оценивается путем тестирования в трех областях непрерывного управления, включая различные задачи на столешнице и задачи реальной локомоции. Политики были сгенерированы во время тестирования с использованием траекторий из буфера воспроизведения частично обученных агентов RL. Сгенерированные политики превзошли те, которые были созданы с помощью многозадачного или мета-обучения и других методов на основе гиперсетей. Этот подход имеет потенциал для производства разнообразных параметров политики и показывает сильную производительность, несмотря на окружающую случайность как в симуляторах, так и в реальных ситуациях. Более того, Make-An-Agent может производить высокопроизводительные политики даже при наличии шумных траекторий, демонстрируя устойчивость модели.

Политики, сгенерированные Make-An-Agent в реальных сценариях, тестируются с использованием техники walk-these-ways и обучаются на IsaacGym. Сети актеров генерируются с использованием предложенного метода на основе траекторий из симуляций IsaacGym и предварительно обученных модулей адаптации. Эти сгенерированные политики затем развертываются на реальных роботах в средах, отличных от симуляций. Каждая политика для движения в реальном мире включает 50 956 параметров, и для каждой задачи в MetaWorld и Robosuite собирается 1 500 сетей политики. Эти сети происходят из точек контроля политики во время обучения SAC и сохраняются каждые 5 000 шагов обучения после того, как коэффициент успешности теста достигает 1.

В этой статье исследователи представляют новый метод генерации политики под названием Make-An-Agent, основанный на условных моделях диффузии. Этот метод направлен на генерацию политик в пространствах с большим количеством параметров с использованием автоэнкодера для кодирования и восстановления этих параметров. Результаты, протестированные в различных областях, показывают, что их подход хорошо работает в многозадачных средах, способен обрабатывать новые задачи и устойчив к окружающей случайности. Однако из-за большого количества параметров не исследуются более разнообразные сети политик, и возможности генератора диффузии параметров ограничены автоэнкодером параметров, поэтому будущие исследования могут рассмотреть более гибкие способы генерации параметров.

Проверьте статью. Вся заслуга за это исследование принадлежит исследователям этого проекта. Также не забудьте подписаться на нас в Twitter.

Присоединяйтесь к нашему каналу Telegram и группе LinkedIn.

Если вам нравится наша работа, вам понравится наша рассылка.

Не забудьте присоединиться к нашему 46k+ ML SubReddit.

Попробуйте ИИ ассистент в продажах https://flycode.ru/aisales/. Этот ИИ ассистент в продажах помогает отвечать на вопросы клиентов, генерировать контент для отдела продаж и снижать нагрузку на первую линию.

Узнайте, как ИИ может изменить ваши процессы с решениями от Flycode.ru.

“`

Мобильная разработка на заказ и готовые решения

Мобильная разработка

Готовые и индивидуальные решения

Веб решения - разработка сайтов и сервисов

Web решения

Получите бесплатную консультацию по веб-разработке прямо сейчас

Аутсорсинг, подбор специалистов и команд разработки

Аутсорсинг

Выберите своего специалиста сегодня и начните свой проект

Новости

  • Генератор питчей для стартапов на основе AI

    Создание генератора питчей для стартапов на базе ИИ Данный гид предлагает простой подход к созданию приложения, использующего ИИ для генерации идей питчей для стартапов. Используя модель Google Gemini Pro вместе с фреймворком LiteLLM,…

  • MMSearch-R1: Новые горизонты для бизнес-ИИ

    MMSearch-R1: Улучшение возможностей ИИ в бизнесе Введение в большие мультимодальные модели (LMM) Большие мультимодальные модели (LMM) значительно продвинулись в понимании и обработке визуальных и текстовых данных. Однако они сталкиваются с проблемами при работе…

  • Масштабируемое Моделирование Наград для AI: Улучшение Общих Моделей Наград с SPCT

    Улучшение моделей вознаграждения для приложений ИИ Введение в моделирование вознаграждения Метод обучения с подкреплением (RL) стал ключевым методом для улучшения возможностей больших языковых моделей (LLMs). Мы можем применять RL, чтобы модели лучше понимали…

  • Архитектура трансфузии: Повышение креативности GPT-4o в бизнесе

    Преобразование AI с помощью архитектуры Transfusion Введение в GPT-4o и архитектуру Transfusion GPT-4o от OpenAI представляет собой значительное достижение в области мультимодального искусственного интеллекта, объединяя генерацию текста и изображений в одном выходе. Архитектура…

  • Графы атрибуции: Новый подход к интерпретируемости ИИ

    Введение Недавние разработки в области искусственного интеллекта, такие как графы атрибуции, открывают новые горизонты для понимания работы AI-моделей. Это позволяет компаниям лучше доверять и использовать ИИ в своих бизнес-процессах. Проблема интерпретируемости ИИ Одной…

  • Оценка надежности цепочечного рассуждения в ИИ: Исследования Anthropic

    Улучшение прозрачности и безопасности ИИ Введение в цепочку размышлений Цепочка размышлений (CoT) представляет собой значительное достижение в области искусственного интеллекта (ИИ). Этот подход позволяет моделям ИИ формулировать свои шаги рассуждений перед тем, как…

  • Модели Llama 4 от Meta AI: Решения для бизнеса

    Введение в модели Llama 4 Meta AI недавно представила свое новое поколение мультимодальных моделей Llama 4, включая две разновидности: Llama 4 Scout и Llama 4 Maverick. Эти модели представляют собой значительный шаг вперед…

  • Масштабируемое Обучение с Подкреплением для Сложных Задач

    Практические бизнес-решения на основе RLVR Использование обучения с подкреплением с проверяемыми наградами (RLVR) открывает новые возможности для бизнеса. Давайте рассмотрим, как это может улучшить бизнес и реальную жизнь, а также шаги для внедрения.…

  • Запуск AgentIQ от NVIDIA: Оптимизация рабочих процессов AI-агентов

    Введение С увеличением использования интеллектуальных систем, основанных на AI-агентах, компании сталкиваются с проблемами, связанными с совместимостью, мониторингом производительности и управлением рабочими процессами. Решение этих проблем может значительно повысить эффективность и масштабируемость AI-разработок. NVIDIA…

  • Генерация ИИ для Автономного Управления Задачами

    GenSpark Super Agent: Преобразование Бизнес-Операций с Помощью ИИ Введение в GenSpark GenSpark Super Agent, или просто GenSpark, — это инновационное решение на основе ИИ, предназначенное для автономного управления сложными задачами в различных областях.…

  • Создание контекстного AI-ассистента на базе LangChain и Gemini

    Создание контекстно-осведомленного AI-ассистента Этот текст описывает процесс создания контекстно-осведомленного AI-ассистента с использованием LangChain, LangGraph и языковой модели Gemini от Google. Применение принципов Протокола Контекста Модели (MCP) позволит разработать упрощенную версию AI-ассистента, который эффективно…

  • Создание AI-бота для вопросов и ответов на веб-сайтах с использованием открытых моделей

    Построение AI Q&A Бота для Вебсайтов с Использованием Открытых Моделей Обзор и Преимущества Создание AI Q&A бота может значительно повысить эффективность вашей компании, улучшая доступ к информации и сокращая время, затрачиваемое на поиск…

  • Запуск проверенного агента SWE-bench от Augment Code: Прорыв в области ИИ для программной инженерии

    Введение Запуск открытого AI-агента от Augment Code представляет собой значительный шаг в области программной инженерии. Этот инструмент может значительно улучшить процессы разработки и повысить эффективность работы команд. Практические бизнес-решения Использование AI-агента Augment Code…

  • NVIDIA HOVER: Революция в гуманоидной робототехнике с помощью единого ИИ управления

    Практические бизнес-решения с использованием HOVER NVIDIA HOVER предлагает революционное решение в области гуманоидной робототехники, которое может значительно улучшить бизнес-процессы и повседневную жизнь. Ниже представлены шаги для реализации и повышения результатов бизнеса. Шаги к…

  • Open-Qwen2VL: Эффективная интеграция мультимодальных ИИ решений

    Решение Open-Qwen2VL для эффективной интеграции многомодального ИИ Понимание проблемы многомодальных моделей Многомодальные большие языковые модели (MLLM) становятся важными для объединения визуальных и текстовых данных, улучшая такие задачи, как создание подписей к изображениям и…

  • Дельфин: Прорыв в многоязычном распознавании речи для восточных языков

    Dolphin: Прорыв в многоязычном автоматическом распознавании речи Введение в Dolphin Недавние достижения в технологии автоматического распознавания речи (ASR) выявили значительные пробелы в способности точно распознавать различные языки, особенно восточные. Модель Dolphin, разработанная Dataocean…

  • Эффективное обучение моделей R1 с помощью FASTCURL

    Введение в FASTCURL FASTCURL – это новый подход к обучению моделей, которые способны решать сложные задачи. Он помогает моделям лучше справляться с логическими и математическими задачами. Проблемы в обучении моделей R1 Обучение таких…

  • Протокол Модели Контекста для AI Ассистентов: Полное Руководство

    Практические решения для бизнеса с использованием MCP Введение в Model Context Protocol (MCP) Model Context Protocol (MCP) предоставляет стандартизированный способ подключения AI-ассистентов к внешним источникам данных и инструментам. Это позволяет улучшить взаимодействие между…