Смешанные эксперты по денойзингу (MoDE): Новая общая политика диффузии на основе MoE

Политики диффузии в обучении с подражанием

Политики диффузии в обучении с подражанием (IL) могут генерировать разнообразные поведения агентов. Однако с увеличением размеров моделей и их возможностей возрастает и их вычислительная нагрузка, что замедляет обучение и вывод. Это создает проблемы для приложений в реальном времени, особенно в условиях ограниченной вычислительной мощности, таких как мобильные роботы.

Проблемы современных методов

Современные методы в робототехнике, такие как модели диффузии на основе трансформеров, используются для задач, таких как обучение с подражанием и проектирование роботов. Эти модели требуют много параметров и шагов денойзинга, что делает их непрактичными для приложений в реальном времени.

Решение: MoDE

Чтобы преодолеть ограничения текущих методов, исследователи из Института технологий Карлсруэ и MIT представили MoDE — политику диффузии на основе смеси экспертов (MoE), предназначенную для задач, таких как обучение с подражанием и проектирование роботов. MoDE повышает эффективность, используя маршрутизацию, основанную на шуме, и механизм самовнимания для более эффективного денойзинга.

Преимущества MoDE

MoDE вычисляет и интегрирует только необходимые эксперты на каждом уровне шума, что снижает задержки и вычислительные затраты. Эта архитектура обеспечивает более быстрый и эффективный вывод, достигая значительной экономии вычислительных ресурсов.

Эксперименты и результаты

Исследователи провели эксперименты для оценки MoDE по нескольким ключевым вопросам, включая его производительность по сравнению с другими политиками. MoDE показал наилучшие результаты в бенчмарках, таких как LIBERO–90, и продемонстрировал превосходство в задачах с долгосрочной перспективой.

Заключение

Предложенная структура улучшает производительность и эффективность, используя комбинацию экспертов и стратегию маршрутизации, основанную на шуме. MoDE требует меньше параметров и снижает вычислительные затраты, что делает его подходящим для масштабирования в будущих исследованиях.

Как использовать ИИ для развития бизнеса

Если вы хотите, чтобы ваша компания развивалась с помощью искусственного интеллекта (ИИ), следуйте этим шагам:

Анализируйте, как ИИ может изменить вашу работу. Определите, где возможно применение автоматизации.
Определите ключевые показатели эффективности (KPI). Выберите, что хотите улучшить с помощью ИИ.
Подберите подходящее решение. Внедряйте ИИ постепенно, начиная с малого проекта.
Расширяйте автоматизацию. На основе полученных данных и опыта.