Исследователи MIT разработали гибридные предобученные трансформеры для обучения роботов на разнородных данных.

Преобразование обучения роботов с помощью ИИ

В современном мире создание роботизированных решений становится сложной задачей. Необходимо собирать специфические данные для каждого робота, задачи и окружения. Однако, недавние достижения в области сбора данных открывают новые возможности для предобучения на больших и разнообразных наборах данных.

Проблемы в обучении роботов

Роботы отличаются по физической форме, сенсорам и условиям работы, что создает сложности в обучении. Плохое обучение может привести к повторению действий для конкретных задач или сцен.

Текущие методы обучения

Современные методы обучения роботов основаны на сборе данных с одного робота для конкретной задачи. Это ограничивает возможность обобщения модели для различных задач и роботов. Методы предобучения и переноса обучения используют данные из других областей, чтобы помочь моделям адаптироваться к новым задачам.

Решение от MIT и Meta

Группа исследователей из MIT CSAIL и Meta разработала архитектуру под названием Гетерогенные Предобученные Трансформеры (HPT). Эта архитектура позволяет роботам использовать заранее изученные знания, что ускоряет и упрощает процесс обучения.

Как работает HPT

Архитектура HPT включает в себя:

Специфическая основа: Обрабатывает данные от различных сенсоров.
Общий ствол: Модель, предобученная на разных наборах данных.
Специфические головы: Генерируют выходные действия для различных задач.

Результаты и преимущества

Используя более 50 источников данных и модель с более чем 1 миллиардом параметров, HPT показала отличные результаты как в реальных условиях, так и в симуляторах. Она улучшила производительность на более чем 20% для новых задач.

Заключение

Предложенная архитектура HPT решает проблемы гетерогенности и улучшает обучение роботов, используя предобученные модели. Это открывает новые горизонты для будущих исследований в области робототехники.