CLDG: Простой фреймворк машинного обучения для новых стандартов в неконтролируемом обучении на динамических графах

Графовые нейронные сети и их применение

Графовые нейронные сети (ГНС) становятся важным инструментом в различных областях, от управления финансовыми рисками до прогнозирования трафика. Однако основная проблема заключается в зависимости от данных, так как для их обучения часто нужны метки, которые не всегда доступны.

Проблемы существующих методов

Существующие методы обучения ГНС требуют наличия меток, что затрудняет их применение. Кроме того, изменение графа может привести к потере информации или добавлению шума, что негативно сказывается на производительности.

Новые подходы к обучению

Исследователи начали использовать несупервизированное контрастное обучение, которое не требует меток. Однако необходимо учитывать, что изменения в графе могут повлиять на его характеристики.

CLDG: Эффективное решение для динамических графов

Команда из Университета Сиань Цзяотун разработала CLDG — эффективную несупервизированную рамку контрастного обучения для динамических графов. Этот метод позволяет выполнять обучение представлений на динамических графах с различными временными интервалами.

Преимущества CLDG

Низкая временная и пространственная сложность.
Гибкость выбора кодеров.
Снижение количества параметров модели в среднем в 2000 раз.
Сокращение времени обучения на 130 раз.

Ключевые компоненты CLDG

Рамка CLDG состоит из пяти основных компонентов:

Слой выборки временных интервалов.
Базовый кодер.
Функция считывания.
Проекционная голова.
Функция потерь для контрастного обучения.

Заключение

CLDG — это практичное и легковесное решение, которое обобщает контрастное обучение для динамических графов. Оно использует дополнительную временную информацию и демонстрирует передовые результаты в области несупервизированного обучения.