«`html
AnyGraph: эффективная и эффективная модель основы графа, разработанная для решения многофасетных проблем гетерогенности структуры и признаков в разнообразных графовых наборах данных
Графовое обучение сосредотачивается на разработке передовых моделей, способных анализировать и обрабатывать относительные данные, структурированные в виде графов. Это поле является важным в различных областях, включая социальные сети, академические сотрудничества, транспортные системы и биологические сети. По мере расширения реальных приложений графовых данных возрастает спрос на модели, способные эффективно обобщать различные графовые домены и обрабатывать врожденное разнообразие и сложность структур и признаков графов. Решение этих проблем критически важно для раскрытия полного потенциала графовых исследований.
Проблемы графового обучения
Существенной проблемой в графовом обучении является разработка моделей, способных эффективно обобщать разнообразные домены. Традиционные подходы часто нуждаются в помощи при гетерогенности графовых данных, которая включает вариации структурных свойств, представлений признаков и сдвигов распределения в различных наборах данных. Эти проблемы ограничивают способность моделей быстро адаптироваться к новым, невидимым графам, снижая их применимость в реальных сценариях. Решение этих проблем критически важно для развития области и обеспечения широкого применения моделей графового обучения в различных областях.
Модель AnyGraph
Исследователи из Университета Гонконга представили AnyGraph, новую модель основы графа, разработанную для преодоления проблем гетерогенности графовых данных. AnyGraph построен на архитектуре Graph Mixture-of-Experts (MoE), позволяющей ему управлять сдвигами распределения внутри домена и между доменами в гетерогенности структуры и признаков. Эта модель облегчает быструю адаптацию к новым графовым доменам, делая ее высокоуниверсальной и эффективной в обработке разнообразных графовых наборов данных. Используя архитектуру MoE, AnyGraph может динамически маршрутизировать входные графы к наиболее подходящей сети экспертов, оптимизируя свою производительность в различных типах графов.
Основная методология AnyGraph заключается в инновационном использовании архитектуры Graph Mixture-of-Experts (MoE). Эта архитектура включает несколько специализированных сетей экспертов, каждая из которых нацелена на захват конкретных структурных и признаковых характеристик графовых данных. Легкий механизм маршрутизации экспертов в AnyGraph позволяет модели быстро идентифицировать и активировать наиболее релевантных экспертов для заданного входного графа, обеспечивая эффективную и точную обработку. В отличие от традиционных моделей, полагающихся на одну фиксированную сеть, архитектура MoE AnyGraph позволяет ей динамически адаптироваться к тонкостям разнообразных графовых наборов данных. Кроме того, модель включает процесс унификации структуры и признаков, где матрицы смежности и признаки узлов различных размеров отображаются в фиксированные векторные представления. Этот процесс улучшается с использованием сингулярного разложения (SVD) для извлечения признаков, дополнительно улучшая способность модели обобщаться по различным графовым доменам.
Производительность AnyGraph была тщательно оценена через обширные эксперименты на 38 разнообразных графовых наборах данных, охватывающих области, такие как электронная коммерция, академические сети, биологическая информация и другие. Результаты этих экспериментов подчеркивают превосходные возможности нулевого обучения AnyGraph, демонстрируя его способность эффективно обобщаться по различным графовым доменам с существенными сдвигами распределения. Например, в наборах данных Link1 и Link2 AnyGraph достигал показателей recall@20 в 23,94 и 46,42 соответственно, значительно превосходя существующие модели. Кроме того, производительность AnyGraph следовала закону масштабирования, где точность модели улучшалась с увеличением размера модели и обучающих данных. Эта масштабируемость подчеркивает устойчивость и адаптивность модели, делая ее мощным инструментом для различных задач, связанных с графами. Кроме того, легкая природа механизма маршрутизации экспертов обеспечивает возможность AnyGraph быстро адаптироваться к новым наборам данных без необходимости обширной повторной тренировки, делая его практичным и эффективным решением для реальных приложений.
В заключение, проведенные исследования Университета Гонконга эффективно решают критические проблемы, связанные с гетерогенностью графовых данных. Представление модели AnyGraph представляет собой значительное развитие в графовом обучении, предлагая универсальное и надежное решение для обработки разнообразных графовых наборов данных. Инновационная архитектура MoE и динамический механизм маршрутизации экспертов позволяют модели эффективно обобщаться по различным доменам, демонстрируя высокую производительность в задачах нулевого обучения. Масштабируемость и адаптивность AnyGraph дополнительно улучшают ее полезность, позиционируя ее как передовую модель в графовом обучении.
«`
