TempoKGAT: Улучшение анализа временных графов с использованием весов, убывающих со временем, и выборочной агрегации соседей
Графы с вниманием (GNN) прекрасно справляются с анализом структурированных данных, но сталкиваются с проблемами при работе с динамическими временными графами. Традиционное прогнозирование, часто используемое в экономике и биологии, полагалось на статистические модели для временных рядов. Глубокое обучение, в частности GNN, сместило фокус на неевклидовы данные, такие как социальные и биологические сети. Однако применение GNN к динамическим графам, где отношения постоянно изменяются, все еще нуждается в улучшении. Хотя графовые сети внимания (GAT) частично решают эти проблемы, требуются дополнительные усовершенствования, особенно в использовании атрибутов ребер.
Исследователи из Университета Сорбонны и TotalEnergies разработали графовую сеть внимания под названием TempoKGAT, которая интегрирует веса, убывающие во времени, и механизм выборочной агрегации соседей для выявления скрытых закономерностей в пространственно-временных графовых данных. Этот подход включает выбор верхних k соседей на основе весов ребер, улучшая представление эволюционирующих графовых характеристик. TempoKGAT был протестирован на наборах данных из секторов транспорта, энергетики и здравоохранения, систематически превосходя существующие передовые методы по нескольким метрикам. Эти результаты демонстрируют способность TempoKGAT улучшать точность прогнозирования и предоставлять более глубокие инсайты в анализ временных графов.
Практические решения и ценность
TempoKGAT улучшает анализ временных графов путем уточнения характеристик узлов с помощью весов, убывающих во времени, и выборочной агрегации соседей. Начиная с характеристик узлов, применяется временное убывание для приоритизации недавних данных, обеспечивая точное представление динамических графов. Затем модель выбирает k наиболее значимых соседей на основе весов ребер, фокусируясь на наиболее релевантные взаимодействия. Механизм внимания вычисляет коэффициенты внимания, нормализует и использует для агрегации характеристик соседей, взвешенных оценками внимания и силами ребер. Этот подход динамически интегрирует временные и пространственные идеи, улучшая точность прогнозирования и захватывая эволюционирующие графовые закономерности.
TempoKGAT демонстрирует исключительную производительность на различных наборах данных путем эффективного интегрирования временных и пространственных динамик в графовые данные. Модель значительно улучшила исходный GAT, показав заметный прирост метрик, таких как MAE, MSE и RMSE, особенно на наборах данных типа PedalMe, ChickenPox и England Covid. Адаптивность TempoKGAT подчеркивается оптимальным параметром размера окрестности (k), улучшающим точность прогнозирования. Постоянный успех, особенно при k = 1, подчеркивает способность модели улавливать ключевые характеристики от ближайших соседей, делая ее надежным и универсальным инструментом для графового прогностического анализа на различных уровнях сложности сетей.
В заключение, TempoKGAT представляет собой графовую сеть внимания, разработанную для анализа временных графов, которая превосходит традиционные методы прогнозирования на наборах данных, таких как PedalMe, ChickenPox и England Covid, демонстрируя значительные улучшения в метриках RMSE, MAE и MSE. Однако вычислительная сложность возрастает с увеличением размеров окрестностей. Будущие исследования будут оптимизировать вычислительную эффективность, исследовать многоголовое внимание и масштабировать модель для более крупных графов, открывая путь для более широкого применения графового прогностического анализа.
