L'apprentissage contrastif basé sur les graphiques améliore les effets de classification des séries chronologiques multivariées

Cet article dans AAAI 2024 a été publié conjointement par l'Agence de Singapour pour la science, la technologie et la recherche (A*STAR) et l'Université technologique de Nanyang, Singapour. Il propose une méthode pour utiliser l'apprentissage contrastif sensible aux graphes pour améliorer la classification des séries chronologiques multivariées. Les résultats expérimentaux montrent que cette méthode a obtenu des résultats remarquables dans l'amélioration des performances de classification des séries chronologiques.

Pictures

Titre de l'article : Graph-Aware Contrasting for Multivariate Time-Series Classification

Adresse de téléchargement : https://arxiv.org/pdf/2309.05202.pdf

Code source ouvert : https://github .com/Frank-Wang-oss/TS-GAC

1 Introduction générale

Sur la base des méthodes d'apprentissage contrastives existantes, l'auteur a proposé une méthode appelée contraste sensible aux graphes (TS-GAC). résoudre le problème de cohérence spatiale des multi-capteurs dans les données MTS. TS-GAC se compose de deux composants principaux : l'amélioration des graphiques et la comparaison des graphiques. L'amélioration du graphique améliore la cohérence spatiale grâce à l'amélioration des nœuds et des bords afin de maintenir la stabilité et la pertinence du capteur. La comparaison graphique introduit une comparaison temporelle multi-fenêtres pour maintenir la cohérence temporelle. Grâce à une vérification expérimentale approfondie, cette méthode permet d'obtenir des performances optimales sur diverses tâches de classification MTS. Les résultats soulignent l’importance de prendre en compte la cohérence spatiale dans l’apprentissage contrastif des données MTS et fournissent une solution complète qui améliore considérablement les performances de classification. Cette recherche revêt une grande importance pour améliorer encore l’effet de l’apprentissage contrastif et fournit un outil puissant pour le traitement des données MTS.

Images

2. Structure du modèle

La méthode proposée dans cet article comprend principalement deux parties : l'amélioration de l'image et la comparaison des images.

Afin d'améliorer efficacement les données MTS, nous introduisons l'amélioration des nœuds et des bords pour générer des vues faibles et des vues fortes. L'amélioration des nœuds inclut l'amélioration du domaine fréquentiel et du domaine temporel pour améliorer pleinement les nœuds graphiques. Tout d’abord, nous appliquons l’amélioration du domaine fréquentiel pour améliorer les nœuds, puis segmentons les échantillons améliorés en plusieurs fenêtres en fonction des modèles locaux dynamiques dans les données MTS (comme le montre la figure 2). Dans chaque fenêtre, nous utilisons l'augmentation temporelle des nœuds et effectuons une extraction de caractéristiques sur la fenêtre via un réseau neuronal convolutif unidimensionnel. Par la suite, nous construisons un graphique pour chaque fenêtre et améliorons encore le graphique grâce à l'amélioration des bords. Enfin, nous utilisons un encodeur basé sur un réseau neuronal graphique pour le traitement des graphiques et l'apprentissage des fonctionnalités.

Images

Comparaison de graphiques : y compris une comparaison au niveau des nœuds et une comparaison au niveau du graphique pour obtenir une cohérence spatiale. La comparaison au niveau du nœud garantit la robustesse des fonctionnalités des nœuds en rapprochant les capteurs correspondants dans différentes vues et en éloignant les différents capteurs dans différentes vues. La comparaison au niveau du graphique garantit en outre la robustesse des fonctionnalités globales en comparant des échantillons dans différentes vues.

L'architecture vise à atteindre une cohérence spatiale dans l'apprentissage contrastif, en fournissant des techniques spécifiques d'amélioration et de contraste pour la classification MTS. En appliquant d'abord l'amélioration des nœuds, puis en utilisant l'amélioration temporelle au sein des nœuds, et enfin l'amélioration des bords traitée par GNN, cette méthode est capable de générer des vues faibles et fortes avec des propriétés spatiales et temporelles différentes pour chaque échantillon. L'innovation de cette méthode réside dans le fait qu'elle prend non seulement en compte la cohérence temporelle, mais améliore également la cohérence spatiale grâce à la structure graphique, offrant ainsi une nouvelle perspective pour l'analyse et le traitement approfondis des données MTS.

3. Module d'amélioration du graphique

Compte tenu des caractéristiques des données MTS, c'est-à-dire en tant que données collectées par plusieurs capteurs, l'auteur a proposé deux méthodes principales d'amélioration des nœuds et des bords :

Amélioration des nœuds : divisée en amélioration du domaine fréquentiel et amélioration du domaine temporel. L'amélioration du domaine fréquentiel convertit le signal de chaque capteur dans le domaine fréquentiel, améliore les caractéristiques fréquentielles extraites, puis reconvertit les caractéristiques fréquentielles améliorées dans le domaine temporel pour obtenir un signal amélioré. Plus précisément, la transformée en ondelettes discrète est utilisée pour décomposer le signal à travers des filtres passe-haut et passe-bas afin de représenter les macro-tendances et les micro-tendances au sein du signal. L'amélioration du domaine temporel prend en compte les caractéristiques dynamiques des données MTS en divisant chaque échantillon MTS en plusieurs fenêtres et en effectuant une amélioration du domaine temporel dans chaque fenêtre.

Amélioration des bords : vise à améliorer la corrélation entre les capteurs, c'est-à-dire les bords du graphe construit. Les nœuds (capteurs) et les bords (corrélations entre capteurs) sont d'abord définis via un processus de construction de graphiques. Ensuite, la corrélation entre les capteurs est efficacement améliorée grâce à la méthode d’amélioration des bords. Dans cette étape, étant donné qu'une forte corrélation est plus importante qu'une faible corrélation dans la propagation des caractéristiques de GNN, lors de l'amélioration des bords, les corrélations les plus fortes sont conservées pour garantir la stabilité des informations topologiques, et les corrélations restantes sont remplacées par des valeurs aléatoires. ​pour améliorer les connexions de bord.

Grâce à ces stratégies d'amélioration, l'auteur vise à générer des vues faibles et des vues fortes afin que le processus d'apprentissage contrastif ultérieur puisse apprendre des caractéristiques de capteur robustes et des relations inter-capteurs. La conception de ces stratégies d'amélioration prend en compte la nature multi-source et dynamique des données MTS et améliore les capacités de CL en fournissant des vues de données sous différents angles, afin que des représentations plus robustes et généralisées puissent être apprises.

4. Module de comparaison de graphiques

L'article propose une méthode de comparaison prenant en compte les graphiques, qui conçoit spécialement des stratégies d'amélioration des nœuds et des bords et de comparaison de graphiques pour améliorer la cohérence spatiale des données MTS. Il comprend principalement trois niveaux de comparaison : comparaison temporelle multi-fenêtres, comparaison au niveau des nœuds et comparaison au niveau du graphique.

Contraste temporel multi-fenêtres (MWTC) : cette méthode garantit la cohérence temporelle de chaque capteur au niveau du capteur et maintient la robustesse de la dépendance temporelle au sein des données MTS grâce à un codage prédictif. MWTC maintient la robustesse des modèles temporels en résumant les informations des fenêtres passées dans une vue et en les comparant aux fenêtres futures dans une autre vue.

Contraste au niveau du nœud (NC) : NC apprend des fonctionnalités robustes au niveau du capteur en comparant les capteurs dans différentes vues au sein de chaque échantillon MTS. Cela implique de maximiser la similarité entre les capteurs correspondants dans deux vues tout en minimisant la similarité entre les différents capteurs dans ces vues.

Contraste au niveau graphique (GC) : GC favorise un apprentissage robuste des fonctionnalités au niveau mondial en comparant des échantillons au sein de chaque lot d'entraînement. Cette stratégie fonctionne en maximisant la similarité entre les échantillons correspondants dans deux vues tout en minimisant la similarité entre les différents échantillons dans ces vues.

Ces stratégies d'apprentissage contrastées fonctionnent ensemble pour améliorer l'apprentissage de la représentation des données MTS via des structures graphiques, améliorant ainsi la précision de la classification. L'article souligne également l'importance de la comparaison temporelle pour maintenir la cohérence temporelle pour chaque capteur, ainsi que le rôle de la comparaison graphique dans l'apprentissage de fonctionnalités robustes au niveau du capteur et au niveau global. En combinant des comparaisons au niveau des nœuds et au niveau des graphiques, cette méthode peut apprendre efficacement des modèles spatiaux et temporels complexes dans les données MTS et obtenir une amélioration significative des performances de classification MTS.

5. Résultats expérimentaux

Dans la partie expérimentale, l'article compare les performances de dix ensembles de données de séries chronologiques multivariées publiques et les compare aux méthodes de pointe existantes. Ces ensembles de données incluent la reconnaissance de l'activité humaine (HAR), la classification des stades de sommeil ISRUC et des sous-ensembles de données de l'ensemble de données UEA tels que les mouvements des doigts, les chiffres arabes parlés, etc. Pour une comparaison équitable, toutes les méthodes utilisent le même encodeur. Les résultats expérimentaux montrent que TS-GAC a obtenu les meilleures performances sur huit des ensembles de données, en particulier sur les ensembles de données HAR et ISRUC. Par rapport à d'autres méthodes, la précision a augmenté respectivement de 1,44 % et 3,13 %.

Photos

Dans le même temps, l'auteur a également visualisé les caractéristiques du modèle. Les résultats de la visualisation ont montré que le TS-GAC peut extraire des caractéristiques plus perceptibles au niveau du capteur. Dans le même temps, par rapport à d’autres méthodes, le TS-GAC peut obtenir des fonctionnalités plus cohérentes au niveau du capteur pour les données sous différents angles de vision.

Photos

Les auteurs ont également mené des études d'ablation pour évaluer l'impact des techniques d'amélioration et de contraste conçues sur les performances du modèle. L’étude d’ablation a testé différentes variantes, y compris celles qui supprimaient l’amélioration des nœuds, supprimaient l’amélioration des bords, supprimaient le contraste au niveau du graphique, supprimaient le contraste au niveau des nœuds et supprimaient le contraste temporel multi-fenêtres. Les résultats montrent que les techniques d'amélioration et de contraste des graphiques sont extrêmement efficaces pour améliorer la cohérence spatiale des données MTS, et que le TS-GAC complet présente de meilleures performances que toute variante réduisant la perte de contraste.

Picture

De plus, l'auteur a également analysé la sensibilité du modèle, y compris l'impact des hyperparamètres (tels que λMWTC, λGC, λNC) et l'impact du nombre d'arêtes retenues. Ces analyses confirment en outre l'efficacité et la robustesse de la méthode proposée.

Dans l'ensemble, les résultats expérimentaux mettent en évidence la capacité du TS-GAC à obtenir des performances optimales sur plusieurs tâches de classification MTS, démontrant l'importance des techniques proposées d'amélioration des graphiques et de comparaison des graphiques pour améliorer la cohérence spatiale du modèle sur le sexe et les données MTS. efficacité.