Google lance l'ensemble de données de formation TpuGraphs pour améliorer les capacités d'apprentissage en profondeur des modèles d'IA

Google a récemment lancé un ensemble de données de formation de modèles appelé TpuGraphs, qui est principalement utilisé pour optimiser les compilateurs et améliorer les capacités d'apprentissage en profondeur de l'intelligence artificielle

▲ Source de l'image Google Blog (la même ci-dessous)

Google a souligné que les systèmes actuels d'apprentissage en profondeur de l'IA utilisent généralement TensorFlow, JAX, PyTorch et d'autres frameworks pour la formation. Ces frameworks optimisent principalement les modèles grâce à l'heuristique du compilateur sous-jacent. L'application du « modèle de coût d'apprentissage » dans le compilateur concerné peut améliorer les performances du compilateur et renforcer les capacités d'apprentissage en profondeur du modèle de sortie final

L'ensemble de données TpuGraphs lancé par Google a été appris par IT House qu'il s'agit d'un « modèle de coût d'apprentissage ». Cet ensemble de données contient principalement divers programmes d'apprentissage profond open source, couvrant une variété d'architectures de modèles populaires, telles que ResNet, EfficientNet, Mask R-CNN et Transformer, etc.

Google affirme que par rapport à ses concurrents du secteur, l'ensemble de données TpuGraphs de Google est 770 fois plus grand en termes de « taille moyenne des graphiques » et 25 fois plus grand en termes de « nombre de graphiques ». Google affirme que l'application de l'ensemble de données TpuGraphs peut résoudre efficacement les problèmes d'« évolutivité », « d'efficacité » et de « qualité » du modèle de sortie final

De plus, Google a également lancé une méthode de formation de modèles appelée GST (Graph Segment Training), qui permet la formation de grands réseaux de neurones graphiques sur des appareils à mémoire limitée. On dit que cette méthode peut raccourcir de trois fois le « temps de formation de bout en bout » du modèle et améliorer efficacement l'efficacité de la formation du modèle

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!