Création de l'Alliance TPC : cibler les modèles d'IA avec plus de mille milliards de paramètres pour promouvoir la découverte scientifique

Selon les informations du 16 novembre, les principales institutions de recherche scientifique du secteur, le National Supercomputing Center des États-Unis et de nombreuses entreprises leaders dans le domaine de l'IA ont récemment formé conjointement le Trillion Parameter Consortium (TPC).

Généré par DALL-E 3

Selon certaines informations, ce site a appris que l'Alliance TPC est composée de scientifiques de laboratoires, d'institutions de recherche scientifique, d'universités et d'industries du monde entier, dans le but de promouvoir conjointement des solutions pour la recherche scientifique. découverte de modèles d'intelligence artificielle, avec un accent particulier sur les modèles géants avec un billion de paramètres ou plus

L'Alliance TPC travaille actuellement au développement d'architectures de modèles et de stratégies de formation évolutives, tout en organisant et en rassemblant des données scientifiques pour la formation de modèles afin d'optimiser l'application des bibliothèques d'IA sur les plateformes informatiques exascale actuelles et futures

TPC vise à créer une communauté ouverte de chercheurs pour développer des modèles d'IA génératifs à grande échelle pour des problèmes scientifiques et d'ingénierie, en particulier, des projets communs seront lancés pour éviter la duplication des travaux et partager des méthodes, des approches , outils, connaissances et flux de travail. De cette manière, le consortium espère maximiser l’impact de ces projets sur les communautés scientifiques et de l’intelligence artificielle au sens large.

L’objectif de TPC est de construire un réseau mondial de ressources, de données et d’expertise. Depuis sa création, le consortium a créé plusieurs groupes de travail visant à résoudre les complexités de la construction de modèles d'IA à grande échelle.

Les ressources informatiques exascale nécessaires à la formation seront également fournies par le Département américain de l'énergie (DOE) dans les laboratoires de plusieurs pays. en tant que plusieurs partenaires fondateurs de TPC au Japon, en Europe et dans d'autres pays. Même avec ces ressources, la formation peut prendre plusieurs mois.

Rick Stevens, directeur associé pour l'informatique, les sciences de l'environnement et de la vie au Laboratoire national d'Argonne du Département américain de l'énergie et professeur d'informatique à l'Université de Chicago, a déclaré : « Dans notre laboratoire et avec des institutions partenaires du monde entier, notre L’équipe commence à développer une série de modèles d’intelligence artificielle de pointe pour la recherche scientifique et se prépare à utiliser de grandes quantités de données scientifiques jusqu’alors inexploitées pour la formation. »

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!