Microsoft a dévoilé un tout nouveau supercalculateur spécialement conçu pour former de gigantesques modèles d'intelligence artificielle (IA), a annoncé la firme lors de sa conférence annuelle Build.
Hébergé dans Microsoft Azure, le système possède plus de 285 000 cœurs de processeur, 10 000 GPU et 400 Go de connectivité par seconde pour chaque serveur GPU, ce qui le place parmi les cinq supercalculateurs les plus puissants au monde.
Le supercalculateur a été construit en partenariat avec et sera exclusivement utilisé par OpenAI, une société basée à San Francisco dédiée à la mise en œuvre éthique de l'IA.
Sommaire
Supercalculateur Microsoft
Les développeurs ont traditionnellement conçu des modèles d'IA spécifiques à petite échelle pour chaque tâche individuelle, tels que l'identification d'objets ou le langage d'analyse. Cependant, le nouveau consensus parmi les chercheurs est que ces objectifs peuvent être mieux atteints via un modèle colossal unique, qui digère des volumes extraordinaires d'informations.
«Ce type de modèle peut absorber si profondément les nuances de langue, de grammaire, de connaissances, de concepts et de contexte qu'il peut exceller dans de multiples tâches: résumer un long discours, modérer du contenu dans des chats de jeu en direct … ou même générer du code à partir de GitHub à récurer », Lit le message.
Le nouveau supercalculateur, selon Microsoft, marque une étape importante sur la voie de la formation de ces modèles ultra-grands et de leur mise à disposition en tant que plate-forme sur laquelle les développeurs peuvent s'appuyer.
«Ce qui est passionnant avec ces modèles, c'est l'ampleur des choses qu'ils vont permettre», a déclaré Kevin Scott, directeur technique de Microsoft.
«Il s'agit de pouvoir faire une centaine de choses passionnantes en traitement du langage naturel à la fois et une centaine de choses passionnantes en vision par ordinateur, et quand vous commencerez à voir des combinaisons de ces domaines perceptifs, vous aurez de nouvelles applications qui sont difficiles d'imaginer même maintenant. "
Au-delà de son partenariat avec OpenAI, Microsoft a également développé ses propres modèles d'IA à grande échelle (appelés modèles Microsoft Turing) dans le cadre de son initiative AI at Scale, conçue pour améliorer la compréhension du langage dans sa suite de produits.
L'objectif final, selon le géant de Redmond, est de mettre ces modèles et ses ressources de superordinateurs à la disposition des entreprises et des scientifiques des données via les services Azure AI et Github.
