Lorsque le SuperCluster de recherche sur l’IA sera entièrement construit, il sera le supercalculateur d’IA le plus rapide au monde, selon le parent de Facebook
Meta Platforms Inc . a déclaré lundi que son équipe de recherche a construit un nouveau supercalculateur d’intelligence artificielle qui, selon la société, sera bientôt le plus rapide au monde.Le nouveau supercalculateur d’IA de Meta, l’AI Research SuperCluster, est le résultat de près de deux ans de travail impliquant plusieurs centaines de personnes.
Le supercalculateur, le AI Research SuperCluster, est le résultat de près de deux ans de travail, souvent mené à distance au plus fort de la pandémie, et dirigé par les équipes d’IA et d’infrastructure de la société mère de Facebook. Plusieurs centaines de personnes, dont des chercheurs des partenaires Nvidia Inc., Penguin Computing Inc. et Pure Storage Inc., ont été impliquées dans le projet, a indiqué la société.
Meta, qui a annoncé la nouvelle dans un article de blog lundi, a déclaré que son équipe de recherche utilise actuellement le supercalculateur pour former des modèles d’IA au traitement du langage naturel et à la vision par ordinateur pour la recherche. L’objectif est d’augmenter les capacités des modèles de train d’un jour avec plus d’un billion de paramètres sur des ensembles de données aussi grands qu’un exaoctet, ce qui équivaut à peu près à 36 000 ans de vidéo de haute qualité.
« Les expériences que nous construisons pour le métaverse nécessitent une énorme puissance de calcul… et RSC permettra de nouveaux modèles d’IA capables d’apprendre à partir de milliards d’exemples, de comprendre des centaines de langues, et plus encore », a déclaré le PDG de Meta, Mark Zuckerberg.
Le supercalculateur AI de Meta abrite 6 080 unités de traitement graphique Nvidia, ce qui le place au cinquième rang des supercalculateurs les plus rapides au monde, selon Meta.
D’ici le milieu de l’été, lorsque le SuperCluster de recherche sur l’IA sera entièrement construit, il abritera quelque 16 000 GPU, devenant ainsi le supercalculateur d’IA le plus rapide au monde, a déclaré Meta. La société a refusé de commenter l’emplacement de l’installation ou le coût.
L’intelligence artificielle nécessite généralement que les ordinateurs effectuent un grand nombre de calculs de faible précision en même temps. Les GPU sont bien adaptés à la tâche car ils ont des milliers de cœurs de traitement qui peuvent fonctionner simultanément.
« Pour nous, c’est un calcul d’un ordre de grandeur plus grand qui est disponible pour nos chercheurs pour former un modèle unique avec beaucoup plus de calcul que n’importe qui d’autre dans le monde a accès », a déclaré Jerome Pesenti, vice-président de l’IA chez Meta, dans un entrevue. « Nous pensons que cela débloquera vraiment une IA qui comprendra beaucoup mieux le monde qui vous entoure. »
Les supercalculateurs ordinaires sont optimisés pour une activité de haute précision, tandis que les supercalculateurs IA fonctionnent à des niveaux de précision beaucoup plus bas, gagnant en vitesse sans affecter les résultats finaux, a déclaré Shubho Sengupta, ingénieur logiciel chez Meta qui était l’un des chefs de file de l’initiative supercalculateur.
Une infrastructure informatique haute performance, telle qu’un supercalculateur, est nécessaire pour donner un sens aux volumes de données dont Facebook a besoin, a déclaré Bill Gropp, directeur du National Center for Supercomputing Applications à l’Université de l’Illinois à Urbana-Champaign.
« Dans le cas de Facebook, je soupçonne que ce qu’ils regardent, c’est le trésor qu’ils ont des données qu’ils obtiennent de leurs utilisateurs, et c’est un énorme ensemble de données, trop grand pour la plupart des systèmes d’intelligence artificielle que les chercheurs utilisent généralement. », a déclaré le Dr Gropp.
Le supercalculateur de Meta est utilisé à des fins de recherche, a déclaré M. Pesenti, avec des produits qui n’en découleront probablement pas avant des années. L’objectif est d’ingérer des trésors de données pour créer des modèles d’IA qui peuvent penser comme un cerveau humain, avec de multiples entrées, telles que la reconnaissance vocale et visuelle, et peuvent fournir une compréhension contextuelle des situations.
« Vous voulez avoir une intelligence artificielle beaucoup plus sensible au contexte, qui comprend toutes les subtilités et un niveau de granularité que nous ne pouvons pas égaler aujourd’hui », a déclaré M. Pesenti.
À terme, le supercalculateur aidera les chercheurs de Meta à créer des modèles d’IA capables de fonctionner dans des centaines de langues, d’analyser ensemble du texte, des images et des vidéos et de développer des outils de réalité augmentée, a déclaré la société. La technologie aidera également Meta à identifier plus facilement les contenus préjudiciables et visera à aider les chercheurs de Meta à développer des modèles d’intelligence artificielle qui pensent comme le cerveau humain et prennent en charge des expériences riches et multidimensionnelles dans le métaverse.
« Dans le métaverse, c’est à cent pour cent du temps, une expérience multi-sensorielle 3D, et vous devez créer des agents d’intelligence artificielle dans cet environnement qui vous concernent », a déclaré M. Pesenti.
https://www.wsj.com/articles/meta-unveils-new-ai-supercomputer-11643043601?mod=rss_Technology
