Graphcore annonce deux offres permettant de tester et entraîner des modèles d’IA dans « un cloud sécurisé », avec 4 ou 16 PFLOPS de puissance de calcul. Le tarif de base débute à 5 000 dollars pour une semaine, dégressif sur de plus longues durées. D’autres formules sont également en préparation.

GraphCore, qui développe des puces spécialisées pour l’intelligence artificielle, a réalisé deux levées de fonds en mois d'un an : 150 millions de dollars en février 2020 et 222 millions de dollars en janvier 2021, pour arriver à une valorisation de 2,8 milliards de dollars. 

En partenariat avec Cirrascale Cloud Services, elle propose désormais une « solution totalement nouvelle pour l’IA dans le cloud : le premier cluster scale-out Mk2 IPU-POD [IPU pour Intelligence Processing Unit, ndlr] disponible publiquement, qui permet d’ajouter facilement de la capacité de calcul à la demande, sans qu’il soit nécessaire de détenir et d’exploiter un centre de données ». Elle est baptisée Graphcloud.

4 ou 16 pétaFLOPS pour les calculs liés à l’IA

Pour le lancement de ce service, deux offres sont proposées, mais d’autres arriveront dans les mois à venir :

• IPU-POD16 : 4 pétaFLOPS de calcul pour l’IA avec 16 IPU GC200 installés dans 4 IPU-M2000
• IPU-POD64 : 16 pétaFLOPS de calcul pour l’IA avec 64 IPU GC200 installés dans 16-IPU-M2000

L’entreprise précise que le serveur à la base de son service prend la forme d’une « lame 1U pour centre de données, basée sur quatre processeurs IPU Graphcore Colossus GC200, capable de fournir une puissance de calcul d’IA d’un pétaFLOP ». L’IPU-POD16 dispose donc de 16 puces Graphcore Colossus GC200, contre 64 pour l’IPU-POD64, d’où leurs noms. Graphcore affirme qu’il est « possible de connecter jusqu'à 64 000 IPU dans des configurations IPU-POD ».

• Un serveur, une baie, une lame, un rail, 1U : c'est quoi ?

Une lame IPU-M2000

AMD EPYC aux commandes, des tarifs dégressifs

Un IPU-POD16, avec 4 lames IPU-M2000, est hébergée sur un serveur hôte Dell R6525 contenant 4 To de SSD (NVMe), deux processeurs CPU AMD « EPYC2 » (sans plus de détails) qui, selon Graphcore, sont « utilisés dans les plus puissants systèmes de centres de données d’IA sur site ».

Chaque machine dispose de « 14,4 Go de mémoire sur le processeur et de 512 Go de mémoire à diffusion en flux (8 modules DIMM de 64 Go)  ». Dans le cas d’une instance IPU-POD64, ce sont simplement quatre serveurs Dell R6525 qui sont utilisés de concert. Puisqu’il est possible de relier jusqu’à 64 000 IPU, la société dispose d’une bonne marge de manœuvre pour monter en puissance avec une limite théorique à… 16 exaFLOPS.

• Supercalculateurs : huit nouveaux sites en Europe, trois pour des « précurseurs de machines exaflopiques »

Trois formules avec des tarifs dégressifs sont disponibles : à la semaine, au mois, à l’année ou pour trois ans. Comptez 5 000 dollars par mois pour le système IPU-POD16, contre 20 000 dollars pour IPU-POD64 (soit l’équivalent de 29,76 et 119,05 dollars par heure pour un usage 24/7). Les prix grimpent jusqu’à 212 500 dollars pour trois ans avec un IPU-POD6 ou 850 000 dollars pour l’IPU-POD64 (soit l’équivalent de 8,08 et 32,34 dollars par heure).

Système préinstallé, Healx a déjà sauté le pas

La société précise que « la pile logicielle Poplar et les logiciels système sont pré-installés sur les instances ». De plus, des échantillons de code et des exemples d’applications sont disponibles localement, avec évidemment de la documentation pour « se familiariser rapidement avec différentes structures, dont PyTorch et TensorFlow ».

GraphCore a déjà des clients, notamment Healx, « dont la plateforme d’intelligence artificielle dédiée à la recherche sur les médicaments permet d’identifier de nouvelles thérapies pour les maladies rares ».