Article modifié à 14h40 pour prendre en compte la remarque en commentaire sur le fait que Microsoft avait déjà sorti les modèles Phi.

Le partenariat entre OpenAI et Microsoft se complique un peu plus avec l’annonce des premiers modèles de fondation et de synthèse vocale confectionnés par le géant du numérique qui domine l’édition logicielle. Après avoir utilisé OpenAI en compagnon et Cheval de Troie de l’IA générative, Microsoft commence à s’en libérer.

Entre les deux entreprises, la tension a commencé à monter en juin dernier alors qu’OpenAI envisageait de remettre en question certains termes de leur accord, voire d’attaquer Microsoft pour abus de position dominante.

• Dangers des grands modèles de langage : des chercheuses avaient prévenu
• Tensions entre OpenAI et Microsoft sur fond d’accusation d’abus de position dominante

Mais, en cette fin aout, l’entreprise de Redmond montre qu’elle imagine un futur dans lequel elle serait moins dépendante d’OpenAI concernant l’IA générative. En effet, elle présente, dans un billet de blog, deux modèles entièrement « faits maison » : MAI-Voice-1 AI et MAI-1-preview.

Synthèse vocale et premier modèle de fondation

Le premier (MAI-Voice-1 AI) est un modèle de synthèse vocale que l’entreprise va utiliser notamment pour deux fonctionnalités de son application Copilot, Daily (qui propose à ses utilisateurs un résumé de l’actualité) et Podcasts (qui propose des podcasts générés automatiquement, de l’écriture à la voix sur le sujet demandé par l’utilisateur).

Le deuxième (MAI-1-preview) est le premier modèle de fondation créé par l’entreprise. Microsoft explique le tester dans la LMArena, au classement de laquelle il se trouve actuellement en treizième position concernant la génération de texte. L’entreprise affirme qu’il « donne un aperçu des futures offres de Copilot », qu’elle travaille « activement à l’amélioration de [ses] modèles » et qu’elle aura « beaucoup plus à partager dans les mois à venir ».

Peu d’informations techniques

Car, en effet, si l’entreprise fait cette annonce, elle ne dit pas grand chose de ses tous premiers modèles maison. Tout juste encourage-t-elle a essayer ses démonstrations d’expression orale et de storytelling sur son site Copilot Labs.

L’entreprise n’a publié aucun document technique (encore moins d’article scientifique) qui décrirait les caractéristiques techniques de ces modèles et des machines sur lesquelles ils ont été entrainés. Il va sans dire que Microsoft n’a pas donné non plus d’information sur leur impact environnemental.

Il faut aller chez nos confrères de Semafor pour apprendre que l’entreprise affirme avoir utilisé 15 000 GPU H-100 de NVIDIA pour entrainer MAI-1-preview. Au média étasunien, le CEO de Microsoft AI, Mustafa Suleyman, affirme que son entreprise a entrainé ces deux modèles en se focalisant sur leur rentabilité financière et non en voulant faire un modèle forcément très gros. Semafor rappelle que l’entrainement de la dernière version de Grok, par exemple, a demandé l’utilisation de plus de 100 000 GPU H-100. Il semble, ici, aller dans le sens de la déconstruction du mythe du « plus c’est gros, mieux c’est ».

• IA

  IA : la déconstruction du mythe du « plus c’est gros, mieux c’est »

  IA

  Mercredi 02 octobre 2024 à 11h55 02/10/2024 11h55

  11

« C’est un modèle qui dépasse largement ses poids », explique-t-il à Semafor, de plus en plus, l’art et le savoir-faire de l’entrainement des modèles consistent à sélectionner les données parfaites et à ne pas gaspiller vos flops sur des jetons inutiles qui n’apprennent pas vraiment grand-chose à votre modèle ».

Pour autant, toujours à nos confrères de Semafor, le CEO de Microsoft AI affirme que son entreprise est déjà au travail pour développer d’autres modèles sur des datacenters équipés des puces NVIDIA GB200. « Nous avons un plan quinquennal ambitieux dans lequel nous investissons trimestre après trimestre. Je pense donc que cela va continuer », affirme-t-il.

Auprès de Semafor, Mustafa Suleyman veut minimiser l’effet de cette annonce sur la relation de son entreprise avec OpenAI : « Notre objectif est d’approfondir notre partenariat et de nous assurer que nous entretenons une excellente collaboration avec OpenAI pendant de nombreuses années encore. J’espère que cela continuera. Je suis persuadé que ce sera le cas ».

Reste que les informations distillées par l’entreprise semblent plus l’occasion de se repositionner d’un point de vue de la concurrence sur les marchés financiers que d’informer les utilisateurs sur les aspects techniques des tous premiers modèles de l’entreprise de Redmond.