Microsoft publie son kit dédié aux réseaux de neurones en open source

Vous avez bien quelques dizaines de GPU sous la main

Le 27 janvier 2016 à 09h50

3 min

Logiciel

Microsoft vient de publier son kit de développement CNTK (Computational Network Toolkit) en open source sur son dépôt GitHub. Dédié à l’apprentissage automatique et autres réseaux de neurones, il entre en concurrence directe avec le propre kit de Google, lui aussi en open source et lancé en novembre dernier.

Il s’agira finalement d’un domaine de plus dans lequel Microsoft et Google livreront bataille. Plus question cette fois de système d’exploitation, de suites bureautiques ou de services en ligne, mais de séduction des développeurs autour de l’intelligence artificielle. Les deux entreprises investissent lourdement dans ce domaine, et particulièrement dans des techniques comme l’apprentissage automatique et les réseaux de neurones, qui permettent notamment le tri d’une vaste quantité d’informations, et donc une recherche efficace.

CNTK, un kit dédié à l'apprentissage automatique et aux réseaux de neurones

Après Google et son TensorFlow en novembre dernier, Microsoft a répliqué lundi avec son CNTK, pour Computational Network Toolkit. Fraichement débarqué sur le dépôt GitHub de l’entreprise avec une licence MIT (la même que pour les autres produits en sources libres de Microsoft), il permet aux développeurs de créer des projets centrés sur l’intelligence artificielle, mais avec un critère particulier martelé par l’éditeur : les performances.

Initialement, Microsoft se servait d’autres kits. Lorsque la firme a débuté son travail sur la reconnaissance vocale, les chercheurs se sont retrouvés « frustrés » par le manque de performances et la manière dont les kits ne s’appuyaient pas assez sur la puissance disponible dans les GPU. Ils ont donc créé leur propre kit de développement, en partant sur l’idée d’exploiter autant de GPU que possible.

La société n’est pas peu fière d’annoncer que son CNTK surpasse de loin en performances les résultats obtenus avec quatre solutions concurrentes, Theano, Torch7, Caffe et bien entendu TensorFlow de Google (tests en date du 3 décembre). Selon Microsoft, le vrai avantage de son kit est qu’il sait exploiter le nombre croissant des GPU dans une infrastructure et accélérer d’autant les calculs. Dans ses propres projets, l’éditeur indique que le CNTK, couplé à Azure GPU Lab (mise en réseau de nombreux GPU), a permis de multiplier par dix la vitesse de traitement de la reconnaissance vocale pour l’assistant Cortana.

cntk

L'open source pour les développeurs, une nouvelle règle ?

On notera que le CNTK n’est en lui-même pas nouveau. Il avait été proposé pour la première fois en avril 2015, dans une optique de recherches académiques. Il était alors disponible sur Codeplex, mais sous licence open source nettement plus restrictive. Actuellement, la firme espère bien sûr que les développeurs manipuleront le kit comme bon leur semblera, mais surtout qu’ils participeront à l’enrichissement du projet, d’ailleurs très actif (3 429 commits à ce jour).

Les personnes intéressées pourront consulter le descriptif qui avait été donné au projet en décembre par Microsoft, ainsi que le dépôt GitHub pour récupérer le kit lui-même. On remarquera en tout cas qu'un nombre croissant de technologies dédiées aux développeurs passe en open source chez Microsoft actuellement. Il est probable que la firme souhaite à terme passer une majorité de ses outils sur ce modèle, avec pourquoi pas Visual Studio lui-même.

Commentaires (31)

Patch Abonné

Le 27/01/2016 à 12h26

K2Death a écrit :

Pourtant, il ne s’agit pas d’une appli payante , mais bien d’un projet sous licence MIT alors pourquoi tant de haine ?

Parce que c’est Microsoft. Le reste n’existe et ne compte pas pour un hateboy " />

anonyme_f168d692f50618cb9f3fd8cadce4e6bc

Le 27/01/2016 à 12h28

K2Death a écrit :

Pourtant, il ne s’agit pas d’une appli payante , mais bien d’un projet sous licence MIT alors pourquoi tant de haine ?

C’est un constat. L’open-source et le libre gagnent du terrain. Microsoft n’a plus le choix que de retourner petit a petit sa veste histoire de soigner son image.

 

Z-os Abonné

Le 27/01/2016 à 12h32

Il y a un rapport entre l’algorithme du gradient et les réseaux de neurones ?

Edit : Ce doit être ce gradient làplutôt.

K2Death

Le 27/01/2016 à 12h36

Ne devrais tu pas être content qu’ils agissent de la sorte ?

K2Death

Le 27/01/2016 à 12h37

Je me doutais bien, mais je suis d’humeur magnanime aujourd’hui ^^

anonyme_f168d692f50618cb9f3fd8cadce4e6bc

Le 27/01/2016 à 12h40

K2Death a écrit :

Ne devrais tu pas être content qu’ils agissent de la sorte ?

Tu en es a ce niveau de reflexion ?  " />

Patch Abonné

Le 27/01/2016 à 12h46

pentest a écrit :

Tu en es a ce niveau de reflexion ? " />

C’est plutôt à toi qu’il faudrait poser la question, avec ton “microsoft = caca” (résumé de ton 1er commentaire)…

tazvld Abonné

Le 27/01/2016 à 12h46

Durant l’apprentissage, oui.

Le but dit grossièrement est de modifier par petite touche tous les paramètres du réseau pour que l’écart entre les sorties d’un batch de valeur test et les résultats attendus soient le plus faible. Du coup, ça correspond exactement à ce qui est possible de faire avec un algo du gradient. Mais ça reste vachement pointu, il y a une histoire de rétro-propagation du gradient que je n’ai pas encore bien saisie.

Z-os Abonné

Le 27/01/2016 à 12h49

Ok, merci. C’est ce qu’il me semblait saisir en lisant la page wikipedia. " />

Faudrait que je dégage du temps pour lire ça moi aussi.

K2Death

Le 27/01/2016 à 12h49

Cela ne répond pas à la question

Est tu content ou non qu’ils agissent de la sorte depuis peu ?

Et un peu d’arguments me fera plaisir ;)

tazvld Abonné

Le 27/01/2016 à 12h49

Je ne sais pas ce qu’il a, mais aujourd’hui il est d’humeur plus massacrante que d’habitude, rien qu’à voir ses commentaires sur le DDoS des sites du Sénat et de l’Assemblée.

K2Death

Le 27/01/2016 à 12h53

J’avais vu ^^

Il y a des jours avec et des jours sans

anonyme_f168d692f50618cb9f3fd8cadce4e6bc

Le 27/01/2016 à 13h12

K2Death a écrit :

Cela ne répond pas à la question

Est tu content ou non qu'ils agissent de la sorte depuis peu ?

Et un peu d'arguments me fera plaisir ;)

Je recommence vu que l’édition a foirée.

Ni l'un ni l'autre. C'est de la poudre aux yeux. Je vais faire une comparaison mais je suis pas doué a ce jeu.      


Disons qu'une centrale nucleaire a pollué ton beau jardin et t'as obligé a quitter ta maison. tu serais content de voir une publicité vantant la securité avec de belles images, de jardins verdoyants, de biches et d'eau fraiche ?

wince

Le 27/01/2016 à 14h06

et on vas en faire quoi de ces “neurones” ? si c est pour les utiliser encore plus mal que les notres le monde s en vas dechoir a vitesses grand V !!! armement,guerre cyber,cryptage decryptages robotique..bref on vas donner naissance a des Monstres dont on aura plus capacité a reguler ni controler car elle n auront plus de limites et meme si on leur met des “limites” ou des lois de ne pas s en prendre aux humains elles auront toujours un piratain pour en detourner le sens et donc les neurones auront appris d elle meme a detourner ces protections et ensuite meme a detourner les commandes exterieur “nous” pour ne plus pouvoir les contoller … bref un genre de skynet 

on a deja du mal avec nous qui avons une conscience et une moral imaginez des machines …SCIENCE SANS CONSCIENCE !!

EINSTEIN A LUI MEME APPRIS DE SA FORMULE EMC2 EN DEVENANT LE PLUS FAROUCHE DÉFENSEURS DE LA PAIX …MAIS VOILA LE MAL ETAIS DEJA LA ET BOUM HIROSHIMA ETC ETC 

PS: ne me parler pas de génétique soignante du cancer etc …ca créera encore plus de problèmes ..car cela ne sera pas fait pour la paix l altruisme ou l emancipation de l humain …bref comme Pandore nous ouvrons des voies qui ne seront plus reffermable a moins d aller au bout du bout de la folie du mental egotique et donc la 

sr17

Le 27/01/2016 à 14h12

pentest a écrit :

Microsoft sent le vent tourner contre lui. IL fera tout et n’importe quoi pour ne pas disparaitre dans les souvenirs et l’histoire du monde.

Pauvre microsoft, ce virus de l’informatique, s’accrocher autant a la vie …

Adieu et sans regrets.

En même temps, l’essor du logiciel libre est assez récent et ce nouveau modèle impose des changements radicaux qui ne sont pas évidents à intégrer du jour au lendemain par des entreprises aussi grandes que Microsoft.

Aucun PDG n’aurait d’ailleurs pu amorcer un virage vers le libre à l’époque ou leurs logiciels dominaient le monde de l’informatique. Les actionnaires n’auraient pas suivi.

Même si le chemin entre Microsoft et le libre est encore long, on ne peut que saluer la vitesse impressionnante avec laquelle cette entreprise évolue sous l’impulsion de son nouveau PDG.

Et ne crachons pas dans la soupe, un logiciel libre est un logiciel libre. Et s’il est estampillé Microsoft, tant mieux. C’est plutôt un signe de bonne augure.

Lafisk

Le 27/01/2016 à 14h14

Pas eu le temps de regarder en detail mais qu’est-ce que c’est au final ? Est-ce une librairie qui permet de créer des IA ? facon Encog ou est-ce des “IA” spécialisée pour certaines taches ?

sr17

Le 27/01/2016 à 14h14

Au passage, ceux qui font encore la confusion entre Open Source et Logiciel Libre, c’est le moment d’utiliser l’ami Google " />

fusion_sadam

Le 27/01/2016 à 14h45

Lafisk a écrit :

Pas eu le temps de regarder en detail mais qu’est-ce que c’est au final ? Est-ce une librairie qui permet de créer des IA ? facon Encog ou est-ce des “IA” spécialisée pour certaines taches ?

 C’est du machine learning (apprentissage automatique) Un réseau de neurone n’essaye pas d’imiter un cerveau, c’est juste que la base de l’algo reprend le principe d’une synapse.

 Le machine learning permet d’apprendre une structure dans les données et donc de déduire la valeur d’une variable en fonction des autres. Ca a beaucoup d’application pratique dans de nombreux domaine.

Les algo de deep learning sont basé sur des empilements de couches de réseau de neurone, et leurs performances sont depuis quelques années très appréciés en vision pour la reconnaissance d’image.

Lafisk

Le 27/01/2016 à 15h07

Euh, un reseau de neurone essais d’imiter le cerveau justement, pas dans son ensemble d’un coup car cela demanderait trop de ressources et surtout le cablage meme du cerveau nous est encore en grande partie inconnu.

Encog est une librairie qui implémente les divers reseaux de neurone qui existe et qui permet de créer des IA (qui restent donc a dimensionner et a designer). Le machine learning utilise des IA mais ce que je demande c’est au final est-ce que ce framework est equivalent a Encog (que j’ai succintement présenté) ou est-ce une couche encore au dessus ?

fusion_sadam

Le 27/01/2016 à 15h44

Pas vraiment d’accord, un réseau de neurone s’inspire de son fonctionnement, notamment sur l’activation d’une synapse, mais ça fait bien longtemps que tout le reste est de la pure optimisation mathématique sans rapport avec le cerveau.

C’est les IA qui utilisent du machine learning, pas l’inverse ;) 

 Encog est un framework du même niveau, c’est aussi du machine learning, qui propose d’autre types d’algo dont les réseaux de neurone “classique”, celui de Microsoft implémente que ceux de type “deep learning” ( en gros la V2 du réseau de neurone)

Konrad

Le 27/01/2016 à 16h18

wince a écrit :

et on vas en faire quoi de ces “neurones” ? si c est pour les utiliser encore plus mal que les notres le monde s en vas dechoir a vitesses grand V !!! armement,guerre cyber,cryptage decryptages robotique..bref on vas donner naissance a des Monstres dont on aura plus capacité a reguler ni controler car elle n auront plus de limites et meme si on leur met des “limites” ou des lois de ne pas s en prendre aux humains elles auront toujours un piratain pour en detourner le sens et donc les neurones auront appris d elle meme a detourner ces protections et ensuite meme a detourner les commandes exterieur “nous” pour ne plus pouvoir les contoller … bref un genre de skynet

on a deja du mal avec nous qui avons une conscience et une moral imaginez des machines …SCIENCE SANS CONSCIENCE !!

EINSTEIN A LUI MEME APPRIS DE SA FORMULE EMC2 EN DEVENANT LE PLUS FAROUCHE DÉFENSEURS DE LA PAIX …MAIS VOILA LE MAL ETAIS DEJA LA ET BOUM HIROSHIMA ETC ETC

PS: ne me parler pas de génétique soignante du cancer etc …ca créera encore plus de problèmes ..car cela ne sera pas fait pour la paix l altruisme ou l emancipation de l humain …bref comme Pandore nous ouvrons des voies qui ne seront plus reffermable a moins d aller au bout du bout de la folie du mental egotique et donc la

Je me demande ce qui me fait le plus peur : une intelligence artificielle, ou quelqu’un capable de dire autant de trucs faux et avec autant de fautes d’orthographe…

sr17

Le 27/01/2016 à 17h31

wince a écrit :

et on vas en faire quoi de ces “neurones” ? si c est pour les utiliser encore plus mal que les notres le monde s en vas dechoir a vitesses grand V !!! armement,guerre cyber,cryptage decryptages robotique..bref on vas donner naissance a des Monstres dont on aura plus capacité a reguler ni controler car elle n auront plus de limites et meme si on leur met des “limites” ou des lois de ne pas s en prendre aux humains elles auront toujours un piratain pour en detourner le sens et donc les neurones auront appris d elle meme a detourner ces protections et ensuite meme a detourner les commandes exterieur “nous” pour ne plus pouvoir les contoller … bref un genre de skynet

on a deja du mal avec nous qui avons une conscience et une moral imaginez des machines …SCIENCE SANS CONSCIENCE !!

EINSTEIN A LUI MEME APPRIS DE SA FORMULE EMC2 EN DEVENANT LE PLUS FAROUCHE DÉFENSEURS DE LA PAIX …MAIS VOILA LE MAL ETAIS DEJA LA ET BOUM HIROSHIMA ETC ETC

PS: ne me parler pas de génétique soignante du cancer etc …ca créera encore plus de problèmes ..car cela ne sera pas fait pour la paix l altruisme ou l emancipation de l humain …bref comme Pandore nous ouvrons des voies qui ne seront plus reffermable a moins d aller au bout du bout de la folie du mental egotique et donc la

Tu devrais faire un peu d’IA, tu verra qu’avant que ces trucs ne deviennent une menace pour l’humanité, il y a encore de la marge. Parce que “intelligence artificielle”, il faut le dire vraiment très vite. En pratique, c’est tellement limité qu’on a pas encore réussi à en faire grand chose. (Et pourtant, les réseaux de neurones, c’est vraiment pas nouveau.)

Cela dit, un jour, ça pourrait devenir vrai, mais ce n’est pas encore pour aujourd’hui.

Reste que je suis d’accord sur ta réflexion sur les technologies. Dans sa fuite en avant vers la technologie et l’argent, l’humanité risque de finir très mal.

MacGuiPro

Le 28/01/2016 à 12h19

De mémoire l’une des applications c’est la lecture des codes postaux sur les enveloppes.

Si Skynet commence en détournant le courrier l’humanité court à sa perte. " />

Lafisk

Le 28/01/2016 à 16h35

Ce n’est pas parce qu’il y a de la marge que le “debat” doit etre remis a demain … bien que de mon avis debattre autant que;on veut, on peut mais cela ne changera rien au résultat final …

Lafisk

Le 28/01/2016 à 16h38

La on est d’accord, beaucoup “d’IA” aujourd’hui sont surtout de grosse fonctions mathématiques etc…

En tout cas merci pour la réponse, je vais donc rester sur du Encog car je m’intéresse plus aux concepts général que le deep learning

sr17

Le 28/01/2016 à 20h40

Lafisk a écrit :

Ce n’est pas parce qu’il y a de la marge que le “debat” doit etre remis a demain … bien que de mon avis debattre autant que;on veut, on peut mais cela ne changera rien au résultat final …

Je suis d’accord, d’autant que certains problèmes posés par la technologie vis à vis de l’humanité sont déjà une réalité tangible.

Comme tu le souligne, le problème, c’est qu’il y a bien peu de chance d’y changer grand chose dans le monde actuel. Un monde gouverné essentiellement par les intérêts financiers.

Tout ce que l’on peut souhaiter, c’est que la vision humaine évolue. Et qui sait, avec les problèmes actuels, le monde retrouvera peut être une vision plus saine dans les décennies à venir. C’est en tout cas ce que l’on peut souhaiter.

Lafisk

Le 29/01/2016 à 13h08

sr17 a écrit :

Je suis d’accord, d’autant que certains problèmes posés par la technologie vis à vis de l’humanité sont déjà une réalité tangible.

Sur ce point, bien d’accord et on est meme loin des problématique d’IA

Comme tu le souligne, le problème, c’est qu’il y a bien peu de chance d’y changer grand chose dans le monde actuel. Un monde gouverné essentiellement par les intérêts financiers.

Malheureusement, ce n’est pas du tout ce que j’avais en tete, meme si sur le fond je suis d’accord la aussi.

Je pensais plus au fait que le jour ou cette singularité arrivera, nous n’aurons pas d’autre choix que de la reconnaitre comme une nouvelle forme de vie. Je parle d’une veritable IA et c’est pas des trucs comme les lois d’azimov qui vont empecher qu’elle voudra prendre son independance.

Tout ce que l’on peut souhaiter, c’est que la vision humaine évolue. Et qui sait, avec les problèmes actuels, le monde retrouvera peut être une vision plus saine dans les décennies à venir. C’est en tout cas ce que l’on peut souhaiter.

En cela les IA, sans etre aussi sophistiquée que celle dont je parle juste au dessus, pourront nous aider, l’automatisation du travail fera en sorte qu’un jour nous n’auront plus besoin de travailler et nous devrons revoir notre modele economique qui est lui deja bien a l’agonie depuis longtemps (je suis honnetement surpris que le monde ce laisse mené a la baguette, par 1% de la popuplation, comme il le fait depuis si longtemps et surtout aujourd’hui)

sr17

Le 30/01/2016 à 01h20

Lafisk a écrit :

…

Malheureusement, ce n’est pas du tout ce que j’avais en tete, meme si sur le fond je suis d’accord la aussi.

Je pensais plus au fait que le jour ou cette singularité arrivera, nous n’aurons pas d’autre choix que de la reconnaitre comme une nouvelle forme de vie. Je parle d’une veritable IA et c’est pas des trucs comme les lois d’azimov qui vont empecher qu’elle voudra prendre son independance.

Tout à fait.

En cela les IA, sans etre aussi sophistiquée que celle dont je parle juste au dessus, pourront nous aider, l’automatisation du travail fera en sorte qu’un jour nous n’auront plus besoin de travailler et nous devrons revoir notre modele economique qui est lui deja bien a l’agonie depuis longtemps

Je dirais même que cela fait longtemps que le modèle économique aurait du être revu. Le chômage actuel n’est pas le fruit du hasard.

(je suis honnetement surpris que le monde ce laisse mené a la baguette, par 1% de la popuplation, comme il le fait depuis si longtemps et surtout aujourd’hui)

Oui, c’est étonnant, mais pas autant qu’on pourrait le penser.

Le problème, c’est que malgré la modernité, l’homme conserve la culture moyenâgeuse du temps de la terre qui se travaillait à la main : il faut se lever tôt, travailler dur pour obtenir, gagner le droit d’exister.

Ces idées obsolètes sont un terrain idéal pour les esclavagistes modernes qui tirent parti du déséquilibre croissant entre l’offre et la demande sur le marché de l’emploi.

tazvld Abonné

Le 27/01/2016 à 10h08

Tous ça me semble très intéressant, il faudrait que je trouve un moment pour me documenter. J’ai encore un peu de mal avec le calcule de l’algo du gradient descent. C’est très … mathématique.

technet a écrit :

For more than 20 years, Microsoft has invested in advanced speech recognition research and development.

Hahaha, tout le monde garde un souvenir mémorable de la reconnaissance vocal de Vista (une présentation sans fail magistral, ce n’est pas une présentation MS)…

anonyme_f168d692f50618cb9f3fd8cadce4e6bc

Le 27/01/2016 à 12h03

Microsoft sent le vent tourner contre lui. IL fera tout et n’importe quoi pour ne pas disparaitre dans les souvenirs et l’histoire du monde.

Pauvre microsoft, ce virus de l’informatique,  s’accrocher autant a la vie …

Adieu et sans regrets.

K2Death

Le 27/01/2016 à 12h20

Pourtant, il ne s’agit pas d’une appli payante , mais bien d’un projet sous licence MIT alors pourquoi tant de haine ?