Je propose de faire des statistiques pour optimiser l’exploitation de l’IA… ho wait ?!

Souvent, ce que l’on appelle IA aujourd’hui, c’est des algo de “machine learning” (apprentissage automatique). Ces algo ont la propriété de tirer avantage de l’expérience (d’une base de donnée) pour optimiser son comportement. Ces algo peuvent être aussi vu comme un truc qui fait des statistiques. En gros une “IA” va faire “D’après ma base de donnée (ou ce que j’en ai retenu), je prédis que ça devrait plutôt être ça”.

Après, dans IA, on inclus d’autre type d’algo, plus classique mais qui n’est plus trop à la mode.Par exemple il y a les IA qui vont être mises dans les jeux (l’IA d’un jeu d’échec electronique par exemple), qui ne fait que suivre un algo classique (algo minmax avec élagage alpha-beta et simplifié avec un algo de Monte-Carlo pour un jeu d’echec), mais qui donne une impression d’intelligence (“houa ! elle a prédis mon coup!”).

Pour le cas de la voiture autonome, on est encore au niveau d’une “aide à la conduite”, comme l’ABS, le régulateur de vitesse ou le park assist, il y a toujours un conducteur et le code de la route stipule que le conducteur est responsable de son véhicule. Je ne pense pas que l’on verra des voiture autonome entièrement sans conducteur (niveau 5) justement car personne ne veut en prendre la responsabilité.

A l’heure actuelle, à par pour faire des truc plutôt “innoçant”, les algo d’apprentissage automatique sont surtout utiliser comme un outils d’aide à la décision. Par exemple, l’outil sera capable, en fonction des symptômes d’un patient d’établir des suggestions de diagnostique, mais ça sera toujours à un médecin de prendre la décision finale.

Sachant que ce n’est que des statistiques, le choix proposé est statistiquement le plus probable (selon l’algo), mais pas forcément le bon (99% de chance, ce n’est pas 100%). Intrinsèquement, on sait donc qu’un algo d’apprentissage automatique va faire des erreurs. Même si taux d’erreur réel est plus faible que celui d’un être humain, on ne veut pas prendre ce risque.

Ce n’est pas vraiment un contrat (il n’a pas forcément signé), mais en gros oui, c’est ça.

Disons que cette histoire de responsabilité il y a plusieurs raison. Je vois par exemple que l’on est typiquement dans le cas de la responsabilité de ce que fait le code en particulier lorsque celui-ci va piocher dans une base de connaissance que l’on ne maîtrise pas forcément. Par exemple dans le cas d’un google bombing, est-ce que c’est google qui est responsable de l’association de Iznogood avec Sarkozy ? (oui, techniquement, l’algo de recherche est une IA qui va chercher à te proposer statistiquement les pages qui correspondent à la suite de mots recherché). Plus récemment, il y a eu l’IA de discussion de MS qui en à peine quelque heures sur Twitter a complètement dérapé.