Les techniques algorithmiques de l’IA | L’approche connexionniste

En matière d’intelligence artificielle, l’approche connexionniste est certainement celle qui a le plus le vent en poupe de nos jours. Il suffit pour s’en rendre compte de jeter un œil à la grande majorité des projets de développements en intelligence artificielle se basant sur le traitement de (très) grandes quantités de données à des fins d’analyses, de traitement du langage ou d’images pour le meilleur et pour le pire. On se souvient en effet des déboires de Google ou encore de Microsoft. En termes d’études du connexionnisme en intelligence artificielle, nul besoin d’aller chercher très loin puisque Montréal abrite Mila, un pôle mondialement reconnu dans le domaine de l’apprentissage profond fondé en 1993 par le Pr Yoshua Bengio, lui-même icône et précurseur de l’approche connexionniste.

Dans ce blog nous vous proposons humblement d’aborder l’approche connexionniste en trois temps. Tout d’abord, on s’intéressera à ce qui caractérise le connexionnisme en tant que tel en intelligence artificielle. Puis nous retracerons l’ascension de ce courant jusqu’à sa consécration tout en faisant état des prouesses en la matière. Enfin, nous adresserons les critiques qui sont formulées à l’encontre de ce courant.

1.Les caractéristiques du connexionnisme en IA

Le connexionnisme en IA reproduit de manière très simpliste le schéma de fonctionnement du cerveau humain en se basant sur l’architecture de neurones (unités) interconnectés (réseau) par des synapses (connecteurs). C’est ce que l’on appellera un réseau de neurones « formels » élémentaires interconnectés entre eux. Le terme de neurone formel renvoie à une représentation mathématique et informatique du neurone biologique. Concrètement, il s’agit d’un réseau de neurones connectés virtuellement où chaque neurone ou unité reçoit de l’information entrante et émet de l’information sortante.

Un réseau de neurones est généralement composé de plusieurs couches. On a une couche d’entrée, puis une ou plusieurs couches cachées, et enfin une couche de sortie. Chaque couche est généralement composée de plusieurs neurones. L’objectif de ce réseau est qu’en fonction des données brutes apportées, la machine prédise un résultat en sortie, comme réponse aux données brutes d’entrée. Plus concrètement, on va fournir en données brutes des images de chat afin que la machine traite ces données et prédise en sortie la probabilité qu’il s’agisse ou non d’un chat.

Prenons par exemple un réseau de neurones simple avec trois couches :

Les unités de la couche d’entrée ont la charge de capter les données brutes (lettres des mots d’un document écrit, couleurs de pixels, etc..) et vont s’activer ou non en fonction des paramètres d’activation déterminés. En cas d’activation, ces neurones d’entrée vont envoyer les informations sous la forme de signaux aux neurones de la seconde couche.

Les neurones de la seconde couche (couche cachée) vont alors traiter l’information qui leur est envoyée et vont s’activer ou non. En effet, le niveau d’intensité d’activation du neurone ou l’absence d’activation seront déterminés selon l’intensité du signal de la donnée brute envoyé, le type de connecteur par lequel passe le signal (on parle de balance entre les contributions activatrices ou inhibitrices) ainsi que son poids (qui est en fait l’épaisseur du conduit), le biais ajouté par le neurone et enfin par la configuration d’activation du neurone de seconde couche elle-même. Ainsi, les neurones de seconde couche déterminent le niveau d’activation ou l’absence d’activation en fonction de l’ensemble de ces paramètres et traitent en conséquence l’information reçue. Ils vont ensuite envoyer cette information traitée aux neurones de la couche de sortie.

Les neurones de la couche de sortie vont eux s’activer en fonction de l’activité des neurones de la couche d’entrée et de la seconde couche, mais également en fonction de leurs paramètres propres ce qui signifie de manière simple que les neurones de cette couche ne se contentent pas de formaliser une réponse qui aura été déterminée par les neurones de la seconde couche, mais bien de traiter l’information avant de la restituer sous la forme d’une réponse aux données brutes qui ont été traitées. Ainsi ils agissent de la même manière que les neurones de la seconde couche à la différence qu’ils vont formuler une réponse de sortie.

Dans le cas auquel on vient de s’intéresser, les informations transitent par les synapses uniquement dans un seul sens, de la couche d’entrée vers la couche de sortie. C’est ce que l’on appelle un réseau « feedforward » ou unidirectionnel en français. Ainsi, si l’on reprend notre exemple du chat, on fournit des données brutes (une image d’un chat) et on observe en sortie la prédiction du résultat par la machine, c’est-à-dire la probabilité calculée par cette dernière que l’image fournie représente un chat.

Ce sont ici les bases du connexionnisme. Nous allons maintenant nous intéresser à son ascension puis à sa consécration au travers des applications les plus fructueuses comme le deep learning.

2. De l’ascension jusqu’à la consécration : les succès du connexionnisme

Le connexionnisme est un courant dispersé. En effet, il a connu des développements interrompus puis a connu un regain d’intérêt au gré des développements des performances des machines ainsi que de la production de données en quantité toujours plus importante. Bien qu’il soit couramment admis que l’approche connexionniste soit datée de la fin des années 1950, certains chercheurs font remonter les origines du connexionnisme à la cybernétique dans les années 1940. Bien que ne relevant pas de l’intelligence artificielle, on retrouve des modèles d’expérimentation en neurophysiologie se basant sur un neurone formel qui applique un biais sur des données d’entrées et déclenchant ou non l’activation du neurone en fonction du résultat. Cela constitue la première modélisation mathématique d’un réseau de neurones (McCulloch et Pitts, 1943).