Réseau de neurones : définition sans jargon

Le réseau de neurones est la pièce commune à la reconnaissance vocale, à la lecture automatique d’images et aux assistants génératifs. Son nom évoque la biologie, mais son principe relève du calcul : des nombres entrent, passent de couche en couche, et une réponse sort. Tout l’enjeu est de régler les bons nombres, et c’est précisément le rôle de l’entraînement.

Qu’est-ce qu’un réseau de neurones artificiels ?

Un réseau de neurones artificiels est un programme qui transforme des données en réponse en les faisant passer par des couches successives de petites unités de calcul reliées entre elles.

Ce qu’il reçoit est toujours converti en nombres : les pixels d’une photo, les mots d’un texte, les mesures d’un capteur. Ce qu’il rend est aussi fait de nombres : la probabilité qu’une pièce soit défectueuse, des probabilités pour le mot suivant d’une phrase, une quantité prévue.

Les réseaux de neurones sont une méthode parmi d’autres du machine learning. Empilés en nombreuses couches, ils constituent la base du deep learning.

Neurone, poids, couches : les trois pièces du réseau

Un réseau de neurones se compose de neurones artificiels, qui font chacun un petit calcul, de poids, qui règlent l’importance de chaque connexion, et de couches, qui organisent l’ensemble.

Le neurone artificiel

Un neurone artificiel reçoit plusieurs nombres. Il multiplie chacun par un poids, additionne le tout avec une valeur de réglage qui lui est propre, puis applique une règle simple qui décide de ce qu’il transmet. Par exemple : laisser passer le résultat s’il est positif, renvoyer zéro sinon.

Un neurone isolé ne sait presque rien faire. La puissance du réseau vient du nombre de neurones et de la manière dont ils sont reliés.

Les poids

Chaque connexion entre deux neurones porte un poids : un nombre qui amplifie, atténue ou inverse l’information qui passe. Un poids fort signifie que cette entrée compte beaucoup pour le neurone suivant, un poids proche de zéro qu’elle compte peu.

Ce sont les poids qui contiennent l’essentiel de ce que le réseau a appris. Avec la valeur de réglage de chaque neurone, ils forment les paramètres du modèle : un modèle entraîné, c’est l’organisation du réseau plus la valeur de tous ses paramètres.

Les couches

Les neurones sont rangés en couches. La couche d’entrée reçoit les données, les couches intermédiaires, dites cachées, les transforment étape par étape, et la couche de sortie donne la réponse. Quand les couches cachées sont nombreuses, on parle de réseau profond.

Il existe plusieurs architectures, c’est-à-dire plusieurs façons d’organiser ces couches. Certaines conviennent aux images, d’autres aux suites de mots ou de sons. La plupart des grands modèles de langage reposent sur une architecture appelée transformeur (transformer, en anglais).

Comment un réseau de neurones apprend-il ?

Un réseau de neurones apprend en ajustant progressivement ses poids pour réduire l’écart entre ses réponses et les réponses attendues, sur un grand nombre d’exemples.

1. Au départ, les poids sont tirés au hasard : le réseau répond n’importe quoi.
2. On lui présente des exemples, comme des photos de pièces accompagnées de la mention « conforme » ou « défectueuse ».
3. On mesure l’erreur entre ses réponses et les réponses attendues.
4. La rétropropagation remonte de la sortie vers l’entrée, couche par couche, pour calculer la part de chaque poids dans cette erreur et le sens dans lequel le corriger.
5. Chaque poids est modifié d’un petit pas dans le sens qui réduit l’erreur.
6. On recommence un très grand nombre de fois, puis on vérifie les réponses sur des exemples mis de côté, que le réseau n’a jamais vus.

Imaginez une table de mixage géante, couverte de boutons, et un son à reproduire. Vous écoutez le résultat, vous mesurez l’écart avec le son voulu, puis vous tournez chaque bouton d’un cran dans le bon sens. La rétropropagation est la méthode qui indique, pour tous les boutons à la fois, dans quel sens tourner.

Personne ne règle donc les poids à la main. Le réseau n’apprend pas des règles lisibles : il trouve une combinaison de valeurs qui donne de bonnes réponses sur les exemples.

Un réseau de neurones n’est pas un cerveau

Un réseau de neurones artificiels s’inspire de loin du cerveau, mais il n’en est ni une copie ni un modèle fidèle : c’est une suite d’opérations mathématiques.

Le vocabulaire vient de la biologie. Dès les débuts, des chercheurs ont voulu imiter, très schématiquement, la façon dont une cellule nerveuse reçoit des signaux et décide de les transmettre ou non. L’inspiration s’arrête là.

Un réseau qui repère une pièce défectueuse ne « voit » pas la pièce. Il reçoit une grille de nombres et rend un score. Parler de neurones est commode, mais ce mot ne doit pas faire croire à une forme de pensée biologique.

Quelles sont les limites des réseaux de neurones ?

Les réseaux de neurones ont trois limites principales : leurs réponses ne s’expliquent pas simplement, ils ont besoin de beaucoup d’exemples, et ils peuvent se tromper avec assurance hors de ce qu’ils ont appris.

• L’effet boîte noire : la décision est répartie sur un très grand nombre de poids, dont aucun n’a de sens pris isolément. On voit ce qui entre et ce qui sort, pas le cheminement.
• Le besoin de données : chaque poids se règle à partir d’exemples. Entraîné sur trop peu de cas, un réseau retient leurs particularités plutôt que la règle générale.
• La fragilité hors du connu : face à une situation absente de ses exemples, un réseau produit quand même une réponse, souvent sans signaler de doute.

S’y ajoutent deux points de vigilance. Un réseau peut reproduire les déséquilibres de ses données d’entraînement. Et entraîner un grand réseau demande beaucoup de matériel et d’énergie.

Comprendre les réseaux de neurones, pour quoi faire ?

Comprendre les réseaux de neurones sert moins à en construire qu’à bien utiliser les outils qui en contiennent, surtout dans une petite ou moyenne entreprise (PME).

Transcription de réunions, lecture de factures, contrôle visuel en production, assistants génératifs : ces outils reposent généralement sur des réseaux de neurones entraînés par d’autres. Trois réflexes en découlent.

• Tester l’outil sur vos propres cas avant de le déployer, car ses performances annoncées ont été mesurées sur d’autres données.
• Garder une validation humaine là où une erreur coûte cher ou touche une personne, puisque le réseau ne justifie pas ses réponses.
• Conserver les cas où l’outil s’est trompé : ce sont eux qui permettent de l’évaluer, et parfois de l’adapter.

Deep learning, grand modèle de langage, token : ces mots, fréquents dans la documentation de tels outils, ont tous une entrée au glossaire de l’IA.

À retenir

• Un réseau de neurones artificiels est un modèle de calcul fait de neurones artificiels organisés en couches et reliés par des connexions pondérées.
• Un neurone artificiel pondère les nombres qu’il reçoit, les additionne et applique une règle simple pour décider de ce qu’il transmet.
• Un réseau de neurones apprend en ajustant ses poids par petites touches, la rétropropagation indiquant dans quel sens corriger chacun pour réduire l’erreur.
• Un réseau de neurones s’inspire de loin du cerveau, mais reste une suite d’opérations mathématiques sans rapport avec la complexité d’une cellule nerveuse.
• Les principales limites d’un réseau de neurones sont son opacité, son besoin d’exemples et sa fragilité face aux situations absentes de ses données.