- 1. Historique
- 2. Quelques définitions
- 3. L'approximation parcimonieuse, une propriété fondamentale des réseaux de neurones
- 4. Réseaux de neurones et régression non linéaire
- 5. L'apprentissage des réseaux de neurones formels
- 6. Quelques exemples d'applications des réseaux de neurones
- 7. Bibliographie
RÉSEAUX DE NEURONES
Réseaux de neurones et régression non linéaire
Dans la pratique, on n'utilise pas les réseaux de neurones pour réaliser des approximations de fonctions connues. Le plus souvent, le problème qui se pose à l'ingénieur est le suivant : il dispose d'un ensemble de mesures des variables d'un processus de nature quelconque (physique, chimique, biologique, économique, financier...), ainsi que de mesures du résultat de ce processus ; il suppose qu'il existe une relation déterministe entre ces variables et ce résultat, et il cherche une forme mathématique de cette relation, valable dans le domaine où les mesures ont été effectuées ; celles-ci sont en nombre fini, elles sont certainement entachées de bruit, et toutes les variables qui déterminent le résultat du processus ne sont pas forcément mesurées. En d'autres termes, l'ingénieur cherche à élaborer un « modèle » du processus qu'il étudie, à partir des mesures dont il dispose.
Fonction de régression d'un processus à une variable
Encyclopædia Universalis France
En quoi la propriété d'approximation parcimonieuse peut-elle être utile pour résoudre ce genre de problèmes ? Ce que l'ingénieur cherche à obtenir à l'aide de son modèle, c'est la fonction qui relie la grandeur yp que l'on veut modéliser aux variables {x} qui la déterminent, c'est-à-dire la fonction que l'on obtiendrait en faisant une infinité de mesures de yp pour chaque valeur possible de {x} : en termes de statistiques, l'ingénieur cherche la « fonction de régression » de la grandeur yp à modéliser. Cette fonction est inconnue, mais on peut en chercher une approximation à partir des mesures disponibles : les réseaux de neurones sont donc de bons candidats pour cela, si la fonction de régression cherchée est non linéaire.
L'approximation est obtenue en estimant les paramètres d'un réseau de neurones au cours de la phase d'apprentissage. C'est là que la propriété d'approximation parcimonieuse des réseaux de neurones est précieuse : en effet, le nombre de mesures nécessaires pour estimer les paramètres de manière significative est d'autant plus grand que le nombre de paramètres est lui-même élevé. Comme les réseaux de neurones sont parcimonieux, ils nécessitent, pour une même précision, moins de paramètres, donc moins de données, que les approximateurs usuels ; un réseau de neurones permet donc, à partir de la même quantité de données, de réaliser une approximation plus précise.
Les quatre grandes familles d'application des réseaux de neurones, découlant naturellement de leur propriété fondamentale, sont :
– la régression non linéaire ou modélisation statique de données ;
– la modélisation dynamique de processus non linéaires ;
– la commande de processus ;
– la classification.
La suite de cet article est accessible aux abonnés
- Des contenus variés, complets et fiables
- Accessible sur tous les écrans
- Pas de publicité
Déjà abonné ? Se connecter
Écrit par
- Gérard DREYFUS : Professeur à l'E.S.P.C.I.
Classification
Médias
Représentation graphique
Encyclopædia Universalis France
Neurone à fonction sigmoïde
Encyclopædia Universalis France
Réseau non bouclé
Encyclopædia Universalis France
Autres références
-
ANTHROPOLOGIE COGNITIVE
- Écrit par Arnaud HALLOY
- 5 810 mots
...succinctement, les modèles connexionnistes décrivent les phénomènes mentaux et comportementaux comme le produit émergeant d’activation et de création de réseaux de neurones. Ils se distinguent ainsi assez radicalement des modèles « classiques » qui envisagent le cerveau à l’image d’un ordinateur qui traiterait... -
APPRENTISSAGE PROFOND ou DEEP LEARNING
- Écrit par Jean-Gabriel GANASCIA
- 2 645 mots
- 1 média
...techniques variées fondées sur la logique ou la statistique et s’inspirant de modèles psychologiques, physiologiques ou éthologiques. Parmi celles-ci, des techniques anciennes reposant sur un modèle très approximatif du tissu cérébral – les réseaux de neurones formels – ont obtenu depuis les années... -
AUTOMATISATION
- Écrit par Jean VAN DEN BROEK D'OBRENAN
- 11 882 mots
- 12 médias
...fin des années 1980, les travaux scientifiques aboutissant au concept d'une logique « non classique », la logique floue, d'une part, et au concept des réseaux de neurones, adaptés à la modélisation et à la commande des processus non linéaires, d'autre part, trouvèrent des applications dans l'automatisation... -
AUTO-ORGANISATION
- Écrit par Henri ATLAN
- 6 255 mots
- 1 média
...intelligence artificielle destinées à fabriquer des machines à apprendre et à mémoire distributive (cf. F. Fogelman-Soulié, 1991 ; T. Kohonen). Ce calcul est effectué en parallèle par un grand nombre d'unités, dites neurones formels, qui effectuent chacune des opérations élémentaires simulant de... - Afficher les 25 références
