INFORMATION THÉORIE DE L'
Valeur de l'information
Dans nos exemples, nous avons envisagé un programme de traitement de texte. Il est clair que la compilation d'un programme source en un programme exécutable crée de l'information de valeur. Le but recherché est double : avoir une forme compacte d'un algorithmerapide réalisant une famille de calculs. Notons que :
– plus le code est rapide plus la compilation possède de valeur ;
– plus le code compilé est compact plus il a de la valeur (aujourd'hui, contrairement à ce qui se passait dans les années 1970, on favorise la rapidité aux dépens de l'espace) ;
– plus nombreux sont les problèmes traités par le programme compilé, plus sa valeur est grande.
La valeur de l'information contenue dans un programme compilé est un mélange de ces trois qualités (rapidité, compacité, variété des problèmes traités), et d'autres encore comme l'originalité, la portabilité, etc. La valeur de l'information d'un programme compilé ne se laisse donc pas réduire à un seul aspect : le contenu en information d'un programme compilé n'est ni l'information algorithmique de Kolmogorov, ni l'information donnée par la théorie de Shannon. De même, si l'on considère que le but poursuivi est de nature pratique, par exemple survivre dans un milieu donné, ou gagner le plus possible d'argent tel jour à la Bourse de Paris, alors la valeur de l'information d'une chaîne de caractères s se mesurera en fonction du but. Une information de grande valeur, ce sera l'endroit où aller chercher tel aliment, ou ce sera le nom de l'action boursière qui va monter. Aucune théorie générale de l'information ne prend en compte tous les aspects pragmatiques déterminant la valeur des chaînes de caractères. Que les théories générales (comme celles de Kolmogorov ou Shannon) puissent jouer des rôles particuliers en physique, en biologie ou ailleurs ne fait pas de doute, mais il faut garder à l'esprit qu'aucune ne constituera jamais la théorie générale de l'information.
La suite de cet article est accessible aux abonnés
- Des contenus variés, complets et fiables
- Accessible sur tous les écrans
- Pas de publicité
Déjà abonné ? Se connecter
Écrit par
- Henri ATLAN : professeur émérite de biophysique aux universités de Paris-VI-Pierre-et-Marie-Curie et de Jérusalem, directeur d'études à l'École des hautes études en sciences sociales, Paris, directeur du Centre de recherches en biologie humaine, hôpital Hadassah, Jérusalem (Israël)
- Jean-Paul DELAHAYE : professeur à l'université des sciences et technologies de Lille
- Étienne KLEIN : physicien au Commissariat à l'énergie atomique
Classification
Autres références
-
BRILLOUIN LÉON (1889-1969)
- Écrit par André GUINIER
- 842 mots
Le père et le grand-père de Léon Brillouin ont été professeurs de physique au Collège de France. Après ses études à l'École normale supérieure, il a passé un an auprès de A. Sommerfeld, à Munich. Pendant la Première Guerre mondiale, il est affecté au laboratoire « de T.S.F. » du général Ferrié, où...
-
COGNITION
- Écrit par Chrystel BESCHE-RICHARD et Raymond CAMPAN
- 2 626 mots
...de la cognition a donc ouvert la « boîte noire » à laquelle la psychologie comportementale refusait de s'intéresser. Analyser les phénomènes internes de « traitement de l'information » qui opèrent entre la venue d'un stimulus et la réponse produite par l'individu n'inscrit pas pour autant l'étude de la... -
COGNITIVES SCIENCES
- Écrit par Daniel ANDLER
- 19 262 mots
- 4 médias
L'année décisive est 1956. Au M.I.T., se tient, du 10 au 12 septembre, un « Symposium on Information Theory » qui marque symboliquement, aux yeux de plusieurs des principaux acteurs, le début d'un nouveau mouvement, intégrant dans une perspective commune la psychologie expérimentale, la... -
COMMUNICATION
- Écrit par Yves WINKIN
- 4 813 mots
...précises. C'est ainsi qu'un groupe de chercheurs se rassemble au Massachusetts Institute of Technology (M.I.T.) autour de Claude Shannon, un spécialiste des théories mathématiques de l'information, pour repenser la transmission télégraphique. Le télégraphe est en effet fondamental en temps de guerre.... - Afficher les 18 références
