INTELLIGENCE ARTIFICIELLE (IA)
Questions éthiques
Avec l’intelligence artificielle, la plupart des dimensions de l’intelligence – sauf peut-être l’humour – font l’objet d’analyses et de reconstructions rationnelles avec des ordinateurs. De plus, les machines outrepassent les facultés cognitives de l’homme dans la plupart des domaines, ce qui fait craindre à certains des risques d’ordre éthique.
On a beaucoup glosé sur la question des voitures autonomes. L’expérience de pensée selon laquelle les ingénieurs qui programment une voiture devraient froidement choisir entre l’option d’écraser cinq jeunes gens insouciants traversant la rue au feu vert ou celle de sacrifier la vie du passager du véhicule a beaucoup marqué l’opinion. L’accident de Tempe (Arizona), en mars 2018, mettant en jeu une voiture autonome de la société Uber montre pourtant que les enjeux sont assez différents : pour le confort des passagers, Uber avait décidé que la voiture ne prendrait pas en considération les obstacles inattendus, comme les sacs en plastique ou les feuilles mortes, qui rendent la conduite lente et chaotique. Cette nuit-là, le piéton qui traversait la rue en poussant son vélo sans signalisation a donc été volontairement ignoré par le logiciel de conduite, bien qu’il ait été détecté par les capteurs du véhicule. Sa mort, qui n’est pas liée à une défaillance du système mais à un réglage trop tolérant ne permettant pas à la voiture de réagir en temps voulu, est venue renforcer les interrogations quant à la sécurité des voitures autonomes.
Plus généralement, les risques éthiques sont de trois ordres : une raréfaction du travail, remplacé par l’activité des machines ; des conséquences pour l’autonomie de l’individu, en particulier pour sa liberté et sa sécurité ; un dépassement de l’humanité, laquelle disparaîtrait au profit de machines plus « intelligentes ». En ce qui concerne le premier point, un examen détaillé ne démontre pas que l’automatisation de certaines tâches entraîne nécessairement la disparition du travail humain. Les études parues sur ce sujet concluent de façon divergente : certaines prophétisent l’automatisation de tous les métiers avant le milieu du xxiie siècle, mais la méthodologie qu’elles suivent laisse les scientifiques dubitatifs. D’autres expliquent que le travail se transforme et fait appel à de nouvelles compétences, de sorte qu’il en va identiquement avec le développement des technologies d’intelligence artificielle qu’il en est allé dans le passé avec d’autres technologies : certains métiers ont disparu, d’autres ont évolué et quelques-uns sont apparus. De même, l’autonomie de l’individu et sa liberté ne sont pas inéluctablement remises en cause par le développement de l’intelligence artificielle, à condition toutefois de demeurer très vigilants face aux intrusions de la technologie dans la vie privée, notamment via l’exploitation des données personnelles collectées. Enfin, contrairement à ce que certains prétendent, les machines ne constituent aucunement un risque existentiel pour l’humanité, car leur autonomie n’est que d’ordre technique, en cela qu’elle ne correspond qu’à des chaînes de causalités matérielles qui vont de la prise d’information à la décision. En effet, les machines n’ont pas d’autonomie morale car, même s’il arrive qu’elles nous trompent, par les textes et les images qu’elles génèrent, ou qu’elles nous déroutent et nous fourvoient dans le temps de l’action, autrement dit qu’elles nous dressent des pièges, ceux-ci ne sont jamais intentionnels car elles n’ont pas de volonté propre et restent asservies aux objectifs que nous leur avons fixés.
La suite de cet article est accessible aux abonnés
- Des contenus variés, complets et fiables
- Accessible sur tous les écrans
- Pas de publicité
Déjà abonné ? Se connecter
Écrit par
- Jean-Gabriel GANASCIA : professeur des Universités, faculté des sciences, Sorbonne université, Paris
Classification
Médias
Quelques participants de l’école d’été de Dartmouth (États-Unis)
Photo courtesy of the Minsky family
Cinquantième anniversaire de l’école d’été de Dartmouth marquant la naissance de l’Intelligence artificielle
Joseph Mehling/ Courtesy of Dartmouth College Library
Réseau de neurones formels
Encyclopædia Universalis France
Autres références
-
INTELLIGENCE ARTIFICIELLE GÉNÉRATIVE
- Écrit par Jean-Gabriel GANASCIA
- 2 716 mots
- 2 médias
Le désir de fabriquer des machines capables de générer textes, images et sons, à l’instar d’artistes, remonte bien à avant le développement de l’intelligence artificielle (IA). À titre d’illustration, la Britannique Ada Lovelace (1815-1852) pressentait déjà qu’une machine pourrait,...
-
AGHION PHILIPPE (1956- )
- Écrit par Olivier MARTY
- 1 173 mots
- 1 média
...monde académique, Aghion voit dans celle-ci une source d’efficacité, de profits et donc de développements favorables à l’emploi. À cet égard, il considère l’intelligence artificielle comme une technologie bienvenue que les acteurs économiques ont intérêt à favoriser. De son côté, l’État devrait veiller à... -
ALGORITHME
- Écrit par Alberto NAIBO et Thomas SEILLER
- 5 919 mots
- 4 médias
...imposent une gestion explicite de la mémoire, alors que d’autres non – c’est le cas de Python, l’un des langages les plus employés de nos jours pour le développement d’intelligences artificielles. L’ensemble de ces éléments a mis en exergue l’idée que l’informatique traite de deux notions bien distinctes.... -
ANDERSON JOHN ROBERT (1947- )
- Écrit par Denis ALAMARGOT
- 374 mots
John Robert Anderson est né à Vancouver (Canada) en 1947. Après des études à l’université de la Colombie-Britannique, il obtient son Ph.D. en 1972 à l’université Stanford, sous la direction de G. Bower. D’abord professeur de psychologie à Yale de 1973 à 1977, il rejoint en 1978 l’université Carnegie-Mellon...
-
APPRENTISSAGE, psychologie
- Écrit par Daniel GAONAC'H et Jean-François LE NY
- 5 939 mots
- 2 médias
Ces recherches s’articulent maintenant avec celles qui, en intelligence artificielle, s’appuient sur l’exploitation d’un très grand nombre de données empiriques (big data) : plutôt que d’« instruire » la machine par des règles définies a priori, on cherche à ce que celle-ci se fonde, pour progresser... - Afficher les 40 références
