INTELLIGENCE ARTIFICIELLE GÉNÉRATIVE

Limitations des agents conversationnels et de l’IA générative

L’IA générative déconcerte. Les résultats obtenus, qu’il s’agisse des images ou des textes générés, impressionnent. Chacun peut désormais toucher du doigt ce dont il s’agit en téléchargeant une simple application sur son téléphone mobile. Ces techniques sont appelées à rendre de nombreux services dans bien des secteurs d’activités, comme la publicité – afin, par exemple, d’agrémenter, en la personnalisant, la présentation de produits grâce à des images – ou l’administration, qui pourra en bénéficier pour faciliter les communications entre les fonctionnaires et le grand public.

Époustouflantes, les performances des techniques d’IA générative n’en suscitent pas moins quelques inquiétudes. La première tient à la puissance de calcul requise par l’apprentissage sur des réseaux comprenant des centaines de milliards de paramètres et à ses effets délétères sur le climat en raison de ses besoins énergétiques. Vient ensuite le caractère hasardeux des contenus générés. Beaucoup sont faux. Les mots s’enchaînent en obéissant uniquement à des critères statistiques : la machine choisit celui qui est le plus souvent utilisé dans un contexte linguistique donné. Autrement dit, en reprenant les termes d’une ancienne chercheuse de la société Google, Timnit Gebru, spécialisée dans l’éthique de l’IA, ces machines sont des « perroquets stochastiques » : perroquets parce qu’ils répètent les textes à partir desquels ils ont appris ; stochastiques car ils font uniquement appel à des probabilités. Rien n’assure de la validité des assertions formulées. Le chatbot construit uniquement avec des LLM ne vérifie pas ce qu’il dit ; il se contente d’accoler les mots les uns à la suite des autres en les sélectionnant selon leur vraisemblance d’apparition (c’est-à-dire selon un critère probabiliste). Il s’ensuit qu’il débite parfois des erreurs. Ces dernières correspondent à ce que l’on appelle communément des « hallucinations ». Toutefois, le terme est mal choisi, car une hallucination est une perception sensible qui n’a pas de contrepartie dans le monde extérieur. Or, le chatbot ne perçoit rien. On devrait plutôt parler d’affabulations, en ce sens que ces erreurs proviennent, comme l’imagination, de la seule combination d’éléments mémorisés. Ces affabulations peuvent contribuer à la désinformation des populations puisque ce que l’on voit, ce que l’on entend et ce que l’on lit peut se révéler erroné.

On accuse aussi l’IA générative d’encourager la tricherie et la paresse, lorsque des étudiants, des journalistes ou des avocats, par exemple, se font passer pour les auteurs de textes qu’ils n’ont pas écrits. Enfin, beaucoup craignent l’incidence de l’IA générative sur certains métiers, par exemple sur l’activité des graphistes – qui se trouve concurrencée par des logiciels en mesure de proposer à peu de frais des illustrations – ou sur celles de journalistes, voire d’avocats, pour l’exécution de tâches routinières, mais rémunératrices. La mise en œuvre de l’IA générative suscite tant d’inquiétudes que le Parlement européen a proposé une réglementation spécifique au sein du règlement général pour l’intelligence artificielle (AI Act).