DÉMONSTRATION THÉORIE DE LA

La théorie de la démonstration est la logique de la logique. En contraste avec d'autres sous-domaines tels que la théorie des modèles, les grandes questions qui ont tant passionné nos pères ont laissé une trace vivace dans cette discipline, qui s'occupe essentiellement (c'est là la définition technique de la théorie de la démonstration) de l'aspect syntaxique de la logique. Au début, grâce au programme de Hilbert, la théorie de la démonstration avait des visées claires et nettes ; mais, après l'échec du programme (1931), tout devint beaucoup moins simple. En particulier, plus question de répondre de manière simpliste aux grandes interrogations ontologiques sur la nature des mathématiques... Faute de pierre philosophale, la discipline aurait pu disparaître ; s'il n'en a rien été, c'est sans doute que l'étude générale des relations des objets finis aux objets infinis :

– dans la dénotation d'objets (infinis) par des constructions syntaxiques (finies),

– dans les preuves de propriétés d'objets (infinis) au moyen de démonstrations (finies), constitue, par-delà les querelles d'école et les tentatives éphémères du genre de celle que fit Hilbert, le véritable objet de la théorie.

Les avancées en théorie de la démonstration semblent liées à un progrès quant aux méthodes utilisées, plus précisément quant à leur complexité logique :

– Hilbert tenta d'élaborer une théorie élémentaire de la démonstration (« élémentaire » signifiant : de complexité logique nulle, cf. chap. 1) ;

– Gentzen a introduit les méthodes essentielles pour l'analyse des systèmes logiques finis (complexité logique Σ⁰₁ , cf. chap. 2) ;

– plus tard, on a considéré des logiques généralisées (infinies) ; la plus connue d'entre elles est la logique avec ω-règle (complexité logique Π¹₁ , cf. chap. 3) ; mais de nouvelles logiques de plus grande complexité (Π¹₂ , voire Π¹_n : cf. chap. 4) sont maintenant utilisées de manière intensive.

Cette question de complexité logique fait l'objet de nombreux contresens ; aussi importe-t-il de dire bien clairement en quoi elle intervient :

– individuellement, les objets considérés sont effectivement calculables, ils sont en pratique récursifs ; il en est de même des opérations définies sur ces objets ; par exemple les ω-démonstrations sont toujours récursives et peuvent être normalisées (par élimination des coupures) effectivement. On voit donc que, pour les objets, la complexité logique ne joue pas ;

– par contre, l'ensemble de tous les objets du genre considéré est logiquement complexe (l'ensemble des ω-démonstrations récursives est Π¹₁ ; cette complexité logique intervient de manière décisive dans la démonstration du théorème d'élimination des coupures, à savoir que la fonction effective qui élimine les coupures remplit bien son rôle) ;

– dans la pratique, la complexité logique joue surtout un double rôle ; elle a un rôle « hygiénique » : assurer que tout se passe bien, que les opérations définies ont les propriétés attendues ; elle joue aussi un rôle de révélateur : voir des problèmes simples de manière inhabituelle ; le détour par des problèmes de très grande complexité logique peut permettre d'y voir clair dans des situations élémentaires embrouillées.

Une dernière mise en garde : ne pas croire que la complexité logique d'un problème soit un gage de profondeur...

Le programme de Hilbert

David Hilbert a proposé un programme de démonstration d'une opinion philosophique : le formalisme. La prétention de Hilbert à démontrer son point de vue a pour contrepartie évidente la possibilité de le réfuter ; la philosophie s'accommode rarement de conclusions aussi tranchées ! Même réfuté, le formalisme garde ses adeptes, notamment en France,[...]