MISE EN ABYME

Associé à André Gide et au Nouveau Roman, qui l'a popularisé, le terme de « mise en abyme » est volontiers utilisé aujourd'hui pour désigner indifféremment toute modalité autoréflexive d'un texte ou d'une représentation figurée. Ainsi Fable de Francis Ponge sera-t-il qualifié de poème « en abyme », puisqu'il exploite l'autoréférence, pratique le repli narcissique sur soi et s'écrit, comme le fameux Sonnet en X mallarméen, sous le signe du « langage se réfléchissant ».

FABLE

Par le mot par commence donc ce texte

Dont la première ligne dit la vérité, Mais ce tain sous l'une et l'autre, Peut-il être toléré ? Cher lecteur déjà tu juges Là de nos difficultés...

(après sept ans de malheurs,Elle brisa son miroir.)

Toutefois, un rapide retour aux sources nous engage à adopter une acception plus restrictive du vocable. En 1893, Gide écrit dans son Journal : « J'aime assez qu'en une œuvre d'art on retrouve ainsi transposé, à l'échelle des personnages, le sujet même de cette œuvre. Rien ne l'éclaire mieux et n'établit plus sûrement toutes les proportions de l'ensemble. Ainsi, dans tels tableaux de Memling ou de Quentin Metsys, un petit miroir convexe et sombre reflète, à son tour, l'intérieur de la pièce où se joue la scène peinte. Ainsi, dans le tableau des Ménines de Vélasquez (mais un peu différemment). Enfin, en littérature, dans Hamlet, la scène de la comédie ; et ailleurs dans bien d'autres pièces. Dans Wilhelm Meister, les scènes de marionnettes ou de fête au château. Dans La Chute de la maison Usher, la lecture que l'on fait à Roderick, etc. Aucun de ces exemples n'est absolument juste. Ce qui le serait beaucoup plus, ce qui dirait mieux ce que j'ai voulu dans mes Cahiers, dans mon Narcisse et dans La Tentative, c'est la comparaison avec ce procédé du blason qui consiste, dans le premier, à en mettre un second „en abyme“ ».

Explicitant les exemples livrés dans une première approximation, la référence à l'art héraldique invite ainsi à concevoir la mise en abyme comme un fait de structure intéressant différents systèmes de signes – iconiques, indiciels, symboliques – et susceptible de la définition suivante : est mise en abyme toute enclave ayant pour référent la totalité qui lui sert de cadre.

La littérature en ses miroirs

L'élaboration typologique déployée dans Le Récit spéculaire établit que la réflexion, exercée le plus souvent par une « œuvre dans l'œuvre » (tableau, pièce de théâtre, morceau de musique, roman, conte, nouvelle, etc.), peut se spécifier selon qu'elle porte sur l'énoncé, l'énonciation ou le code de l'ensemble où elle opère. Elle fait valoir en outre qu'une mise en abyme ne se qualifie pas seulement par l'objet qu'elle réfléchit, mais aussi par la nature du rapport analogique qui prévaut entre sujet et objet de la réflexion.

Sur la base des exemples produits par Gide ou des illustrations qu'on pourrait emprunter, dans son sillage, aussi bien à l'histoire de la littérature (les romans de Jean Paul ou les nouveaux romans en fournissent une mine), de la peinture (Le Mariage Arnolfini de Van Eyck ou certains tableaux paradoxes de Magritte ou d'Escher), voire d'autres médias (cinéma et publicité notamment), on s'avise en effet que le degré de ressemblance entre agent réflecteur et ensemble réfléchi, selon qu'il relève de la similitude, du mimétisme strict ou de l'identité postulée, détermine trois modalités réflexives fondamentales : la réflexion « simple », c'est-à-dire la duplication intérieure symbolisée par l'image du blason dans le blason ou le « modèle réduit » (il en va ainsi pour la plupart des « œuvres dans l'œuvre », telle par exemple la représentation de Phèdre dans La Curée [1871] de Zola ou les descriptions que fait le narrateur des tableaux d'Elstir dans À la recherche du temps perdu de Proust) ; la réflexion à l'infini emblématisée par les matriochkas ukrainiennes, la boîte de cacao Droste qui inspire à Leiris un passage fameux de L'Âge d'homme (1939), le couvercle de la non moins fameuse boîte de fromage La Vache qui rit, certaines affiches publicitaires – et dont les comédies de Tieck ou Les Faux-Monnayeurs (1925) donnent en littérature une idée approchée ; enfin, la réflexion aporistique, c'est-à-dire l'auto-inclusion qui boucle l'œuvre sur soi et, à l'instar de ces structures réversibles ou ambidextres que sont l'anneau de Möbius ou les nœuds borroméens, réalise une manière d'oscillation entre son dedans et son dehors. Don Quichotte (1605-1614 ?) de Cervantès, Le Docteur Pascal (1893) de Zola, Paludes (1895) de Gide, Projet pour une révolution à New York (1970) de Robbe-Grillet, Triptyque (1973) de Claude Simon, Si par une nuit d'hiver (1979) de Calvino ou, plus simplement, Les Enfants du limon (1938) de Queneau, où un personnage remet les résultats de ses investigations à un jeune écrivain nommé Queneau, qui les intégrera à un roman : Les Enfants du limon, sont autant de variantes littéraires de ce processus.

Si l'attrait – voire la fascination et le vertige – éprouvé pour l'une ou l'autre de ces modalités réflexives répond comme de bien entendu à un imaginaire d'époque, on devine que l'option en faveur de tel ou tel type est également dictée par les effets qu'on en attend à chaque fois : selon qu'il s'agit pour la littérature de faire triompher l'illusion et la métamorphose (le baroque), de se dépasser indéfiniment elle-même par élévation à la puissance (le romantisme allemand), de se couper de toute attache extérieure pour s'affirmer poésie pure (Mallarmé) ou de se démarquer d'une conception réaliste ou engagée de l'activité littéraire pour réfléchir (sur) les propriétés et l'impact d'une écriture (le Nouveau Roman), certains types ou réflexions conviennent mieux que d'autres. Sans compter que les virtualités signifiantes du procédé apparaissent assez riches et labiles pour que celui-ci puisse être mobilisé tantôt pour enrichir par surimpression le sens d'une œuvre (L'Âne d'or d'Apulée), tantôt pour le brouiller à force de jeux de miroirs et de dédoublements spécieux (La Jalousie, 1957, d'Alain Robbe-Grillet), tantôt, au contraire, pour lui ôter toute ambiguïté en dotant le récit d'un organe de lisibilité (les romans de Zola).

À cet égard, on peut se demander si, en tant que facteur destiné à assurer la transparence du texte, la mise en abyme n'œuvre pas à fins contraires, ne serait-ce que par l'atteinte qu'elle porte à la mimèsis. Comme le « tableau dans le tableau » chez Magritte retourne le trompe-l'œil contre lui-même, dénonce l'illusion picturale et trahit « l'idéologie de la fenêtre » qui domine la peinture occidentale depuis la Renaissance pour la remplacer par l'idée paradoxale d'une croisée ouvrant sur l'intérieur (L'Éloge de la dialectique), la mise en abyme n'a-t-elle pas pour effet de brouiller tout effet « réaliste », de provoquer des ratés dans la représentation et, ce faisant, de saper l'illusion référentielle du lecteur de manière que celui-ci épouse un point de vue critique, la question portant sur le monde comprenant désormais celle qui porte sur la réception, la production du spectacle et le spectacle lui-même ?