Le mathématicien Martin Andler intervenait cette semaine dans le séminaire "Le rôle de l'imaginaire dans la découverte", co-organisé par l'Observatoire de Paris et l'université Versailles-Saint-Quentin. Son sujet était la création en mathématiques et en particulier la place de l'erreur.
L'exemple de Henri Poincaré travaillant sur le problème des 3 corps offre un cas intéressant pour aborder cette question : suite à la création d'un prix de mathématiques par le roi de Suède, sur une idée du mathématicien Gösta Mittag-Leffler, il soumet son travail et remporte le prix et sa dotation de 2 500 couronnes le 21 janvier 1889. Le jeune mathématicien Lars Edvard Phragmén (26 ans) est chargé de préparer la publication du long mémoire de Poincaré quand il tombe sur un passage obscur, alerte Mittag-Leffler qui écrit à Poincaré, lequel découvre alors une erreur substantielle à un autre endroit. Poincaré écrit une lettre embarrassée à Mittag-Leffler (en affirmant qu'il entrevoit déjà quelque solution) et il récupère les exemplaires qui circulent déjà. Le scandale est évité, charge à Poincaré de rembourser les frais d'impression soit 3.500 couronnes. Il achève en janvier 1890 la réparation de l'erreur. Le mémoire est publié à l'automne, sans véritable mention de la contribution de Phragmén mais celui-ci bénéficiera de la recommandation de Poincaré qui aidera sa jeune carrière.
L'erreur en question, sur lequel Poincaré travailla si longtemps avant d'en trouver une solution, était son idée que les deux courbes positives et négatives symptotiques coïncident : non seulement ce n'est pas le cas mais pour le montrer, Poincaré dut concevoir l'existence de trajectoires chaotiques. Cette erreur fut féconde[1] et Martin Andler nous dit que l'erreur est toujours possible et, dans une certaine mesure, la récompense est proportionnelle au risque.
Généralisant au problème de l'invention et de la création en mathématiques, Andler nous rappelle la fameuse citation de Poincaré :
Au moment où je mettais le pied sur le marchepied, l'idée me vint, sans que rien dans mes pensées antérieures parût m'y avoir préparé, que les transformations dont j'avais fait usage pour définir les fonctions fuchsiennes étaient identiques à celles de la Géométrie non euclidienne. Je ne fis pas la vérification, je n'en aurais pas eu le temps, puisque à peine dans l'omnibus je repris la conversation commencée; mais j'eus tout de suite une entière certitude. Le retour à Caen, je vérifiai le résultat à tête reposée pour l'acquit de ma conscience.
C'est ce que Poincaré écrit à 54 ans dans son essai "Science et méthode", se rappelant un épisode advenu dans sa prime jeunesse. Il donne la même année sa conférence "L'invention mathématique" où il écarte les qualités qui devraient têtre communes aux mathématiciens en admettant que sa mémoire est fragile, son attention limitée, qu'il est un mauvais calculateur et donc un mauvaise joueur d'échec. Les mathématiques, affirme-t-il, ne sont pas un alignement mécanique de calculs ou de raisonnements logiques élémentaires : ce qui compte c'est de sélectionner parmi les innombrables faits qui se présentent, ceux qui ou leur analogie avec d'autres faits, sont susceptibles de conduire à la connaissance d'une loi mathématique
. Le raisonnement mathématique fonctionne par analogie et tout le travail (involontaire) consiste à faire émerger au niveau conscient, parmi ces combinaisons diverses produites par l'inconscient, celles qui affecteront le plus la sensibilité du mathématicien par leur beauté et leur harmonie.
On retrouve ici l'idée selon laquelle les mathématiciens décrivent leur travail en mettent en avant élégance, beauté des formes et des structures, imagination… vs. ce que le grand public (souvent élevé à la dure école des mathématiques) en dit : des chiffres et de la logique qui s'opposent à la liberté de l'imagination. Sauf que ce grand partage est presque trop beau pour être vrai. Je doute que pour tout mathématicien la recherche ne soit qu'esthétique et poésie. J'aurais tendance à voir dans ce discours un travail de fabrication d'une identité professionnelle et surtout de démarcation[2] vis-à-vis des mathématiques scolaires ou appliquées.
Ainsi, les exemples de mathématiciens qui ont mis en avant la dimension esthétique ou inconsciente de leur travail sont souvent des pointures exceptionnelles et non la généralité. Pensons à Jacques Hadamard, un des grands mathématiciens du début du XXe siècle français, qui donne dans son Essai sur la psychologie de l'invention dans le domaine mathématique toute sa place à l'intuition. Est-ce parce que ces mathématiciens, après avoir tout prouvé, peuvent se permettre de révéler un peu de leur méthode qui est moins glorieuse qu'on n'aurait pu le penser — ou bien parce que ces mathématiciens sortent nettement du lot ?
Bien des questions restent ouvertes, mais il est crucial de se les poser !
