Gödel

Commençons par Gödel lui-même. Chez lui, le trouble psychique est manifeste : pour aller vite, il est persuadé de l'existence d'anges et de démons, plonge continuellement dans une forme de paranoïa selon laquelle on veut sa perte, selon lui comme tous ceux qui ne sont pas de leur époque. Il en mourra d'ailleurs, puisqu'il finira par ne plus manger de peur qu'on l'empoisonne. En fait, tous ses efforts de logicien sont pour lui un passage obligé pour une oeuvre plus centrale, celle qui le prend complètement, c'est le moins qu'on puisse dire : le travail philosophique. Il s'agit là pour lui de prouver l'existence centrale et fondamentale, parfaite, d'un domaine mystique, tout puissant et absolu. Sa tentative pour le moins réussie malgré tout de montrer l'incomplétude du monde concret, symbolique, mathématique n'a d'autre objet que de prouver la consistance indiscutable de cette autre monde, transcendant, divin, délirant auquel nous n'avons pas un accès direct. Il y échoua, en mourra, comme on le sait, s'il réussit pour le reste !

"On dit parfois que les logiciens, les mathématiciens sont fous. C'est une erreur. Il suf?t de se promener dans un département  mathématiques. Il n'y a rien dans le comportement des mathématiciens en général qui en fasse ces « fous ››. Néanmoins, on trouve dans l'histoire des mathématiques beaucoup plus d'anecdotes sur la folie (Gödel, Cantor et les autres) que dans celle d’aucune autre discipline. S'agit-il seulement de légendes ? Ou de on-dit que, pour une raison obscure mais extérieure à la discipline, nous retenons lorsqu'ils concernent les mathématiciens et oublions lorsqu'ils concement les physiciens ou les philosophes ? Ou bien, au contraire, la logique risque-t-elle toujours en effet de rendre fou ? Peut-être parce qu'elle enferme dans un monde clos par rapport à la réalité matérielle ? Je ne sais pas. Mais, dans le cas de Gödel, nous disposons des documents."

C'est ainsi que Gödel croyait fermement à l'existence d'anges et de démons, qu'il entendait parfois…

Tous les mathématiciens n'eurent pas ce genre de problème, seuls ceux chez lesquels le surinvestissement était exagéré étaient susceptibles de souffrir de cette dissociation trop forte entre le domaine symbolique et l'univers sensoriel. Russel, dont l'ecclectisme était remarquable, puisqu'il était aussi philosophe, homme politique, militant humaniste, n'était donc pas qu'un mathématicien, ce qui peut-être l'aida à rester en bonne santé psychique. Il est à lui seul un exemple d'hétérologie créative, et non victime d'une monologue fermée et enfermante.


Wittgenstein

Le trajet de Wittgenstein est à cet égard éclairant, lui qui, cherchant à fonder de manière intrinsèque la validité absolue du domaine logique, parvint à cette phrase finale : Sur ce dont on ne peut parler, il faut garder le silence. Encore faut-il expliciter ce dont on pouvait parler : Ne rien dire que ce qui se laisse dire, à savoir les propositions de la science de la nature. On ne peut mieux dire que le domaine là rigoureusement interdit est précisément celui de la sensibilité interne… Wittgenstein rencontra donc, si j’ose dire logiquement, quelques problèmes, du fait de cette dissociation radicale.
Pour aller vite, après quelques épisodes du genre de celui-ci : "Les méthodes d'enseignement de Wittgenstein étaient intenses et rigoureuses, ses élèves bénéficièrent d'une éducation d'un niveau peu commun pour le contexte. Wittgenstein avait cependant très peu de patience avec ses élèves les plus lents. Sa sévérité, sa discipline de fer comprenaient des châtiments corporels et la méfiance des villageois qui le soupçonnaient d'être un fou provoquèrent un certain nombre de conflits avec certains parents d'élèves. Particulièrement déprimé tout au long de cette période, il démissionna en avril 1926 et retourna à Vienne avec un sentiment d'échec,". Après ce qui ressemble à un épisode paranoïaque, Wittgenstein fini par prendre le contre-pied de son premier travail lequel peut être compris comme une tentative de justification philosophico-logique définitive de la dissociation radicale entre le monde symbolique et ce qu'il appelait alors l'univers mystique, et ce que j'appelle dans le présent travail le "reste".
Contrairement à Gödel, et heureusement pour lui, dans cette deuxième partie de son œuvre, il ne cherche pas à invalider l'un par l'autre, il n'est pas de guerre entre ces deux plans, ils sont simplement radicalement séparés. Mais il pose cependant qu'ils n'ont pas d'influence l'un sur l'autre, ils seraient en quelque sorte chacun tout à fait autonome.
Au sortir cet exercice destiné à clore définitivement la question, ici de la philosophie et non de la logique comme Gödel, ce qu'il crut avoir accompli, il plongea, également dans un trouble psychique, heureusement pour lui moins profond. Une dépression s'installa, après quelques échecs à appliquer sa philosophie, en particulier comme instituteur, période pendant laquelle l'absolu de sa vision du monde l'amena à maltraiter physiquement les enfants qui y résistaient, comme on l'a vu. Cette crise le conduisit, contrairement à Gödel, à modifier son point de vue, et à explorer plus avant l'univers de l'intuition et de la formalisation, bien qu'il posa jusqu'au bout l'indépendance des deux domaines. On connaît moins le Wittgenstein de cette seconde période, après la crise paranoïaque qui suivit la première. Au moins circula-t-il entre les deux, sans vouloir supprimer totalement l'un au profit de l'autre.

Dans l'ouvrage posthume intitulé "Investigations philosophiques", sur le tard de sa vie, il a donc tenté, grâce à ces quelques crises douloureuses, ce travail de réconciliation entre les deux plans de l'univers du langage, le symbolique et son "reste", bien que ce fût contradictoire avec la césure qu'il voulait maintenir.
« Selon Wittgenstein, la plupart des problèmes de philosophie découlent de l'incapacité des philosophes à comprendre correctement les règles du langage (Regeln der Sprache). Quand un philosophe demande par exemple ce qu'est la beauté, il est convaincu qu'il doit exister quelque chose d'essentiel qui doit rendre un être beau. Or, il ne s'agit en réalité que d'une erreur suscitée par la forme grammaticale de la question qu'est-ce que... ? Ainsi Wittgenstein fait-il remarquer que nous n'avons pas besoin de comprendre ce qu'est l'essence de la beauté pour utiliser le mot « beauté » correctement ; la recherche de l'essence crée même des confusions sur la correction de l'usage d'un terme. Aussi, au lieu de chercher un substrat qui définisse le beau, Wittgenstein propose d'en trouver le sens dans notre usage réel du mot ; par exemple, en se demandant comment les enfants en apprennent l'utilisation.
Ou encore : Un mot n'a pas un sens qui lui soit donné pour ainsi dire par une puissance indépendante de nous ; de sorte qu'il pourrait y avoir une sorte de recherche scientifique sur ce que le mot veut réellement dire. Un mot a le sens que quelqu'un lui a donné."
On voit qu'il n'est plus question d'isoler une objectivité logique du monde, mais au contraire de comprendre la subjectivité singulière de toute logique… Ainsi, dans ce moment de son œuvre, apparait la trace de la guérison de Wittgenstein de son clivage radical. Notons qu'il eut 4 frères dont 3 se suicidèrent, ce qui donne à penser sur la pesée particulière pour cette famille d'une transmission sans doute pas assez à l'écoute de la subjectivité de chacun…


Cantor

Mais si ce type de difficulté psychologique est lié au mode d'investissement de la recherche logique lorsqu'elle prend le pas sur tout le reste, ce fameux "reste" que nous explorons ici, d'autres logiciens ont pu tomber dans ce piège. Ce fut effectivement aussi le cas de Cantor, l'inventeur de la notion d'infini et précurseur de la théorie des ensembles dans le domaine mathématique. Car on sait moins que : Cantor écrivit aussi sur les implications théologiques de ses travaux en mathématiques ; il aurait identifié l'« infini absolu », l'infini d'une classe propre comme celle de tous les cardinaux ou de tous les ordinaux, à Dieu. Il ne manqua pas, après ces tentatives, d'inaugurer lui aussi un épisode psycho-pathologique qui dura quelques années, durant lequel sa créativité mathématique fut bloquée, heureusement pourrait-on dire.


Frege

Frege lui-même, dans cette époque, arriva à cette forme d'impasse, avec les mêmes ambitions de départ.
Auparavant, il bouleversa la théorie des mathématiques en faisant considérablement progresser l'analyse logique de l'arithmétique. Mais son but était, comme pour ses collègues de cette époque, de fonder une base logique solide aux mathématiques, qui la sépare définitivement de tout lien à une intuition, à une base sensible. Comme l'ensemble de ses collègues de l'époque, il y échoua en y laissant quelques plumes au passage, mais opérant un virage sur cet visée absolutisme à la fin de sa vie : Bien qu'on manque de renseignements sur les difficultés psychiques de Frege, on sait cependant qu'il entra dans une forme de retrait et de dépression à partir du moment où Russel lui signifia les contradictions de son système formel. Son ambition de faire consister en soi son appareil de représentation mathématique chuta à ce moment, et lui avec : En 1923, il est arrivé à la conclusion que l'idée (le logicisme) selon laquelle l'arithmétique est entièrement basée sur la logique, est une erreur. Il a alors commencé à considérer la géométrie comme une science possible pour la fondation des mathématiques. Bien qu'il ait commencé à élaborer cette idée, il n'a pas pu approfondir, à cause de sa mort. Il n'a en effet publié aucune de ces idées.

Entre 1906 et 1918, il ne publie pratiquement rien (à l'exception de quelques discussions dans lesquelles il critiquait ses collègues mathématiciens comme Carl Johannes Thomae (en)). En plus de sa crise créatrice, le paradoxe découvert par Russell a été accompagné de tragédies personnelles de sa vie, comme la perte de sa femme en 1904, et la grave détérioration de sa propre santé.
Frege refuse l'invitation que lui fait Bertrand Russell, pour assister au cinquième congrès mathématique international à Cambridge en 1912. Sa réponse négative montre son désespoir[3].
À partir de 1918, cependant, il a publié des articles importants, traitant de la nature de la pensée, la logique philosophique et mathématique y est détaillée. Ces publications et leur élan, laissent penser que sa période dépressive, qui avait été si longue, était, au moins temporairement, terminée.

Ainsi, Frege sorti de sa dépression en essayant de rétablir ce qu'il avait dans un premier temps tenté de supprimer : le lien entre le domaine formel, sensible, intuitif et les mathématiques. C'est d'ailleurs la conclusion à laquelle arrive Jean-Toussain Dessanti, dans un remarquable article sur cette époque des mathématiques :

L'« échec » des méthodes finitistes
Or l'usage des méthodes finitistes devait produire précisément le contraire du résultat que Hilbert en attendait. En 1931, Gödel devait démontrer l'incomplétude de l'arithmétique formalisée supposée ω-cohérente. L'usage des méthodes finitistes permet de construire dans ce système un énoncé qui n'y est ni dérivable ni réfutable. D'où cette conséquence décisive (et qui mettait fin aux espoirs hilbertiens) : l’impossibilité de démontrer, par des procédés finitistes, la non-contradiction de l'arithmétique et de toute théorie la contenant ; et, plus généralement, l’impossibilité de démontrer la non-contradiction d'un système formel à l'aide des seules ressources qu'il contient lui-même. Ainsi, par-delà Hilbert, prenait fin le projet logiciste que donnait Frege dans les Grundgesetze. Non point en raison de « paradoxes » dont on pouvait espérer s'évader moyennant des précautions adéquates, mais en raison d'une limitation essentielle qui semblait tenir à la fois à la nature des méthodes exigées pour une formulation correcte et par celle des champs d'objets que ces formulations concernaient. Une « grande logique » s'avérait impossible, c'est-à-dire une logique suffisamment forte pour qu'on puisse, à l'intérieur des procédures qu'elle définit, assurer la pleine sécurité de ses démarches. Les problèmes de « fondement » paraissaient par là, et pour longtemps, relativisés.
Cependant, on ne peut nommer « échec » un résultat qui témoigne pour la nature profonde du champ des objets qu'il concerne. C'est l'essor de la métamathématique qui a produit les théorèmes de limitation interne, restreignant par là le domaine où l'on peut légitimement poser les problèmes de fondement. De plus, cet essor a produit un complexe de concepts et de méthodes de nature à préciser et à affiner les instruments théoriques propres à dégager et à dominer les structures à l'œuvre dans les textes démonstratifs. Les concepts de système formel, de modèle se sont dégagés eux-mêmes comme objets d'investigation mathématique (cf. logique mathématique), donnant lieu à l'investissement, et parfois au remaniement de structures algébriques fondamentales. Plus que la juridiction, peut-être trop attendue, d'une logique absolue sur la mathématique, la mise en œuvre, par des méthodes mathématiques spécifiques, du problème des fondements a révélé l'indéfinie applicabilité de la mathématique sur elle-même, et la productivité réglée, mais en droit imprévisible, que cette applicabilité engendre.
L'auteur, auquel la psychanalyse n'est pas étrangère, on le sait, ose même avancer au fond : à chaque mathématicien sa mathématique, et va comme je te pousse pour le langage commun et universel qui fonderait tout cela… On ne peut mieux dire à mon avis, même s'il ne soutient pas tout à fait cela  aussi trivialement que moi.
Il est fondamental de noter que l’aperçu de cette limite de la logique, la référant alors à un contexte à chaque fois particulier, permit une inventivité incroyable aux mathématiques, ouvrant la possibilité des explorations de la complexité quantique, statistiques, neuronale, etc.., malgré les critiques que ces explorateurs de l’extrême eurent à subir !