Conclusion :
WHAT HUMAN BEINGS CAN’T DO !

Les limites que les adversaires de l’intelligence artificielle attribuent à l’ordinateur peuvent se voir opposées celles de tout être humain, ou de l’espèce humaine en général. La position philosophique consiste à considérer ces limitations comme ontologiquement liées à la machine. Mais on a pu remarquer que certaines étaient communes aux deux supports de “capacités d’inférences”. Cette opposition philosophique de l’humain et de la machine ressemble à une simple modernisation de l’opposition traditionnelle de la divinité avec l’humanité, où l’humain serait la nouvelle divinité. La nouveauté consiste à inverser le cartésianisme : la machine serait trop abstraite, et la richesse de l’humain serait sa matérialité.

Compréhension informaticienne

Un des paradoxes de la critique de l’IA concerne la compréhension et ses limites. Cette question rappelle l’opposition de notions comme compréhension/explication, chère à la sociologie de la connaissance. Pour abréger les débats interminables, on pourrait définir la compréhension comme le partage des représentations, alors que l’explication correspond à la réduction d’un nouveau concept à des notions acquises (une des origines de cette confusion peut provenir du fait qu’en logique, ou en mathématiques, définir en compréhension revient à expliquer)  on peut aussi dire qu’on explique à autrui, alors qu’on comprend soi-même. Ce qui peut justifier qu’on n’ait pas besoin d’analyser ce qu’on comprend (d’où l’intuition philosophique), alors que l’explication correspond elle-même à une analyse, avec la contrainte communicative du contrôle par autrui.

On peut admettre que la confusion soit possible. Mais on semble exiger des êtres humains partisans de l’IA une absence cette ambiguïté qu’on considère par ailleurs comme leur spécificité — et comme une limitation de la compréhension pour les ordinateurs. Cela se manifeste, chez les partisans du jargon, par une classique exigence de puristes :

“A dit “La neige et blanche” et B lui montre l’espèce de boue grisâtre qu’ils ont sous les pieds. A répond “je voulais dire la neige pure”, et B lui répond “vous ne l’avez pas dit, et d’ailleurs il n’y a nulle part de la neige absolument pure”.” (Winograd & Flores, p. 97).

Dans le cadre de l’IA, on pourrait caractériser ce dialogue par le principe de typicité qui caractérise les entités par leurs propriétés moyennes ou habituelles (c’est d’ailleurs la seule raison de prononcer des évidences comme “la neige est blanche”). Cette sorte de purisme sémantique anti-communicationnel contredit l’intention originelle des adversaires de l’IA. On voit bien ici que le biais académique conduit à faire parler l’être humain comme un ordinateur, tel qu’on l’imagine, un peu stupide. On peut même y reconnaître, non la “maladresse”, mais le pédantisme formaliste de la caricature du bon élève en sciences qui affirmerait qu’il y a de l’eau dans le réfrigérateur parce qu’il y en a dans les “cellules des aubergines” (idem, p. 98).

Dans l’utilisation du terme comprendre par Minsky à propos du programme STUDENT de Bobrow, il est pourtant facile d’admettre, justement de façon humaine, la possibilité d’exagération ou de relativité du terme comprendre. On peut très bien imaginer que le programme comprend des phrases simples, ou des requêtes spécialisées, sans qu’il soit capable de comprendre à demi-mot. On peut d’ailleurs constater que Weizenbaum, l’un des principaux intéressés, n’est pas de l’avis maximaliste de Dreyfus. Il explicite d’ailleurs parfaitement les fonctions des systèmes à mémoire. Son programme ELIZA était capable de mémoriser les réponses, et d’en tenir compte dans ses répliques suivantes. Malgré ses propres réserves, cet auteur finit par admettre, comme à regret, que : “A la limite, on pouvait admettre qu’il avait “compris” quelque chose mais dans la plus faible acception de ce terme.” (p. 125). Comme on peut le constater, il n’y a donc pas de problème. Car justement, tout ce qui compte dans la compréhension, c’est l’acception la plus faible, et spécialement les conséquences pragmatiques, opératoires. Et ces résultats sont encore bien supérieurs à ceux de certains humains. Même s’il est possible que les partisans de l’intention puissent toujours prétendre comprendre davantage.

Si les prédictions optimistes ou les extrapolations des partisans de l’IA peuvent — à juste titre — être prises avec beaucoup de circonspection, l’hypothèse phénoménologique, en évoquant la non-finitude de nos pensées, décrit en fait très précisément ce programme intellectuel humain qui permet d’extrapoler, ou de comprendre les extrapolations, les projets. Les critiquer au nom d’un principe qui affirme cette compréhension correspond à la mauvaise foi dogmatique, qui refuse les conclusions dérangeantes. Le fait que des informaticiens la maîtrisent mieux que les philosophes peut d’ailleurs laisser supposer qu’elle est automatisable. Elle est en tout cas explicite chez des partisans de l’IA comme Jacques Pitrat (in Dreyfus, p. 434). Car il note explicitement que les prédictions trop optimistes sont le lot de toute recherche. Il lance même l’hypothèse que cela permet de ne pas se sentir écrasé par les difficultés. Inversement, l’interrogation philosophique semble consister à effrayer les pauvres humains par l’exhibition des obstacles qu’ils doivent affronter. Comme dans le cas de la conquête spatiale préhistorique (voir Extrapolations et premiers pas), Pitrat se montre plus compréhensif que Dreyfus. En vertu du principe SURCOUF, ceux qui parlent le plus de compréhension sont ceux qui semblent en avoir le plus besoin. Alors que l’erreur des informaticiens, si erreur il y a, serait plus humaine que le jugement qui exige une perfection robotique, tout en niant sa possibilité. Ces nombreuses contradictions nous font douter de la santé mentale ou de la capacité d’analyse de certains philosophes. Quand Pascal énonçait simplement :

“Dans la langue usuelle, nous sommes très loin, rappelons-nous, d’appliquer des règles strictes  pas plus que nous l’avons apprise en utilisant des règles strictes. “ [NOTE 170] (in Dreyfus, p. 257).

Il opposait, en fait, le sens commun à la logique — même s’il avait tort. La préférence de Dreyfus semble pourtant aller à la glose de Wittgenstein, contre ses convictions phénoménologiques. On peut constater qu’il s’agit bien d’une régression, c’est le cas de le dire, infinie :

“Wittgenstein, pour réfuter l’affirmation selon laquelle le langage serait un calcul, ne se contente pas de fonder son raisonnement sur une description phénoménologique de la façon dont nous nous servons du langage, apparemment sans suivre des règles. […] Il part de l’hypothèse que toute conduite non arbitraire doit se dérouler selon des règles — puis il établit l’absurdité de cette hypothèse en demandant quelles sont les règles qui nous permettent d’appliquer les règles et ainsi de suite.” (Dreyfus, p. 257).

La prétendue démonstration par l’absurde est ici une contradiction (démonstration absurde et non par l’absurde) : celle qui consiste à exiger une mécanisation du discours au nom de la théorie niant cette possibilité. Les règles en question sont pourtant celles qui permettent de tenir ce genre de raisonnement. C’est justement ce formalisme, au sens normalisateur maniaque du terme, qui semble être une maladie anglo-saxonne. La validité des restrictions de Dreyfus pourrait se limiter à ce contexte culturel.

Inversement, on peut considérer la formalisation du langage naturel comme toujours réalisée, à un niveau donné de compétence ! On peut même considérer que c’est aussi le cas pour les langages informatiques, et à chacun de leur niveau d’évolution. Chacun constitue un dialecte intermédiaire entre l’humain et la machine, puisque l’ordinateur fonctionne toujours en codage binaire, et que chaque langage de programmation est traduisible dans le niveau inférieur [NOTE 171].

Quoi qu’il en soit, le débat de l’IA possède l’intérêt de représenter une formalisation des questions que se posent certains membres de la communauté universitaire. Ce travail a donc au moins une valeur documentaire, voire anthropologique, comme les observations suivantes le rappellent :

“Dans quelques générations, quand l’IA aura atteint ses buts, nos successeurs ne comprendront pas l’intérêt de nos écrits  ils penseront que nous ne disions que des banalités, que nos papiers n’étaient qu’un tissu de lieux communs. En lisant des ouvrages comme celui-ci, ils se rendront compte que ces lieux communs n’étaient pas si évidents puisque des esprits compétents, cultivés, qui cherchent sincèrement à y voir plus clair, ont eu de la peine à les admettre.” (Jacques Pitrat, “Discussion” in Dreyfus, p. 439).

Mais Pitrat est trop modeste : quand l’IA aura atteint ses buts, elle sera aussi parvenue à définir les conditions d’un passage d’un stade à un autre, ou à expliciter ce qui cloche dans un raisonnement. Si ces écrits (pour et contre) ne sont donc pas ridicules, l’IA formalisera l’interprétation elle-même, parce que seule la formalisation correspond à une explication.

Méthode critique automatisée

On peut d’ailleurs réduire ce problème de compréhension à l’acceptation de toute problématique divergente. C’est particulièrement le cas de toute critique, car il est souvent difficile d’apprécier la valeur constructive des critiques ou des contestations qui nous sont opposées. Leurs propres auteurs se considèrent d’ailleurs eux-mêmes comme des opposants. Or, la récupération d’expertise exige bien entendu aussi de récupérer la tradition critique. De ce point de vue, le refus de la “récupération” cher aux gauchistes est une simple tentative d’inhibition des adversaires.

Certaines critiques sont aussi discréditées par l’absence de respect de formes méthodologiques admises, comme on a pu le voir dans le cas de Dreyfus lui-même, et dans d’autres. Ainsi, les critiques comme celles de notre quatuor (qui est évidemment un quintette) pourraient servir de critiques positives. Mais cette récupération d’expertise demande un tour d’esprit constructif et ouvert. Il n’est pas celui de l’intention subjective de nos auteurs, qui s’expriment sur le mode de l’imprécation, du tabou, de l’anathème. Mais il est effectivement possible de neutraliser l’intention, contrairement aux conceptions de ces auteurs qui affirment l’irréductibilité de la subjectivité.

Si on veut échapper à la stratégie du soupçon, sans tomber dans l’angélisme, l’idéal est bien une procédure automatisée qui permet de prendre en compte le risque des abus de la rhétorique et de fournir une réponse appropriée. Un traitement automatique possède bien certains avantages d’impersonnalité et d’exhaustivité, spécialement contre la mauvaise foi ou la naïveté. Il peut être considéré comme un véritable juge de paix (comme le dictionnaire pour les jeux de lettres, ou les facts checkers — qui contrôlent toutes les affirmations émises dans les articles des journaux anglo-saxons [NOTE 172]). Utilisé à la source, il peut constituer une première lecture et permettre au rédacteur de mieux accepter les critiques ou de corriger les contradictions. Accessoirement, il permet d’éliminer la possibilité de plagiat, et de consacrer les nouveautés authentiques. Et au minimum, il permet le repérage des lieux communs dans les travaux épistémologiques (lieux communs marxistes, constructivistes, relativistes, ou phénoménologiques). On peut en constater souvent la persistance, dont le ronronnement rituel semble tenir lieu de pensée auprès des gogos.

Le principe fondamental du défi de l’IA est la simulation du comportement normal d’une activité intellectuelle. Ceci justifie l’analyse du sens commun ou du langage naturel, et l’intérêt de la perspective de la pensée comme calcul est de permettre la mécanisation de la critique elle-même. La méthode critique employée ici correspond d’ailleurs à une étape dans l’automatisation de traitement de l’information contenue dans les textes critiqués, ou ceux qu’ils évoquent eux-mêmes.

Un texte peut être considéré comme une base de données structurée d’une façon particulière. Le cahier des charge est l’extraction des connaissances ou des arguments pour en permettre une consultation plus commode. On peut représenter le problème, par exemple, en simulant ce qui se passe (depuis toujours) quand on lit un texte. La première phase en est l’indexation, plus ou moins poussée, depuis le catalogage bibliothécaire jusqu’à l’analyse de chaque unité minimale de sens. Dans une fiche de lecture, cette unité est une citation, ou quelque chose comme un résumé. L’analyse n’est pas forcément ultime, même pour un être humain, ce qui permet les relectures.

Dans une perspective de modélisation de la lecture, on peut admettre qu’on confronte des propositions élémentaires avec une base de connaissance exprimable sous forme d’autres propositions. Celles-ci contiennent des croyances personnelles, des références documentaires extérieures, une référence aux autres propositions du même texte ou du corpus considéré, et des propositions d’observations par confrontation au réel. C’est bien entendu une évidence (ce dont la négation implique contradiction), puisqu’on ne peut s’opposer à tout ou partie de cette thèse sans la confirmer.

On peut considérer le débat comme la recherche du maintien de la cohérence des propositions élémentaires, comme dans la base de connaissances des systèmes experts. On pourrait également remarquer que les inter-contradictions entre opposants de l’IA leur permettraient de s’auto-convaincre mutuellement de la fausseté de leurs positions. Certes, ces contradictions, ou les contradictions internes à un même opposant, ne constituent pas une preuve logique du contraire (dire à la fois a et non-a, ne prouve ni a, ni non-a). Mais on peut admettre que l’opposition à l’existence ou à la possibilité d’une discipline comme l’IA exige un minimum de cohérence. Au moins pour ne pas avoir à répéter les arguments, ou les démonstrations acquises.

On peut catégoriser cette cohérence pour chaque critère de validité : critère subjectif (Weizenbaum dit X), critère formel (Searle dit X/Searle dit non-X), critère intersubjectif (Dreyfus dit X/Piaget dit non-X), critère objectif (Winograd et Flores disent X/l’observation dit non-X), etc. Un simple classement par thème produit déjà un résultat qui identifie des tendances dans les arguments épistémologiques. L’opposition objectif/subjectif correspond à celle de la phénoménologie ou du constructivisme avec l’empirisme  l’opposition objectif/formel correspond à celle du rationalisme avec l’empirisme  l’opposition subjectif/intersubjectif correspond à celle de l’individualisme avec les collectivismes, romantiques ou marxistes par exemple  etc.

Un intérêt de cette perspective critique est d’éviter les problèmes d’échantillonnage puisque cette méthode doit fonctionner en toutes circonstances, à partir de la connaissance actuelle. L’autre intérêt est de pouvoir formaliser tous les niveaux de connaissance : ne rien comprendre est déjà une indication — au moins de non-correspondance avec l’acquis —, et chaque palier de compréhension est exploitable. Ce qui permet d’admettre une critique partielle comme légitime. Il est ainsi possible de supposer que la nature des compétences est simplement cumulable, et progressive, comme dans l’apprentissage de la lecture, ou d’une langue étrangère. Le dernier intérêt est de représenter l’erreur de compréhension, la formation du préjugé, les rumeurs et légendes elles-mêmes, par des opérations identiques à celle de la connaissance exacte. Ce qui est une condition posée, par les sociologues de la connaissance comme David Bloor, à une épistémologie des sciences humaines.

La seule réserve opposée à cette mécanisation reste celle de la subjectivité. Il est devenu banal d’entendre dire que la lecture est une relation personnelle avec un texte. Mais ce poncif semble bien n’être qu’une simple laïcisation académique de la perspective protestante de la relation à la Bible ! Toute la question devient donc celle de l’objectivation des phénomènes cognitifs et de leur simulation par un programme ou un système autonome. Le résultat peut bien devenir une identité cognitive, si réduite soit-elle.

On voit bien que le problème n’est pas réellement la compréhension informatique, puisqu’il est parfaitement possible d’effectuer le codage manuellement. La compréhension automatique correspond simplement, ce fut toujours le cas, à l’automatisation de ces processus manuels de codage. Il serait possible également de considérer que l’indexation n’est que partielle. Cette indexation automatique devient un objectif raisonnable de compréhension partielle, qui ne traiterait alors que des résumés. La compréhension globale devient elle aussi une simple amélioration progressive de ces compétences. Les différences avec l’acquisition individuelle de la connaissance, ou sa formalisation spécifique, repose tout aussi simplement sur le fait qu’on doit traiter la masse des connaissances déjà accumulées.

Pathologie cognitive et philosophie thérapeutique

Il semble possible d’affirmer que les délires essentialistes correspondent ainsi à un état pathologique. Certes, le terme de pathologie risque de constituer une labélisation, du fait que la caractérisation est extérieure au sujet, et du fait des habitudes sociales de stigmatisation. Mais, on peut aussi considérer qu’un obstacle épistémologique, comme ceux qu’étudiait Bachelard, est au moins un stade incomplet à dépasser par le sujet. Ces obstacles épistémologiques ne sont d’ailleurs qu’une reprise des idola tribu de Bacon. La question de la reconnaissance des individus qui surmontent cet obstacle laisse néanmoins entier le problème de savoir comment ils l’ont surmonté. Ce qui peut donc se poser en terme de pédagogie. Un type de solution corrective peut correspondre à la stratégie de recadrage, mise au point par les psychologues de l’école de Palo Alto. Leur but, hormis les tours de passe-passe, est simplement d’expliquer le changement de croyances, ou d’expliquer comment on surmonte les obstacles épistémologiques.

Un bon exemple de blocage est celui de Searle, face aux réponses à sa fameuse parabole chinoise (voir le paragraphe De la sémantique chinoise). Il semble que le philosophe ne comprend pas ce qu’on lui explique, parce qu’il ne comprend sans doute pas ce qu’est une explication. De par sa fonction, le philosophe doit être capable de produire les connaissances canoniques, en les référençant exactement. Mais il semble incapable d’assimiler une contradiction qui réorganiserait sa base de connaissances — ce qui est somme toute une attitude assez commune.

Mais il n’existe pas non plus de raison de ne considérer que les situations dramatiques de blocage psychologique. D’autant que ces obstacles évidents a posteriori, sont légitimes en situation. Contrairement à ce que paraît considérer Bachelard, les contemporains ont toujours de bonnes raisons de croire ce qu’ils croient. De plus, les catégories des acteurs comprennent aussi, bien évidemment, les concepts scientifiques, ce que Bachelard semble aussi négliger. Or, la science constitue précisément le moyen d’améliorer la formalisation des concepts courants ou traditionnels. Ce qui permet d’envisager encore l’hypothèse de continuité du progrès des connaissances.

Finalement, le fait qu’on puisse formaliser une erreur du sens commun en termes logiques (cf. Boudon, L’art de se persuader), est bien la moindre des choses. Ce qui ne signifie cependant pas que les mentalités prélogiques n’existent pas. Cela signifie plutôt que les opérations logiques ne sont pas innées, ou en tout cas pas achevées de façon innée. Comme le remarque Boudon lui-même, les adultes font de nombreuses erreurs logiques, qui permettent donc de distinguer des stades, et d’attribuer une valeur à l’apprentissage. Celui-ci peut être : soit effectivement spontané, par simple maturation  soit simplement pédagogique  soit un learning, qui comprend la participation active du sujet. Il est donc effectivement possible de parler, non de mentalité prélogique, mais des stades logiques caractérisant les différentes mentalités, idéologies, cultures — personnelles ou collectives. Le fait qu’on rencontre une coexistence de ces stades dans une même culture, ou même chez un seul individu, n’est pas contradictoire. L’évolutionnisme n’est même pas réfuté, tout au plus est-il nuancé par la nécessité d’effectuer des études de diffusion.

Au fond, un des problèmes qui a motivé cet ouvrage était de savoir comment les intellectuels pouvaient produire des sottises qui passent pour de la pensée. L’expérience à montré au cours du XXe siècle que la réflexion humaine pouvait se compromettre dans toutes les idéologies. Se revendiquer de l’humanité ne peut pas être une garantie à opposer à ce qui est supposé caractériser la machine. Ces problèmes correspondent à la reconstitution des mécanismes de ces idéologies, ou pourquoi pas à la mise au point d’un programme simulant ces comportements intellectuels idéologiques. Nous avons vu, au moins partiellement, que c’était possible (avec la Robotique phénoménologique). Et cela répond à l’opposition philosophique à l’automatisation de la pensée et du raisonnement. A la rigueur, on peut admettre qu’une inquiétude légitime se manifestait par ce moyen, mais en évacuant la responsabilité sur un bouc émissaire artificiel.

Une première contradiction des philosophes et de la phénoménologie porte sur la rémanence, dans leur propre discours, des catégories philosophiques auxquelles ils s’opposent. Mais il est encore plus contradictoire de noter que leur position, quand elle s’oppose de façon légitime, ou non contradictoire, à la philosophie traditionnelle, est justement compatible avec l’intelligence artificielle. Contrairement à leurs intentions, de nombreux arguments phénoménologiques rendent possible le projet de l’IA. Car la nouveauté de l’IA est de représenter la synthèse entre différentes positions, et de résoudre de nombreux paradoxes et apories de la tradition philosophique. Au minimum, elle constitue un outil de productivité intellectuelle [NOTE 173]. Mais elle peut quand même être dite intelligente, soit par les mécanismes qu’elle met en œuvre, soit par son objet. Chez ceux qui pratiquent l’informatique, la simple manipulation des paragraphes dans les traitements de texte, permet de prendre conscience de la construction du discours.

Prendre le parti de la défense de l’IA consiste-t-il, comme le propose un de ses adversaires, à se prendre pour un ordinateur. Au lecteur de juger si ce qu’il vient de lire est l’expression d’une individualité. L’amateur de paradoxe remarquera que, dans cette éventualité, cela pourrait fournir un argument contre l’automaticité. Cependant, la recherche de la reproductibilité reste un objectif scientifique et pédagogique, à distinguer, comme j’espère on a pu le voir, du conformisme. Et l'approche philosophique est bien inconséquente en tentant de résoudre le problème de la liberté par son identification à l'essence de l'être humain en croyant se dispenser de l'étude des manifestations empiriques des limites que peuvent constater les sciences humaines.

Notes