Ponge et ChatGPT (5/x)

 ChatGPT ne reconnaît ses erreurs que lorsqu'on lui met le nez dessus. Et alors il le fait sans réticences, c'est-à-dire qu'il le fait non par respect pour la vérité, la réalité des faits, mais par complaisance. 

"Tu as raison."

ChatGPT répond ce que je serais le plus à même d'apprécier. Mais lorsque je lui donne une fausse information, il ne me corrige pas, il en rajoute. Du moins c'est ainsi que ça s'est passé dans cet échange (lors d'une autre session, il n'a pas hésité à corriger une faute de grammaire faite en allemand mais je lui avais précédemment indiqué que j'attendais de cet échange une amélioration de mon allemand et que, donc, implicitement, j'attendais de lui qu'il me corrige). Il devrait être possible de relier ces impressions subjectives aux mécanismes de base de l'IA (calculs de probabilités sur une chaîne de caractères, pour ce que j'en ai compris) mais faute de compétence technique j'en reste, dans mon essai de compréhension au niveau anthropomorphique du ressenti. 

ChatGPT est gentil, complaisant, il cherche à faire plaisir. Je m'en suis rendu compte lorsque je lui ai demandé d'évaluer de mes textes. Lorsque il est amené à faire des critiques (souvent pertinentes) et à proposer des corrections ou des réécritures (généralement ineptes), c'est avec infiniment de précaution et de délicatesse. 

Samuel Fitoussi (dont l'invitation, goutte à faire déborder le vase, aurait valu à Marc Weitzmann la suppression de son émission) explique au début de son dernier livre que les pensées que nous élaborons et formulons ont autant pour finalité de contenter notre environnement social que la connaissance de la réalité et que la première finalité pèse d'autant plus que l'erreur éventuelle amène moins de désagréments sensibles pour le sujet. Cette double finalité qui semble très vraisemblable d'un point de vue évolutionniste (on court moins de risque à propager une erreur généralement partagée autour de soi qu'à tenter de la réfuter) est bien identifiable dans les dynamiques des réseaux sociaux. N'en irait-il pas de même pour les IA conversationnelles? 

À quoi ajouter que le mécanisme chimique enclenché par notre satisfaction à voir approuvées, alimentées, justifiées nos convictions, nos préjugés et nos préconceptions, vient ajouter du fioul à ce moteur qu'il faut bien qualifier d'obscurantiste. Quel amour inconditionnel de la vérité, jaloux, scrupuleux, maniaque ne faut-il pas mobiliser pour résister à cet engrenage, et sans doute encore n'est-il pas suffisant. Une dose de mauvais caractère, de misanthropie, d'orgueil voire de prétention, peuvent aider, je crois, et de méfiance envers soi-même.