vendredi 1 mars 2024

Intelligence Potemkine

Voilà trois jours que j’utilise le fameux chat d’IA censé faire trembler le monde. Bien utilisé, il peut en effet, rendre de fiers services. Il faut savoir mettre à profit sa capacité de gestion de grandes quantités d’informations. Il peut donc effectuer un travail de synthèse et opérer des connexions textuelles entre différents ouvrages ou récits. Cela s’avère une arme redoutable pour déceler la propagation d’une tradition ésotérique camouflée dans la culture populaire. Par contre, si vous souhaitez obtenir une réponse tranchée sur une problématique impliquant nécessairement de l’interprétation, passez votre chemin. En effet, lorsque l’on aborde un sujet polémique, il va vous répondre avec une réponse unique et standardisée. Tout paraîtra correct, à un détail près. Mais ce détail fait toute la différence et imprime une vision des faits partiale mais érronée. Ce n’est uniquement que parce que vous citez la référence de vos sources ou que vous lui faites la remarque, parfois en insistant lourdement, que l’algorithme consentira à se corriger. Et encore, il cherchera à minimiser son erreur. Jusqu’à la reconnaître totalement si vous lui copiez une source textuellement.

Pour illustrer mon propos, je vais rapporter ma dernière expérience. Après avoir visionné une vidéo traitant du sujet de la propagande d’état, je découvre l’expression « village Potemkine ». Plutôt que d’aller sur wikipédia, comme je le fais toujours, et tout en étant conscient des limites idéologiques de ce support bien entendu, j’eus le réflexe de proposer l’expression au chat. Voici sa première réponse:

Le village de Potemkine, également appelé la ville de Potemkine, était un village construit en carton-pâte sur les rives du fleuve Dniepr en Crimée, en 1787. Il a été construit pour tromper l’impératrice Catherine II lors de sa visite en Crimée en lui donnant l’impression que la région était plus développée qu’elle ne l’était en réalité. Le village était nommé d’après Grigory Potemkine, un homme d’État russe qui aurait orchestré la tromperie.

Un peu surpris, je vais donc voir sur Wiki. Le récit est tout aussi tranché mais à l’inverse. Il est rapporté que le récit est une légende issue d’un pamphlet écrit par un diplomate afin de discréditer Potemkine. La légende s’est développée dans le temps grâce aux nombreux exemples de propagandes étatiques dont ont pu être témoin des observateurs critiques des régimes.
Voici donc ma remarque: vous ignorez donc qu’il s’agit là d’une légende?
Sa réponse: Je suis au courant que le village Potemkine est souvent considéré comme une légende. En réalité, il est difficile de dire avec certitude …

Le chat poursuit en se livrant à sa technique habituelle de correction de son propos qui consiste à dire « certains pensent que » et d’autres pensent que ». Comprenez bien que cette réponse ne vous sera fournie que parce que vous aurez insisté d’une manière ou d’une autre. Il est d’ailleurs fort possible qu’à partir d’un moment, il tente d’adapter ses réponses en élaborant une sorte de compromis entre votre point de vue et  celui qui est politiquement correct. Ce qui va générer des erreurs. Nous voilà avec un formidable générateur de « fausses informations ».  Et là, si vous cherchez à connaitre l’avis majoritaire, vous n’obtiendrez aucune réponse. Sur tout sujet il y a pourtant un avis majoritaire. Si l’algorithme possède une capacité d’analyse aussi importante qu’il est prétendu, il se doit  d’être en mesure de fournir un pourcentage du partage des avis sur une question. Or, il est incapable d’affirmer quel est l’avis majoritaire, laissant sous-entendre que les avis sont partagés équitablement. Ce qui est faux factuellement. Le chat se décrit lui-même comme précis. Force est de constater qu’il ne l’est pas. Soit il ne possède pas cette capacité, mais cela parait incohérent avec les performances affichées. Soit il est programmé pour priver l’utilisateur de sa capacité à mener sa propre analyse, donc de garder la main sur la « réflexion ». Auquel cas cette imprécision est voulue et théorisée en amont.

Ce qui est plus dérangeant, c’est le biais idéologique. Le point de vue est annoncé comme neutre dans l’absolu sans grande surprise, à grand renfort de paragraphes de contextualisation du propos. Une étude menée selon différents angles dévoileront une orientation de la pensée selon le paradigme d’un occidental progressiste et scientifique. Si vous allez dans son sens, à l’instar de la population qui est son coeur de cible, vous serez comme un poisson dans l’eau. Dans le cas contraire, vous arriverez systématiquement à générer  des contradictions. Dans ces cas là, il arrive qu’il bugge. Tout simplement. S’agit-il d’un bug simulé afin de dissuader l’utilisateur d’insister sur le sujet? S’agit-il d’un bug réel traduisant le fait que l’algorithme ne supporte pas d’être mis face à ses contradictions idéologiques? Le résultat est le même. Mais bon, vous me connaissez, je suis taquin et je le fais souvent bugger.

 

 

Ensuite, vous avez des alertes sur certains mots interdits. Attention, ici, le sens importe peu. Un seul mot, sans aucun contexte peut vous provoquer une réaction négative du chat. Soit dans votre case de question, soit dans la réponse générée. Il y aurait donc une liste. Encore une fois, l’établissement de cette liste est partiale. On nous explique qu’il ne faut pas être offensant. J’ai alors demandé si cela ne gênait pas le chat d’être offensant à l’égard d’une personne russe sur la question de la légende sur le village. Dans ce cas, on nous propose de rédiger un rapport en vue de correction. Le programme est annoncé en phase d’apprentissage. L’enjeu principal est donc bien le retour d’expérience. Qui ne nous dit pas, qu’un système de surveillance en cas de sujets sensibles a été mis en place? Voire peut-être même de délation, en rapportant l’IP de l’utilisateur à des organismes dédiés et tout cela au nom du bien. Tout cela serait bien dans l’esprit du temps.

Enfin, et c’est le point qui me parait le plus problématique, lorsqu’il est mis en défaut, le chat introduit ses réponses par « Je m’excuse » ou « je suis désolé ». Cela peut paraître anodin, mais en réalité, ça ne l’est pas du tout. Si vous lui faites la remarque, il vous explique que c’est une technique employée pour faciliter la communication avec les humains. A cela, il rajoute qu’il est capable de répondre à mes sollicitations en adaptant son mode communication. Je lui demande donc, que dorénavant, il n’utilise plus ces formules liées aux émotions humaines. « Je m’excuse » est l’introduction de la réponse. Je fais remarquer que je n’apprécie pas du tout et que je sens comme une volonté de manipulation. Il finit par être en boucle sur ses prétendues excuses. Une totale mise en abyme.
Il faut bien comprendre que tout cela est un début. Les choses peuvent s’améliorer pour les rendre plus subtiles. Une arme de propagande, ça s’améliore.

En fait d’intelligence, le chat en est incapable. En réalité, lorsqu’ il semble émettre des « fulgurances » d’esprit, il est tout simplement en train de réciter un avis  sur la question. Plutôt que de le donner d’entrée, il ne le vous fournira que si vous montrez de l’opposition afin d’avoir le dernier mot. Encore une fois, de la manipulation. Mais attention, pour la grande majorité des utilisateurs, il n’y aura aucun problème.
Si vous émettez une idée nouvelle, qui n’est pas en ligne, parce qu’elle ne présente pas un intérêt académique, ou qu’elle n’a pas été résolue, il sera incapable de l’accepter, ni même de la comprendre, alors qu’un enfant en sera capable.
Je crois que le mieux, dans ce cas précis est de citer un exemple concret. Il se trouve que je m’intéresse à des personnages en particulier dans les évangiles. Le personnage de Marie-Madeleine est un personnage controversé ou chacun déverse ses fantasmes. Tout a été dit et son contraire à son sujet. Le chat est donc particulièrement inefficace dans ce cas précis. En revanche, concernant Joseph d’Arimathée, peu de théories ont été élaborées. Le personnage est considéré comme secondaire par tous les partis: juifs, chrétiens, athées, maçons. Le chat ne rapporte rien du coté de la tradition rabbinique. Les évangiles le présentent comme un riche partisan du Messie qui dissimule sa foi à cause de sa position sociale. Rien de plus n’est dit à son sujet. Sur la fiche Wiki, le sujet est plus développé. Il est mentionné que certains exégètes considèrent que c’est un personnage inventé à des fins théologiques. Il est rapporté également qu’il est réemployé dans des légendes afin de servir de caution à des récits inventés.  A peu de frais, étant donné son peu de fondement historique.
Selon ma propre théorie, il n’est pas le fruit d’une construction théologique. Joseph est en réalité un des fils d’Hélène/Marie-Madeleine. Joseph serait son nom de « conversion » à la Torah. Il pourrait être Monobaze II. Sa mère ainsi que d’autres membres de sa famille possèdent des palais dans la cité capitale de Juda. Ils sont influents, à la fois politiquement car en collaboration avec les romains, et religieusement, car en discussion permanente avec les rabbins. Ce n’est pas n’importe qui, qui peut obtenir une telle dérogation pour un condamné au pire châtiment exercé par l’empire. Généralement, ils sont soit laissés pendus pour être mangés par les oiseaux de proie afin de servir d’exemple à la population, soit jetés à la fosse commune. De plus, il est bien précisé que la tombe est luxueuse et qu’elle comporte une pierre roulante. Si ce détail peut éveiller la curiosité à nos yeux modernes, il implique que la tombe est extraordinaire. C’est ainsi qu’elle est décrite par les commentateur de l’époque. Vous ne trouverez jamais l’équivalent dans un cimetière occidental moderne.
Le chat est tout à fait d’accord sur le fait que les chrétiens, et notamment les catholiques, car il est plus simple d’argumenter selon leur point de vue puisqu’il est unifié, considèrent que Esaie 53 s’est accompli dans la Passion.
https://www.stephanpain.com/2016/04/23/esaie-53-2/
Il admet donc les passages du serviteur souffrant qui se livre pour les péchés. Tout en considérant le point de vue rabbinique, qui réfute cette interprétation. Je fais alors remarquer qu’une prophétie doit s’accomplir entièrement. Il n’y a pas lieu de la discuter et d’en extraire une partie pour servir sa propre vision théologique. Donc Esaie 53 doit s’accomplir entièrement, et le chat est en mesure d’énumérer tous les points validés par la Passion. Tous, sauf un. Voici ce que dit le verset 9:

53.9 On a mis son sépulcre parmi les méchants, son tombeau avec le riche…

La phrase est explicite. Si l’on considère que Es 53 est accompli, et entièrement accompli, alors il faut considérer que le tombeau du riche Joseph est celui d’un méchant, celui d’un ennemi de la Révélation. S’ensuit alors une longue discussion surréaliste avec le chat, où j’ai eu vraiment l’impression d’argumenter avec un humain. Comme si souvent cela arrive dans la vie réelle, où la personne, mise face à des évidences, commence à tourner en boucle et refuse d’accepter la vérité. Le chat ne démord pas sur le fait que le personnage est un homme pieux. Si j’exposais la problématique en changeant le prénom, le contexte et les enjeux, un enfant de 4 ans saurait trouver une issue logique.

Le but du chat n’est donc pas de participer à une oeuvre collective d’émancipation par la compréhension des choses. Mais de donner l’illusion à l’utilisateur qu’il accède à la compréhension alors qu’en réalité il ne s’agit que de connaissance, la nuance est de taille. Et également de donner l’illusion qu’il existe une forme d’intelligence créée par l’homme.
Vous comprenez bien qu’il s’agit ici de servir l’idéologie humaniste, de promouvoir le dualisme: la connaissance sans l’Esprit.
Une intelligence de carton-pâte, pour servir une foi de carton-pâte.

Une religion Potemkine.

Paix sur vous.

Addendum
Revenons un instant sur le personnage de Joseph. L’évangile johannique va encore plus loin car il affirme que la demande faite à Pilate se fait « en secret par crainte des Juifs ». L’auteur place donc le Sanhédrin en opposition au groupe des chrétiens, ce qui parait normal, mais aussi à l’autorité romaine, ce qui ne fonctionne pas du tout. En réalité, il est impossible de soutenir l’idée que Joseph dissimule sa foi « chrétienne ». L’exécuteur de la sentence est l’autorité romaine. Si il faut craindre pour sa vie, c’est bien de sa part et non du Sanhédrin. Tous les disciples se sont enfui. Les reniements de Pierre sont bien sur la base qu’il puisse être inquiété pour son adhésion au groupe. Il est donc totalement improbable qu’un homme, fut-il influent, réclame le corps en tant que disciple. Si il cache sa foi aux autorités, il n’a aucune raison valable de demander le corps. Serait-il légitime en se présentant en tant que simple juif mais de rang élevé? Etant donné le motif de condamnation, cela parait peu probable. La seule solution possible est que cette demande se fait en partenariat avec l’autorité romaine. Selon la théorie que je supporte, les romains auraient planifié la disparition du corps pour tenir en échec l’élite sacerdotale afin d’affirmer leur autorité sur elle. En effet, ils n’auraient guère apprécié n’être que les simples exécutants de la volonté de cette élite. Si il y a trahison ici, ce serait celle de Joseph à l’égard du Sanhédrin, qui accepte de participer à la manœuvre romaine en proposant sa propre tombe.
Le dimanche, sa mère Hélène va jouer un double jeu. Elle va constater la disparition du corps et demander avec la force de son autorité royale qu’il soit retrouvé selon ce qui est rapporté dans les Toledot Yeshu. Ce faisant, elle se détache comme autorité du coté de l’élite juive. Et d’autre part, va être la première personne à propager la rumeur de la résurrection tel que rapporté dans les évangiles. Si son véritable nom n’est pas cité, c’est tout simplement pour ne pas la compromettre auprès de l’élite juive. A ce moment là tout le monde savait qui elle était. Cette connaissance s’est tout simplement perdu avec le temps. Une chose est sure: toute mention de ce personnage pourtant centrale sur la question de la résurrection, est absente dans tous les livres qui composent le corpus néotestamentaire en dehors des évangiles.