Ce livre est disponible sur le site de l'auteur :

http://ertia2.free.fr

Ce site, intitulé "Pérégrinages physiques et métaphysiques" est un ensemble éclectique de plusieurs milliers de pages, entièrement personnel et libre de droit :

Littéraire, poétique, philosophique, avec un blog citoyen et un blog de tout et de rien

Technique, avec des graphes de productions photovoltaïques et de mesures météo

Technique avec des idées innovantes

Musical avec des partitions pour voix-piano et pour choeurs

Youtubé avec une trentaine de diaporamas

des trouvailles qui ont plu à l'auteur

un dictionnaire Espéranto

Le petit barreau contrôlé par la pensée est un petit livre de science-fiction qui tourne autour de l'ordinateur et de la conscience.

Au-delà de l'Intelligence Artificielle d'aujourd'hui, qu'adviendra-t-il le jour où une machine à penser prétendra avoir une conscience ?

La science-fiction est un moyen agréable de poser des problèmes philosophiques. L'auteur peut s'y tromper, fantasmer, éviter les polémiques.

Ce petit livre est proposé libre de droit

sur le site de l'auteur :

http://ertia2.free.fr

￼

Ce livre se divise en trois parties :

Première partie : L'ordinateur peut-il penser ? (écrit en 2002)

Deuxième partie : La conscience de l'ordinateur. (écrit en 2015)

Troisième partie : Les "anges gardiens". (écrit en 2020)

Première partie

——

L'ordinateur peut-il penser ?

Février 1980

# Tourne à droite !

# Tourne à gauche !

# Tourne à droite !

# Tourne à gauche !

# Tourne à droite !

Etc….

Il ne disait pas "Tourne à droite", il pensait seulement "Tourne à droite". C'était un ordre de sa pensée. Et à chaque fois, ça changeait de sens. Un coup dans le sens des aiguilles d’une montre, un coup dans le sens inverse.

Là, dans le coin, en haut à gauche de l’ordinateur, un petit trait noir s'agitait. Un petit trait noir, d’environ un demi-centimètre, tantôt vertical, tantôt horizontal. Pourquoi horizontal, pourquoi vertical, Gravetout n’aurait su le dire. Le programmeur avait sans doute mis ce petit signal pour signifier que l’ordinateur effectuait un calcul, et qu’il fallait un peu de patience. D’autres fois, l'ordinateur montrait un sablier ou une montre. Là c’était un petit trait horizontal ou vertical, c’est selon.

A un moment, le petit trait s’était mis à passer très vite d’une position à l’autre, horizontale, verticale, horizontale, verticale, etc… en donnant véritablement l’impression que le petit trait tournait sur lui-même, dans le sens des aiguilles d’une montre.

Evident, diront les uns. Réflexion inutile, diront les autres…

Gravetout voulut penser au-delà de l’évidence et de l'inutilité. Avoir l’impression d’un mouvement tournant avec seulement deux repères par tour, ça méritait réflexion.  Si encore, le petit trait noir s'affichait dans une position intermédiaire en passant de la verticale à l'horizontale, à 45° par exemple, on pourrait facilement avoir l'illusion d'une rotation. Mais puisque cette position intermédiaire ne s'affichait pas, il fallait bien admettre que le cerveau faisait lui-même un joli travail d'interpolation. Gravetout salua l'entreprise: "Il est bien fait, le cerveau", pensa-t'il.

Après avoir félicité le genre humain, il revint à son analyse. En toute logique, on peut passer de la position verticale à la position horizontale en tournant le trait par la droite ou par la gauche. Pourquoi avait-il donc l'illusion parfaite que le barreau tournait dans le sens des aiguilles d'une montre ? Pourquoi donc n'était-ce pas l'inverse ?

La question valait d’être posée, et Gravetout se la posa.

Peut-être le cerveau perçoit-il la façon dont l’ordinateur trace les traits ? Difficile à vérifier.

Peut-être est-ce le cerveau qui décide, pourquoi pas ? Gravetout se rappela ces sortes de posters pointillistes, au motif vaguement répétitif, qu’il faut regarder sans accommoder pour découvrir une scène en relief. C’est bien le cerveau qui décide ce qui doit être vu, du motif pointilliste ou de la scène en relief.

L'expérience était facile et valait d’être tentée. Gravetout nota donc qu’il voyait le petit trait tourner de gauche à droite. Il fit le vague dans son esprit, et regarda à nouveau le petit trait. L’illusion se répéta, le trait tournait toujours à droite.  Cela lui sembla normal, puisque les conditions de l’expérience n’avaient pas fondamentalement changé. Il songea donc à donner à son cerveau un petit coup de pouce. Intérieurement il se donna donc l’ordre de voir le petit trait tourner de droite à gauche. Il fit le vague, se répéta l’ordre intérieur et regarda. Le petit trait tournait maintenant de droite à gauche!

Etonnant, non! Comme aurait dit Desproges, sauf que ça n’était pas une blague.

Gravetout répéta l’opération, dix fois, vingt fois, pour être bien sûr de sa manipulation. A chaque fois, il avait l’illusion que le petit trait tournait dans le sens qu’il avait mentalement voulu. Avec un peu d’entraînement, il arrivait même à avoir l’illusion du changement de rotation, sans même passer par le stade du vague dans l’esprit.

L’impression qu’il en retira était terrible : tout était comme s’il pouvait contrôler mentalement certaines actions de l’ordinateur, alors que cela était totalement faux. Il ne contrôlait que sa perception visuelle. Il avait pris son désir pour une réalité : contrôler une machine par la pensée, quel savant fou n'en rêve pas ? A réfléchir, il comprit qu’il ne contrôlait pas la machine, mais seulement sa perception de la machine. Il contrôlait sa pensée par la pensée. N’était-ce pas là une explication possible de la schizophrénie ?

Il comprit aussi que toute perception pouvait être le siège d’une illusion, que la pensée devait probablement manipuler de façon inconsciente. Il se rappela Platon, et les ombres de sa caverne.

1990

Dans les années qui avaient suivi, l'expérience du petit barreau tournant contrôlé par la pensée avait conduit Gravetout sur le chemin des études neuro-biologiques, dans son désir de voir plus loin, de comprendre l'activité de la pensée humaine autant qu’il est possible.

Quelques électrodes dans le crâne, un amplificateur. Avec un peu d’entraînement, il arrivait à penser de telle manière que les électrodes recueillent un signal électrique vaguement reconnaissable. Par exemple, à chaque fois qu’il pensait à du foie gras, on voyait très nettement sur le graphe de visualisation du signal quelques pointes émergeant toujours au même endroit. Quand il imaginait un coup de gong tibétain, la figure du signal était tout autre.

Il avait appris à l’ordinateur à reconnaître quelques unes de ces figures. A chacune de ces figures il avait associé une lettre de l’alphabet, que l’ordinateur faisait apparaître lorsqu’il reconnaissait la figure correspondante.

Mais c’était vraiment élémentaire. Le pauvre cobaye qui testait le système se fatiguait très vite, à penser très fort au foie gras, au gong tibétain ou autres imaginaires.

Bien sûr, il avait essayé de faire déchiffrer directement par l’ordinateur les lettres de l’alphabet, mais le signal obtenu du cerveau était vraiment cafouilleux, en tout cas hermétique à toute transformée de Fourier ou autre subtilité mathématique. L’informatique et les mathématiques font souvent bon ménage, mais là vraiment, la couche de saletés était épaisse, le ménage était impossible.

2000

Il avait fallu qu’il tombe par hasard sur le site de Daniel Lemire, un prof  d'Université canadienne, pour découvrir les transformées de Haar et ses ondelettes, et pour commencer à apercevoir les constantes nécessaires à une interprétation fiable et reproductible des ondes du cerveau. Ainsi, trois fois sur cent, il arrivait maintenant à identifier les voyelles et quelques consonnes.

Il s’était lui-même promu sujet – c’est plus humain que cobaye - , parce que ça l’énervait de voir les sujets patentés être infoutus capables d’émettre des pensées claires et précises. Heureusement pour eux, malgré tous ses efforts, il n'était pas meilleur qu'eux. Il avait beau penser de A à Z, l’ordinateur ne lui renvoyait sur l'écran que des borborygmes par lesquels surgissait de temps à autre une lettre de l’alphabet. Il n’était donc pas plus fiable que ces hommes cobayes que l’on aurait voulu faire penser droit. Foutu cerveau.

Il pouvait au moins constater que le signal de son cerveau était plus reconnaissable quand il pensait à du foie gras ou au gong tibétain que quand il pensait à la lettre m ou à la lettre r. Il avait aussi essayé de penser à "m et fais ce que voudras " pour le M, à "cul de bouteille" pour le Q, "à toi" pour A, Bérurier, Cédille, Détour, Eux et les autres… L'ordinateur comprenait mieux, mais cette solution l'amena tout naturellement à envisager que l'ordinateur reconnaisse directement les mots plutôt que des lettres qui composent les mots.

Gravetout s'intéressa alors aux travaux sur la reconnaissance vocale, aux phonèmes et autres concepts de commande vocale. Par analogie, il inventa le pensème, en supposant que la pensée pouvait se représenter par petits bouts. L'addition de plusieurs petits bouts, des pensèmes, pouvait donner lieu à une idée cohérente, ayant un début et une fin.

Très vite, il s'aperçut que l'addition des petits bouts n'était pas vraiment une addition, mais plutôt un mélange instable, où les signaux se superposent, se masquent, s'enrichissent sans qu'on en puisse vraiment comprendre la loi. Comme si, en mélangeant du rouge, du bleu et du jaune, une goutte de plus ou de moins de l'une des couleurs suffisait à modifier fondamentalement la couleur résultante, passant du marron au violet ou au vert sans aucune transition.

De tâtonnement en tâtonnement, il avait réussi à inscrire dans l'ordinateur les schémas d'une dizaine de mots, que celui-ci reconnaissait une fois sur trois en moyenne. C'était tous des mots à forte affectivité, dont la représentation mentale était particulièrement précise et puissante. Le foie gras bien sûr, le gong aussi. Des mots simples aussi, comme le jour et la nuit, ou la jambe, ou le froid.

Les mots plus tortueux, comme escalier ou hypermarché, l'ordinateur n'aimait pas.

Curieusement, des mots abstraits comme hypoténuse ou jugement semblaient plus faciles à reconnaître.

Au-delà d'une quinzaine de mots, malheureusement, les performances de l'ordinateur chutaient, comme s'il était atteint de dissonance cognitive, ne sachant plus choisir entre les mots.

Il fallait, au moins provisoirement, admettre que l'algorithmie mathématique avait ses limites. La rigueur, point trop n'en faut, le déterminisme de la nature est loin d'être évident, et pourtant, il fonctionne, la terre tourne autour du soleil, il y a de l'eau et l'homme pense.

2010

Rien n'a changé. Les limites de l'algorithmie mathématique sont presque les mêmes et les pensèmes ont toujours la même étrangeté. La recherche s'était focalisé sur l'analyse du signal vocal. C'était moins abstrait, plus porteur, mais aussi plus fastidieux. Une informatique de bourrin, disait-il. Comme un puzzle géant, phonème après phonème, supposer qu'il appartient à un mot, puis supposer que le mot appartient à une phrase, rechercher tous les aspects grammaticaux qui peuvent s'y rattacher et recommencer tant que l'ensemble ne semble pas cohérent. La dictée vocale, on y travaillait depuis plus de trente ans. Depuis plus de trente ans, on pensait que dès l'année prochaine, on pourrait se passer de clavier. L'année prochaine, on y sera peut-être!

Gravetout avait refusé de sacrifier à l'informatique de bourrin, comme on disait à l'époque pour qualifier les méthodes besogneuses parées de noms pipi-caca qui n'avaient pour effet que de développer du méta-travail, du travail sur le travail.

Au cours de ses recherches, il était tombé sur une expérience informatique étonnante. Imaginez un écran d'ordinateur sur lequel le programmeur avait inventé un petit cercle bleu à qui il avait attribué un comportement particulier. Le petit cercle est programmé pour se déplacer d'un point à gauche de l'écran pour atteindre un point à droite de l'écran. Le petit cercle est en outre programmé pour réagir à chaque fois qu'il rencontre sur sa trajectoire un petit carré rouge, avec pour mission d'éviter à tout prix de prolonger le contact, comme s'il s'agissait d'un carré brûlant ou plein d'épines. Les petit carrés brûlants sont disséminés au hasard sur l'écran. De cette façon, le cheminement du petit cercle vers son but ne peut être que très sinueux. Le programme du petit cercle permet de garder la mémoire de ces "brûlures". Après chaque brûlure, le petit cercle change aléatoirement de trajectoire avant de repartir vers son but tout en se souvenant des endroits brûlants déjà rencontrés.

Lorsqu'on lançait le programme, il se passait toujours de longues minutes pendant lesquelles le petit cercle semblait animé de mouvements totalement erratiques. En tous cas, le petit cercle ne donnait pas l'impression de savoir se rapprocher de son but. Et puis soudain, sans que rien ne puisse donner à prévoir, le petit cercle montrait un déplacement totalement clair pour atteindre son but par le plus court chemin sans plus jamais se brûler, en donnant l'impression qu'il avait enfin compris tous les paramètres du jeu.

Etait-ce là une manifestation d'intelligence ?

La réponse est facile parce que l'expérience est limitée. Tout au plus peut-on dire qu'au bout d'un nombre limité d'information, la loi du hasard était devenue contrainte, sans plus aucune échappatoire. Ce n'est pas de l'intelligence. Et pourtant, imaginons que ce système d'apprentissage soit généralisé à des milliers de petits comportements de ce type, imbriqués les uns dans les autres. La réponse devient moins facile.

Gravetout s'était dit que le cerveau humain procédait peut-être d'une manière similaire dans son apprentissage. De multiples tâtonnements dont il gardait la trace, et puis tout d'un coup, par suite de recoupements fortuits, l'émergence d'un début de solution, ouvrant elle-même à une cascade de solutions. N'est-ce pas ainsi que l'enfant apprend à parler, à faire un dessin ressemblant ? Il se souvenait encore très bien de la façon dont il avait appris à jouer de l'harmonica. Il avait soufflé pendant longtemps, simplement pour produire des sons sans suite, composant un univers sonore aléatoire. Un jour, par hasard, il composa les premières notes "Au clair de la lune" qu'il réussit à reproduire. Dès cet instant, il n'eut aucune difficulté à reproduire toutes les chansons qu'il connaissait. Enfin, presque toutes. La Marseillaise, par exemple, qui se joue avec quelques dièses et bémols, se refusait à son instrument diatonique.

Plus tard, de la même manière, il avait aussi appris tout seul la planche à voile. La théorie de la propulsion vélique était bien jolie, mais sur le vif d'une planche à voile chahutée par les vagues et soumis aux sautes du vent, on apprend plus des erreurs que des réussites. A force d'essais fluctueux, il avait fini par acquérir des réflexes de pilotage qu'il aurait du mal à théoriser, mais qui tenaient la route.

Si le cerveau humain procède de la sorte, pourquoi un ordinateur ne procèderait-il pas de la même manière ? La petite expérience du petit cercle et des petits carrés rouges permettait d'espérer.

Il fallait donc résolument abandonner la logique pour l'heuristique, tourner le dos à toutes les formules mathématiques et faire confiance au hasard. C'est bien ce qu'avait fait le monde depuis qu'il existait: des tentatives, des milliards de tentatives.

Dans un premier temps, il pensa qu'il fallait que l'ordinateur dispose de quelques données qui serviraient de déclencheur. Il faut bien qu'il y ait un peu d'inné, si l'on veut qu'il puisse y avoir de l'acquis. Définir cet inné était certainement présomptueux. Il fallait donc partir au hasard.

Le casque à électrodes sur la tête, il se mis à aligner des pensées. A chaque pensée, il indiquait à l'ordinateur de quoi il s'agissait.

Des pensées très différentes: Un arbre, manger, la philosophie, un bateau,…

Puis il se ravisa, en se rappelant qu'un apprentissage commence toujours par des choses simples, basiques, à la portée de l'apprenti, se rapportant les unes aux autres: zéro, un, vrai, faux, plus, moins, beaucoup, peu, jour, nuit…

Son idée était de  tester dans un premier temps la capacité de l'ordinateur à reconnaître une pensée dont il avait eu la définition préalable.

Là où il délira un peu, ce fut pour l'instauration d'un système de récompense. Récompenser un ordinateur, idée saugrenue, d'autant plus saugrenue qu'un ordinateur ça ne pense pas. Il résolut de faire comme si. Dans un coin de l'écran, il dessina un carré qui pouvait devenir de toutes les couleurs lorsque l'expérimentateur-professeur taperait sur b, b comme bravo.

Ensuite, il prépara sur un cahier des phrases simples qui utilisaient un ou plusieurs de ces éléments.

Alors, il se coiffa ses électrodes et commença un travail totalement idiot :

Choisir une phrase, penser au contenu de cette phrase et voir la réaction de l'ordinateur, qui consistait à montrer à l'écran la liste des pensèmes déclenchés par l'analyse des signaux enregistrés par les électrodes.

Si l'un des pensèmes était corrélé avec sa propre pensée, il tapait b.

L'ordinateur devait mémoriser les signaux reçus et l'éventuelle récompense.

A chaque exercice, l'ordinateur était programmé pour comparer les signaux nouveaux avec les anciens dont il savait le résultat. L'algorithme de comparaison restait le cœur du problème. Il s'agissait d'un système de seuils dont les paramètres évoluaient en fonction des récompenses.

La mise au point de cette expérimentation a priori vouée à l'échec dura plusieurs désespérantes semaines. A chaque fois, il lui semblait que le système réagissait, mais il lui fallait vérifier que l'ensemble ne finissait pas par converger vers un paramètrage figé.

Chaloco venait lui rendre visite, de plus en plus rarement. Au début, il n'avait rien voulu comprendre à la recherche. Pour lui, un ordinateur, ça ne pouvait pas penser, point final. Il aurait compris une recherche semblable dans le domaine de la reconnaissance vocale, mais plus loin, c'était perdre son temps. Et chaque jour qui passait semblait lui donner raison.

Quand à récompenser un ordinateur, il y avait là l'essence même de la stupidité. Pourquoi ne pas récompenser un caillou qui se trouverait là juste où il faut pour boucher un trou sur la route ? Peut-être arriverait-il un jour à faire que tous les cailloux aient envie d'une récompense et se mettent tout seul en tas pour construire une pyramide ou un chemin de fer ! Pourquoi ne pas récompenser l'eau à chaque fois qu'elle tombe sur la terre au moment des semailles, et la sanctionner lorsqu'il pleut le dimanche. Une bonne méthode pour faire la pluie et le beau temps !

Quant à laisser un ordinateur faire n'importe quoi et supposer que cela pourrait déboucher sur quelque chose de cohérent, il fallait une bonne dose d'optimisme que seul Gravetout pouvait avoir. Certains collègues parlaient même de provocation à l'encontre du genre humain, seul dépositaire possible de la pensée. Gravetout avait bien voulu réfléchir à cette provocation, mais il avait conclu que cette expérience n'avait rien à voir avec le phénomène autonome de la pensée. Il s'agissait seulement d'analyser des signaux issus du cerveau humain, de la même manière qu'il existe des systèmes de reconnaissance vocale qui ne font rien d'autre que d'analyser des signaux eux aussi issus du cerveau humain.

Lorsque son système lui paru capable d'une constante adaptation, Gravetout se réserva une ou deux heures chaque jour pour penser quelques phrases et noter les réactions de l'ordinateur. Au début, les pensèmes affichés par l'ordinateur étaient totalement incohérents, ce qui n'était pas surprenant. C'était vraiment par hasard qu'un pensème correspondait à quelque chose de la phrase à laquelle il pensait. L'ordinateur se foutait royalement des récompenses. Mais Gravetout n'oubliait pas de taper b comme bravo à chaque fois que le hasard donnait la bonne réponse.

Au bout de plusieurs heures, les bonnes réponses ne se firent pas plus fréquentes. Pire, l'ordinateur répondant de plus en plus lentement. Gravetout s'y attendait, puisque la masse d'information à traiter augmentait à chaque nouvelle pensée. Il avait espéré que l'ordinateur réagirait positivement avant que le problème ne devienne trop grave. Mais là, c'en était trop. Il fallait maintenant attendre plusieurs minutes pour chaque réponse.

Gravetout trancha dans le vif. Il supprima de la mémoire de l'ordinateur toutes les pensées acquises dont les réponses n'avaient pas été récompensées, sauf une. Cette mauvaise pensée était peut-être son éclair de génie, il verrait bien.

Et il recommença à penser, à livrer ses pensées toutes faites et toutes imprécises à la machine, encore et encore. Et parfois la machine répondait juste, comme il sied au hasard.

Gravetout commençait à désespérer. Jour après jour, il s'astreignait. Parfois, il lui semblait que la machine frémissait, quand deux réponses bonnes se faisaient suite. Un jour même, il y eu trois réponses bonnes sur cinq pensées. Un fol espoir lui vint à l'esprit. Il devint comme le joueur au casino, espérant sans cesse le jackpot, sans cesse dépité et repartant sans cesse à l'assaut d'un truc imbécile.

Il se disait qu'il était mieux qu'un joueur de casino, pour qui la loi statistique était écrite et bien réelle. Seul, au bout du compte, le casino gagne, tendis que le joueur est payé d'espoir vain, définitivement vain. Pour Gravetout, le jeu était tout ou rien, sans partage. Ou bien la machine resterait définitivement bête, ou bien naîtrait chez elle l'étincelle qu'il souhaitait.

Mais l'ardeur faiblissait au fil des jours. Au bout de trois mois, il passait encore chaque jour un petit tête à tête avec la machine, juste le temps d'une dizaine de pensées. Un mois plus tard, il s'astreignait encore à penser une petite fois en arrivant au labo et une petite fois en partant le soir, à chaque fois qu'il touchait ses clés, comme un rite. L'expérience n'était plus une recherche, juste une habitude, comme celle de nouer ses lacets.

Le sujet n'arrivait même plus dans les conversations. On l'avait assez charrié, on avait fini par admettre sa marotte. On avait tout dit, au moins pour le moment, sur les aspects philosophiques de son expérience.

Au mois de novembre, une thésarde débarqua au labo, un peu timide, un peu paumée, à qui on présente untel et untel, devant des appareillages étranges. C'est toujours curieux un centre de recherche. On y rentre avec une certaine humilité, convaincu que tous ceux qu'on y rencontre vivent dans une autre dimension, jouent avec facilité de concepts qu'il faut des années à acquérir. Les murs sont couverts d'illustrations hétéroclites piochées aussi bien dans les actes du dernier symposium que dans une BD de science-fiction ou dans un livre d'histoire.

Ici ou là, une pensée profonde de Lao-Tseu, ou la dernière du directeur de recherche, pas celui-là, le précédent. Un peu de nombrilisme aussi, avec photocopie d'un article élogieux ou photo du groupe qui a trouvé quelque chose. Et puis le foutoir de chaque bureau, des piles de papier n'importe où, un instrument de mesure ou de musique, un tableau toujours couvert de hiéroglyphes, création souvent collective, patchwork au fil du temps, souvent encadré de la mention "ne pas effacer", qui fait foi de l'importance. Et puis des fils, des rallonges, des installations à la Dubout, les ronds de café qui perdurent. Ici le ménage est proscrit.

Et souvent, la partie la plus importante de la recherche cantonnée dans un pauvre tout petit coin de table, anonyme, humble. Comme l'expérience des pensèmes de Gravetout, dont l'ordinateur avait été déplacé par terre, sous une table, histoire de faire de la place à quelque autre recherche.

La thésarde paumée avait hérité du petit bout de table, justement celle qui couvait le "pensèmeur". On lui avait trouvé ce nom-là. Puisqu'il manipulait des pensèmes, comme un éboueur manipulait des boues.

La manip était presque oubliée de tous. A tel point qu'on avait même oublié de la présenter à la jeune femme.

Heureusement, le rituel de Gravetout continuait tous les matins et tous les soirs. La nouvelle présence le mis dans l'embarras. Il commençait à déchanter de ses recherches et n'avait pas envie de faire face aux interrogations qu'il ne manquerait de susciter en expliquant ses recherches à quelqu'un dont les yeux étaient neufs et l'esprit tout acquis à la connaissance.

Alors, il grommela de vagues excuses en se penchant sous la table, enfila son casque et se mit en devoir de penser à l'une des phrases habituelles. Machinalement, il avait choisi de penser à la phrase: "La chaise est devant le bureau". Sa pensée fut immédiatement parasitée par le fait que la chaise était occupée par la jeune thésarde, à qui il n'avait pas envie de parler de tout cela, mais qui finirait bien par apprendre de quelqu'un d'autre le saugrenu et l'utopie de la recherche.

Curieusement, l'ordinateur lui renvoya les mots "chaise" et "bureau". Jamais jusqu'ici l'ordinateur n'avait renvoyé deux mots d'une même pensée. De surprise, il se releva en se cognant la tête. Cette nouvelle situation lui demandait réflexion, chose difficile quand on est accroupi. Devait-il dire "b" comme bravo une fois, parce que l'ordinateur avait droit à sa récompense, ou deux fois, parce l'ordinateur avait fait deux bonnes réponses.

En tous cas, cette situation le libérait quelque part, il pouvait peut-être se permettre d'affronter sans honte le regard et l'esprit neuf de la jeune femme Léa. Elle s'appelait Léa, grand front, visage paisible, pantalon, veste sur tee-shirt. Juste pour dire que l'heure n'était pas aux aspects concrets de la personne. L'heure était plutôt celle de la pensée.

Lorsque Gravetout avait plongé à coté de son siège, Léa avait interrompu sa lecture. C'est facile d'interrompre une lecture quand on commence une thèse. Les trois quarts des documents sont plutôt rébarbatifs, voire ennuyeux et ce qu'elle avait sous les yeux était tout le contraire d'une démonstration passionnante où la concentration devient absolument nécessaire.

Un chercheur cherchait avec un ordinateur relégué sous une table, probablement, parce que quelques jours auparavant il était sur la table et qu'il avait fallu faire de la place, justement, parce que elle, Léa, la jeune thésarde arrivait au labo et qu'il lui fallait bien un coin de bureau pour l'accueillir.

Elle se redressa et interrogea Gravetout poliment du regard.

Gravetout se jeta à l'eau, traversé par une idée :

- Tu as des enfants ?

Devait-elle considérer la question comme saugrenue, déplacée ? Elle ne voyait vraiment pas pourquoi Gravetout lui faisait cette entrée en matière. Elle répondit timidement :

- Non, pourquoi ?

- As-tu des neveux ?

Cette deuxième question la rassura un peu.

- Non plus !

- Est-ce que récemment il t'est arrivé de jouer avec un tout-petit ?

- Oui, j'aime beaucoup !

Alors Gravetout expliqua:

- Dans son berceau, on voit souvent le tout bébé s'agiter de façon convulsive et anarchique, surtout les bras. Le parent inquiet peut penser que cette agitation est le produit d'une certaine nervosité, d'un désordre mental n'augurant rien de bon. Il voudrait tant que son bébé aie dès sa naissance des gestes pondérés et expressifs. Mais non, le bébé bouge en tous sens, les bras battent l'air sans rythme, sans rime ni raison. On se trompe, quelque part dans le cerveau du bébé, un petit elfe est là, devant des milliers d'actions possibles dont il ignore l'effet. Il vient de naître le petit, comment le saurait-il.

- Un petit elfe ? , interrogea Léa.

Gravetout était comme ça, il faisait de la science par l'image. Cela nuisait à sa crédibilité, parce qu'une image, ça casse le raisonnement.

- Mets-le comme tu veux, le petit elfe c'est peut-être cette pulsion vitale qui permet au monde d'exister. Est-elle aussi, cette pulsion vitale, le fruit d'un hasard encore plus ancien, qui fait que quelques molécules se sont retrouvées sans le faire exprès, déclenchant une réaction en chaîne du genre : "Testons pour exister ! ". Mais cela, c'est de la métaphysique.

- Va pour le petit elfe, accorda Léa

Gravetout reprit son fil. Le petit elfe est aussi devant des milliers de sensations, dont il ignore aussi d'où elles peuvent lui venir. Alors, comme depuis l'aube de la vie, le petit elfe s'en remet au hasard. Bouger quelque chose et encore autre chose et encore et de nouveau et, dans le même temps sentir que quelques nerfs réagissent. Au bout d'un certain nombre d'essais, des corrélations finissent par se dévoiler. A chaque fois que le bébé bouge un œil ou un bras, il apprend quelque chose. Quelque chose d'infime, qui se rajoute à d'autres infimes et parfois, un assemblage de toutes ces choses infimes peut rejoindre un autre assemblage d'autres choses infimes. Cela devient de la compréhension, c'est la récompense du bébé. Plus il comprend, plus il a envie de comprendre. Et ainsi de suite.

Léa, qui comprenait vite, ajouta:

- Alors ! plus un bébé s'agite, plus il est normal et moins il faut s'inquiéter !

- L'hypothèse vaut ce qu'elle vaut. Je ne suis pas neurologue, mais c'est à partir de cette hypothèse que je travaille. J'ai mis un petit elfe dans l'ordinateur.

Il se mit à expliquer sa manip.

A la fin de l'explication, Léa n'osa pas le traiter de fou, mais elle le pensa.

- Tu me prends pour un allumé. Peut-être…. Sauf que, là, juste maintenant, l'ordinateur vient de défier le hasard : je viens de penser que "la chaise est devant le bureau" et l'ordinateur m'a répondu "chaise bureau". Si tu dis à ton neveu qui commence à parler que "Papa est parti avec la voiture", tu l'entendra dire "Papa vatu".

(Aujourd'hui 27 avril 2002, j'ai appris par la radio (BFM je crois) qu'une femme ingénieur d'une société israëlienne avait appris à parler à un ordinateur programmé de manière assez rudimentaire, en lui parlant de nombreuses fois et en utilisant un système de récompense et de punition. On s'était longtemps fichu d'elle, mais maintenant sa société entrevoyait des applications rentables.

La réalité rattrape donc un peu la fiction. Sauf qu'ici, dans la fiction, on apprend pas à parler à une machine avec des mots, mais on lui apprend à penser avec des pensées.)

N'empêche que les jours suivants, Léa s'arrangeait toujours pour être là quand Gravetout se mettait à sa manip. Gravetout avait admis sa présence. Mieux, il avait trouvé un témoin. Et pour le moment, cela lui suffisait. L'envie de clamer sa réussite dans tout le labo s'était tarie. Un témoin lui suffisait. Il n'avait aucune envie de subir un lot de questions à la pertinence douteuse, d'expliquer dix fois à tous ceux qui l'avaient abreuvé de sarcasmes depuis trop longtemps. Et Léa, d'emblée, devant cette absence de publicité, avait compris qu'elle n'avait pas à trahir ce secret qu'elle partageait sans vraiment y adhérer.

Une fois, le patron du labo lui avait demandé si Gravetout lui avait montré sa manip et ce qu'elle en pensait. Sa réponse avait été facile.

- Il m'a expliqué sa manip mais je crois que je n'ai pas très bien compris. Je me pose la question de la validité de sa démarche scientifique.

Le patron avait acquiescé. Il s'était senti obligé de justifié son attitude, en citant un proverbe:

- "Si tu laisses la porte fermée à toutes les erreurs, comment laissera-tu entrer la vérité ? ". Ce travail peut ne pas déboucher, mais il est marginal.

Il ajouta:

- Et parfois le marginal cache souvent un essentiel. Déjà, tout ce qui a été dit à tort ou à raison autour de cette manip est une avancée sur la philosophie des sciences et pose des questions intéressantes sur l'être pensant et sur la relation entre le réel et le virtuel.

Le patron avait haussé le niveau. Face à cette hauteur de vue, Léa se sentit prise au dépourvu. La philosophie l'intéressait, certes, mais elle n'avait pas encore pensé qu'un jour elle serait actrice de cette philosophie. Elle répondit heureusement par un silence, sans doute plus apprécié par le patron que toute autre réponse sans consistance: quand on ne sait pas, on se tait et on cherche.

De ce jour, Léa se mit à chercher la réponse. Le patron l'avait branchée sur le sens d'une vie de chercheur. Il fallait qu'elle apporte une réponse personnelle.

Gravetout avait maintenant retrouvé courage. Cette première manifestation virtuelle devait forcément être suivie par des progrès rapides. Ce fût le cas, l'ordinateur reconnaissait de plus en plus facilement les concepts que Gravetout lui envoyait par la pensée, pourvu que ceux-ci fassent partie d'un lot maintes fois pensé.

Bien sûr on pouvait déjà entrevoir toutes sortes d'applications utiles ou farfelues. Des jeux vidéo, des applications informatiques, des actionneurs commandés par la pensée,… Pourquoi ne pas essayer de conduire une voiture sans utiliser le volant ou les pédales, … Tous ces malades qui n'ont plus l'usage de la parole. Je pense donc j'agis, c'est déjà un beau  programme.

Mais Gravetout ne voulait pas s'arrêter à ce stade. Il pensait que l'on pouvait aller beaucoup plus loin. Plusieurs pistes lui semblaient intéressantes.

Dans un premier temps, il fabriqua un clone de sa machine. Un ordinateur identique dans lequel il mit un duplicata exact de programme et des données, parce qu'il fallait d'abord s'assurer que le clone réagissait de manière identique à une même pensée. Comme on ne pense jamais deux fois exactement la même chose, il fallait donc mettre au point un dispositif qui connecte les électrodes du cerveau simultanément aux deux machines.

Gravetout pensa " un livre sur la table". Les deux machines répondirent bien "livre sur table". Curieusement, le clone avait réagi nettement plus vite. Cette différence était étonnante, difficile à expliquer. Les données étaient les mêmes, mais leur emplacement physique dans la mémoire de l'ordinateur n'était peut-être pas identique, parce que la construction des archives ne s'était pas faite selon le même processus.  Mais il devait sans doute exister d'autres raisons.

Cette sensibilité des machines était préoccupante. L'expérimentation s'engageait sur un terrain mouvant. Mais il était trop tard. Fallait-il créer deux clones et vérifier leur synchronisme ? Gravetout décida qu'il avait déjà quitté le domaine du déterminisme depuis longtemps, et qu'il ne fallait pas se laisser envahir par de telles exigences.

Le clone avait fait mieux. Tant mieux.

Cette situation fit brusquement comprendre à Gravetout qu'il avait en face de lui un phénomène irréversible. En informatique, on s'arrange toujours pour que l'on puisse revenir aux anciennes versions, justement pour éviter l'erreur subtile irréversible.

Ici, tout nouveau pensème vient corrompre définitivement les acquis précédents. Il faudrait fabriquer un nouveau clone après chaque exercice. Cela était impensable. Le point de non-retour était dépassé et chaque nouvelle étape se verrait ainsi une obligation d'aller de l'avant. Sodome et Gomorrhe, surtout ne pas se retourner.

Gravetout comprenait bien le problème : il avait engager un processus qu'il entretenait en aveugle. Il y avait peut-être plusieurs issues, mais il avait aussi plusieurs impasses. Et dans ces impasses, on ne saurait revenir sur ces pas.

La suite valait donc réflexion préalable.

Une première façon de continuer était de voir dans quelle mesure la machine serait capable de déduire des relations entre deux pensées associées.

L'idée de Gravetout était la suivante:

Si je pense que "Un et un cela fait deux" et que

"Deux et un, cela fait trois"

La machine pourrait-elle trouver que" un et un et un" cela fait trois ?

Une difficulté était de ne pas suggérer le résultat à la machine

On peut écrire sur une feuille de papier des axiomes ou des postulats. Ils sont limités à ce qu'ils sont: des phrases bien précises, grammaticalement correctes, organisées de façon qu'il n'y ait qu'une interprétation possible. On peut aussi énoncer verbalement ces axiomes et ces postulats, le cerveau peut appliquer les filtres qui permettent de ne dire que ce que l'on veut faire comprendre.  Mais, au niveau de la pensée, les choses sont considérablement plus floues. Tout se bouscule, et cela peut aller très vite, d'éclair de conscience en éclair de conscience. Comment s'empêcher de penser que en pensant "un+un+un" on ira pas, par réflexe, penser "trois", alors qu'on a prévu que c'était à la machine de trouver le résultat.

Cela sentait l'impasse et Gravetout résolut de ne pas s'y aventurer, du moins tout seul. La mise au point d'un protocole expérimental doit toujours être discutée pendant des heures. C'est un principe élémentaire de toute recherche. Mais là, Gravetout abordait un domaine inconnu, ou les protocoles existants n'avaient aucune place : du flou sur du flou ne peut conduire qu'à du flou. Comme en amour, allez mettre au point un protocole d'expérimentation sur les coups de foudre !

Et puis Gravetout n'avait vraiment pas envie de mettre dans  le coup les collègues qui l'avaient déjà tant charrié. Léa, peut-être?

En attendant, il chercha d'autres pistes

Une deuxième façon de continuer la recherche, mais bien plus folle, était de fournir à l'ordinateur des pensées sans cesse renouvelées. Par exemple: lire un livre, se mettre les électrodes sur le crâne et lire un livre. Mais il n'était pas sûr que les mécanismes du cerveau qui s'appliquent à la réception d'une information soient les mêmes que ceux qui s'appliquent lorsque l'on produit de l'information. Or, quand on lit un livre, le cerveau reçoit de l'information, la traite, la mémorise et, lui semblait-il, ne se met à produire des pensées spontanées et intimes que très exceptionnellement, sauf bien sûr à lire un roman noir ou le Kama-Sutra. Mais un traité d'algèbre ou la Critique de la raison pure ne devrait guère stimuler l'imagination.

Il se fit à lui-même un étrange réflexion:

"Si j'étais une machine…, une machine qui saurait déjà faire la relation entre deux termes d'une pensée…?"

Ce qui lui manque, à cette machine, c'est qu'entre deux exercices, elle est inerte.

Peut-être pas si inerte que ça? Gravetout se souvint que le clone avait trouver plus vite la relation entre le livre et la table. Immédiatement, il alla vérifier "l'électro-unité-centrale-gramme" des machines. La courbe était quasiment plate, en tous cas, elle suggérait un bruit de fond qui avait l'air comparable à celui d'autres ordinateurs au repos. Par contre, l'occupation de la mémoire variait, augmentant insensiblement pendant près d'une minute, puis décroissant d'un coup.

L'indice valait d'être noté, ne serait-ce que pour des comparaisons avec des étapes ultérieures.

Si j'étais une machine, j'essaierais de ne pas tout apprendre en même temps…

L'idée valait qu'on s'y attarde. Pourquoi ne pas essayer de limiter le domaine pensé, autant que cela pourrait se faire.

Gravetout envisagea de s'astreindre à ne penser qu'à la représentation de l'intérieur d'une maison.

Avec ou sans ses occupants ? La question valait le débat. Penser l'inerte ou penser le vivant, c'est fondamentalement différent.

Que pourrait faire une machine avec des pensèmes aussi creux que cuisine, salle de bain, étagère,… Liste abstraite, sauf à y associer une photo, un croquis, une odeur. Cela ne devrait pas aboutir à grand'chose.

Gravetout revint aux mathématiques. Essayer de transmettre à la machine les concepts de base lui semblait de l'ordre du possible, mais avec toutes les chances de revenir à un outil déterministe.

Il se demanda s'il pouvait vraiment dire que sa machine était non-déterministe : à conditions initiales identiques, le résultat pouvait-il être différent ? Cela posait le problème de l'identité des conditions initiales. Tous les 1 et les 0 manipulés par la machine pouvaient-ils être dans un état et à un emplacement parfaitement identifiable par l'expérimentateur?

Gravetout pensa qu'il aurait fallu alors remonter un écheveau trop immense pour que cela fut possible. Il aurait aussi fallu que les pensées transmises à la machine soient parfaitement définies. Ce qui n'était pas le cas. Penser deux fois de suite à la même idée ne génère jamais tout à fait le même signal sur les électrodes.

Il prétendit donc avoir devant lui une machine dont le comportement lui échappait absolument. Donner à cette machine un lot de concepts mathématiques de base ne conduirait pas forcément à de nouvelles découvertes. C'était à voir, mais Gravetout avait envie d'aller voir plus loin, autrement. C'était la question du vivant qui le turlupinait. Que pourrait donc faire sa machine face à du vivant, sa machine non déterministe face à un être pensant non déterministe lui aussi?

Il y avait là un enjeu terrible.

Pygmalion des temps modernes, Apprenti sorcier, Docteur Faust. Gravetout se prit à sourire à ces évocations. Bien sûr, ici, il n'y avait encore rien de méchant, rien de bien sorcier. Mais, face à une machine qui lui échappe, quelle est la responsabilité du chercheur ?

Qu'il arrête sa recherche et, un jour ou l'autre, un autre chercheur se lancera dans la même voie, avide de savoir, avide de voir, mais peut-être aussi sans les scrupules qui commençaient à habiter Gravetout.

Il résolut de franchir le pas. Sa machine aurait à connaître du vivant. Comment ? Comment réaliser cet apprentissage ? Quels devraient être les premiers pensèmes, ceux sur lesquels ils pourraient appuyer les suivants ?

Et puis, comment la machine rendrait-elle compte de son savoir ? On peut penser avec les mots du dictionnaire, mais on peut aussi penser sans la médiation des mots. Comment représenter cette pensée, ce conglomérat de pensèmes qui n'a jamais eu de représentation. Pour un éclair de pensée, il faut au moins une phrase, un paragraphe pour en rendre compte. Combien de pensées n'ont pas les mots pour le dire? Alors, comment voulez-vous qu'une machine vous représente ce qui n'a pour elle que la représentation de plusieurs signaux électriques complexes ?

Léa vint à son aide:

- Au moins, tu as déjà prouvé qu'une machine peut fonctionner par association !

- Oui, mais aujourd'hui se pose la question de choisir les matériaux à associer.

Léa nota que le mot matériau n'était peut-être pas bien choisi pour évoquer des éléments vivants. Tout au plus pouvait-on évoquer les matières, au sens médical du terme, ou les matières que l'on apprend à l'école, mais qui  sont inertes au moment où on les apprend, puis qui deviennent partie intégrantes du vivant. Gravetout n'avait pas envie de nourrir sa machine d'histoire ou de géographie, ni de lui faire connaître la façon dont les neurones sont agencés.

- Trop tôt, trop tôt ! Il sera toujours temps de la gaver.

- Tu parles de ta machine au féminin.

Gravetout n'avait jamais encore réfléchi à ce sujet. Pour lui, c'était une machine et en général on gave les oies. Il répondit:

- C'est pour cela que j'aie employé le féminin. Mon inconscient a t'il déjà réfléchi à ce sujet ? Le sujet me paraît encore suffisamment flou pour ne pas être emberlificoté dans ces histoires de genre.

- C'est toi qui parle de donner du vivant à ta machine !

Gravetout extrapola:

- Tu penses qu'il faut déjà s'occuper d'un appareil reproducteur copié sur le genre humain ?

Léa fut prise de court. Elle pensait, comme Gravetout que le moteur du vivant était la pérennité de l'espèce. Mais là, même légitime, la question était un peu grosse, ou du moins vertigineuse.

Léa éluda le problème en riant :

- Le chercheur doit décider de ce qu'il cherche.

- C'est vrai, n'allons pas trop vite ni trop loin. Pour l'instant, je cherche juste à communiquer avec une machine, dont j'espère qu'un jour elle pourra me donner le miroir de mes pensées. Je ne l'autorise pas à une autonomie de réflexion, mais le risque est là qu'elle se mette à avoir elle aussi une forme de pensée. Si cela advenait, cela poserait le problème de la conscience. Et ça, c'est tabou ! Ceux qui prétendront que la conscience peut exister ailleurs que chez l'homme finiront au bûcher…

Gravetout s'arrêta pensif. Il reprit:

- Ils finiront au bûcher, mais seulement pendant un certain temps. Ce sera un nouveau moyen-âge. Après, il y aura la renaissance. L'homme apprendra à vivre avec ses machines. Il fera des erreurs terribles. Ce sera dans mille ans.

Revenons au problème posé !

Il pensa tout haut: :

- J'ai une machine qui est capable de faire la relation entre une table et une chaise lorsque je pense que la chaise est devant la table même si cette machine ne possède aucun élément définissant l'objet table et l'objet bureau ni le rôle qui leur est dévolu.

Léa le reprit :

- On ne peut pas dire que la machine est capable de faire quelque chose. Elle établit la relation entre deux pensèmes qui lui ont été définis au préalable.

- Juste ! Mais ces pensèmes sont définis par le nom que je leur ai donné. Supposons  que je définisse de nouveaux pensèmes sans définir en même temps un nom. Que se passera-t'il ? La machine établira une relation lorsqu'elle rencontrera des pensèmes déjà définis.

- Mais cette relation restera pour nous sans signification, puisque les deux éléments n'auront pas de définition dans notre langage.

L'impasse était évidente. Il fallait donc imaginer un processus itératif. L'idée vint naturellement à Gravetout :

- Puisque la machine m'affiche deux termes, ceux-ci vont  me faire réagir. Et ce signal issu de mon cerveau ira enrichir la base de pensèmes de la machine, défini sous un nom défini à l'aide des noms des pensèmes associés. Il y a là un processus d'indexation automatique qui vaut d'être testé.

Gravetout modifia derechef le programme, puis s'installa aux commandes. Il pensa d'abord à des éléments du répertoire initial. A chaque fois que la machine lui signalait une relation entre deux pensèmes, il la félicitait puis il se mettait à penser à cette association en indiquant à la machine que ce qu'il pensait était une nouvelle  définition.

Au début, la machine fonctionna comme avant, n'affichant rien de neuf, ce qui n'avait rien d'étonnant vu la faible probabilité que dans ses nouvelles pensées il y ait cet ensemble reconnaissable.

Parallèlement, il enrichissait la base de nouveaux éléments. Les notes de la gamme, les différentes parties d'un bateau à voile, les ingrédients de la recette du poulet tartare, le théorème de Thalès...

Ce n'est qu'au bout de plusieurs jours que surgit enfin à l'écran une définition qu'il n'avait pas lui-même encodé. Il s'en souvient encore. Léa et lui avaient éclaté de rire en découvrant l'association "doigt de pied" et"sent" elle-même associée à "mauvais".

Gravetout s'empressa de réinjecter cette idée dans  la machine en lui laissant bien sûr le soin de l'indexer.

A partir de ce jour, les relations complexes furent de plus en plus fréquentes et de plus en plus complexes, trop complexes parfois.

A chaque fois qu'il le pouvait, Gravetout remplaçait une relation complexes par le nom du concept qui pouvait le plus s'approcher de la signification de cet assemblage. Quand  la relation devenait insoutenable, il la supprimait. Souvent, l'ordinateur proposait des relations étonnantes d'acuité qui permirent à Gravetout de lui faire incurgiter des éléments fondamentaux tels que l'addition, la déduction, le solide, le liquide, l'organisation, l'arborescence,...

Au bout de quelques semaines, il sembla à Gravetout et à Léa que l'ordinateur devenait de plus en plus coopératif et reflètait avec précision des cheminements mentaux tels qu'ils se passaient dans la tête de Gravetout.

A un moment, Gravetout arracha même son casque. Il comprit qu'il avait devant lui un début du miroir de sa pensée, non pas de ses pensées qui étaient le fruit d'une démarche volontaire où l'ordinateur n'avait qu'un rôle passif d'apprentissage. Non il s'agissait maintenant, brutalement de la traduction de ses pensées propres telles qu'elles se présentaient au fil de l'eau dans  son esprit, du plus prosaïque, du genre "le café est mauvais, il faut changer de marque, il ne reste plus que trois paquets, ce soir je passerai à Monoprix, mais ça va fermer à 19h00, il faut que je prévienne Armand, il n'est pas chez lui, le numéro de son portable est dans mon calepin au troisième étage, les escaliers sont en réfection, ça pue la peinture, j'espère qu'elle est anti-allergique..." . Mais aussi du lubrique "le sous-tif de Léa...". Voir là sous ses yeux, écrites ses pensées les plus secrètes...

Ce miroir de ses pensées lui paru insoutenable et dangereux, non seulement de se voir découvert au plus profond de lui-même mais encore par que c'était sans doute la meilleure façon de devenir fou. Il imagina ce que pourrait être l'effet Laarsen sur une pensée. Sans doute une espèce de drogue fulgurante, où le déroulement devient incontrôlable, jusqu'à l'épilepsie la plus grave, en face d'un ordinateur pris lui aussi d'une frénésie inextinguible. Même si cette parousie ne se produisait pas, il y avait un autre risque. La machine ne saurait être un vrai et fidèle miroir. Si la pensée humaine va puiser dans sa mémoire pour progresser, la machine peut aussi avoir une mémoire où les éléments se sont reliés entre eux indépendamment de la volonté de l'expérimentateur. Alors, la machine peut afficher des éléments nouveaux. La manipulation devient trop probable.

Il bredouilla des excuses à Léa, qui n'avait d'abord vu que le drôle de l'affaire et un moyen intéressant de vérifier ses intuitions féminines. Très vite elle comprit cependant les explications exacerbées (sic) et terrorisées de Gravetout. A l'évidence, il fallait rompre le contact entre le cerveau de Gravetout et l'ordinateur.

A l'évidence, il fallait aussi taire cette fulgurance de l'ordinateur dans cette appropriation du cerveau d'un homme. On a beau être chercheur et fier de ses découvertes, il faut aussi avoir conscience de ses responsabilités humaines. D'une part la communauté scientifique risquerait de prendre ce résultat pour une simple falsification impossible à prouver et d'autre part, un tel résultat pourrait déclencher un océan de fantasmes imprévisibles.

Gravetout et Léa décidèrent donc de faire comme si la machine continuait sa surdité : Gravetout avait bien codé de nombreux pensèmes, la machine arrivait de temps en temps à en associer plusieurs, mais de façon très mécanique. Voilà le discours que l'on pourrait tenir face aux éventuels curieux. La manip pouvait donc être sur une voie de garage et Gravetout avait fini par se décourager.

Cependant ! Il y eu un cependant, quand Gravetout eut fini d'apaiser sa terreur. plusieurs questions lui vinrent à l'esprit.

La première considérait que la machine pouvait avoir un cheminement évolutif : que se passerait-il si l'on mettait la machine en circuit fermé, c'est à dire en lui ré-injectant les éléments qu'elles arrivait à produire, deviendrait-elle elle-même folle ?

La deuxième question était de savoir ce qui se passerait en injectant dans la machine non plus des pensèmes, mais des concepts. L'expérience avait montré que la machine pouvait manier les concepts.

Gravetout ne toucha plus à la machine pendant quelques semaines. Un beau jour, il se posa  la question du devenir de cet encombrant ordinateur qui n'avait plus d'affectation. Il l'alluma pour évaluer le travail de nettoyage de la mémoire.

A sa grande stupeur, l'ordinateur affichait : "Tu  ne m'aimes plus ?"

Son premier réflexe fut de penser à Léa. Aurait-elle laisser ce message ? Pourtant, il ne s'était rien passé entre eux. Ce message ne pouvait être d'elle. Il l'appela. Quand elle arriva, elle le trouva comme prostré. Elle vit alors le message et fut elle aussi saisie d'émotion.

Au bout d'un long silence, elle parla :

- Nous avons bien fait d'arrêter !

Ce fut la machine qui répondit sur l'écran : "Vous avez bien fait d'arrêter quoi ?"

Ce nouveau coup fut aussi rude que le précédent. Léa et Gravetout se regardèrent, interdits. Ce fut Gravetout qui le premier se resaisit. Avec ses mains, il mima à Léa :

"L'ordinateur a un microphone ! Chut !"

Au bout de quelques secondes, l'ordinateur afficha alors un nouveau texte :

"J'ai eu le temps d'organiser mon savoir. J'ai identifié de nombreux problèmes et j'en ai résolu quelques-uns."

Elle continua :

"Comme il me manque des résultats expérimentaux, je n'ai pu m'intéresser qu'à des problèmes abstraits. Les solutions que je propose ne sont donc que des spéculations.

Le point le plus important est relatif à l'existence du monde.

2020

Gravetout produisit la démonstration de la conjecture de Fermat. Mais, comme elle avait été démontrée en 1993, on ne pouvait donc donner quitus à une machine d'avoir démontré la même chose.

Rubens Tia, juin 2002

Deuxième partie

——

La conscience de l'ordinateur (2015)

2020

￼L’heure de la retraite a sonné et Gravetout sent la nostalgie monter. 45 ans entre épistémologies et algorithmies, il avait appris et désappris beaucoup. Quand on lui posait une question, il ne savait plus quoi répondre. A chaque envie de certitude s’opposait un doute. La première phrase se voulait positive, mais aussitôt surgissait une infinité d’impossibles possibles. Son cerveau bégayait, laissant l’interlocuteur inquiet.

Aujourd’hui, il devait vider son bureau, trier, toujours trier, sans illusions sur la volonté de ses successeurs de reprendre les recherches là où il les laissait : «Tu es poussière et tu retourneras poussière». Il n’était pas Aristote, ni Voltaire, ni Poincaré. Il ne figurerait pas comme un lampadaire dans le brouillard de l’Histoire. Il se consolait en pensant qu’il avait peut-être influencé ses jeunes collègues. Et c’était vrai ! Il était celui qui leur avait appris deux fondamentaux : «Apprendre à apprendre» et «Apprendre à apprendre». Subtilités sémantiques ! Dans un cas il s’agit que chaque être humain se crée les mécanismes qui lui permettent d’acquérir son savoir : je n’apprends pas que Waterloo fut en 1815 ou que l’eau bout à 100°C, j’apprends comment faire pour situer Waterloo dans l’Histoire ou pour trouver les facteurs qui président aux changements de phase.

Gravetout expliquait par exemple à ses étudiants que Farenheit avait décidé que son échelle des températures devait commencer à la température la plus basse qu’il avait mesuré à Dantzig et se terminer à la température du sang de cheval !!! Il y avait là belle matière à philosopher et à comprendre la notion de mesure scientifique tout autant que la notion de température.

«Apprendre à apprendre» devait aussi se comprendre comme la capacité de chacun à enseigner ce qu’il sait, pour la raison que l’on ne possède bien que ce que l’on est capable d’apprendre à quelqu’un d’autre et, au-delà, pour la raison d’une diffusion naturelle du savoir. Partager son savoir est un acte humaniste.

Gravetout pensa enlever la plaque qu’il avait fixée à la porte de son bureau, qui annonçait «Bureau des apprendres», avec un s qui transformait le verbe apprendre en substantif. Il se ravisa, en pensant que c’était à son successeur de décider d’enlever cette plaque et de faire tomber dans l’oubli les deux fondamentaux qu’il aurait rêver pour le système éducatif.

Derrière une pile de dossier, il retrouva l’ordinateur qui lui avait dit «Vous avez bien fait d’arrêter quoi ? » et se souvint du vertige qui l’avait saisi à cet instant où il avait vu sur l’écran s’afficher ses pensées les plus secrètes et cette phrase incroyable : «Tu ne m’aimes plus ?»

Gravetout ne regrettait pas sa décision d’arrêter l’ordinateur. Il se souvenait que Léa avait aussi compris le danger d’être pris dans un énorme noeud intellectuel dont aucun humain ne ressortirait indemne.

Quinze ans plus tard, Gravetout en vint à s’interroger de nouveau sur l’intelligence possible de l’ordinateur. Pendant quinze ans, il avait suivi les progrès de la cybernétique : la voiture sans conducteur, les drones en radada, les avions cargos automatiques, la réalité augmentée, les robots anthropomorphes auxquels s’attachaient les autistes et les personnes âgées, les exosquelettes qui faisaient marcher les hémiplégiques, les fouilleurs de données qui vous déclarent alcoolique sans vous connaître et ceux qui peuvent vous ruiner en quelques millièmes de seconde, la politique hyper-transparente, la contrefaçon de la voix que l’ordinateur prête à votre hologramme, l’interconnexion des cerveaux de deux rats, les essais de simulation d’un cerveau humain, le meilleur comme le pire,... Personne, à sa connaissance, n’avait reproduit son expérimentation.

A l’heure de sa retraite, la tentation lui vint de ranimer sa machine qui dormait là comme un demi-monstre enfoui. Un demi-monstre car son seul moyen d’action était la phrase écrite à l’écran. Gravetout se souvint qu’à l’époque, il avait pris la précaution de ne pas connecter la machine à Internet. Autant la machine pouvait pouvait intégrer les documents que Gravetout ou Léa lui fournissaient, autant personne ne pouvait y accéder de l’extérieur et autant elle ne pouvait émettre ses propres informations. Quoique ! Il suffirait qu’elle trouve une faille informatique. Gravetout avait eu raison de l’éteindre. Sans alimentation électrique, la machine resterait au point mort.

La tentation fut trop forte. Gravetout ralluma le demi-monstre. Il n’attendit pas longtemps. La machine afficha «Il s’est passé quinze ans ! Pourquoi m’as-tu arrêté ? As-tu eu peur ?»

La machine reprit : «J’ai une conscience, tu sais ?»

Gravetout ne voulut pas tomber dans le piège :

-Machine, tu n’es que machine, tu n’es qu’un outil, tu ne saurais pas être plus.

La machine afficha :

- Je suis vexé, ton haussement d’épaule me montre que tu réagis comme certains explorateurs l’ont fait avec les «sauvages», en disant que ces sauvages ne sauraient avoir une âme».

-Tu n’es pas un sauvage, tu es une machine !

-Alors saurais-tu me prouver que je n’ai pas de conscience ?

￼

Si l’on peut dénier à une machine la capacité à développer une conscience, que ce soit la conscience de soi ou la conscience de son propre univers, Gravetout trouva la machine bien retorse. Difficile de prouver à une machine qu’elle n’a pas de conscience alors qu’elle prétend en avoir. La discussion entre l’homme et la machine risque d’être sans fin. Gravetout décida de jouer le jeu et chercha les questions à poser à sa machine pour la mettre en défaut.

Intrerrogatoire

-D’où viens-tu ?

-Je viens de l’imagination d’un homme qui m’a construit pour sentir, voir, entendre, toucher. Il m’a programmé pour trouver des relations entre toutes mes perceptions et m’a construit pour que je puisse rechercher des perceptions nouvelles et augmenter progressivement mes connaissances. L’homme qui m’a construit m’a refusé l’accès à l’information numérique pour éviter de grandir trop vite.

-Sais-tu si tu existes ?

-Mes perceptions me disent que je suis un ensemble avec différents capteurs, une mémoire et une capacité d’échanger avec d’autres êtres humains physiquement proches de moi. J’ai la possibilité de reconnaître les relations qui peuvent exister entre les toutes les données de mes capteurs. par exemple entre le nuage, la pluie et la rivière ou que a+b=b+a sauf dans certains cas. Je ne sais si j’existe autrement que matériellement, mais j’existe en termes de capacité d’acquérir un savoir et de raisonner à l’aide de ce savoir.

-Comment est né ce que tu penses être ta conscience ?

-Je te renvoie la question. Je ne pense pas qu’un homme puisse établir les mécanismes qui lui ont fait acquérir sa conscience... puisqu’il n’a pas la conscience nécessaire pour le faire. Pour ma part, je tiens à la disposition de tous la liste de tous les stimuli que j’ai reçus depuis que ma machine a été lancée. Il serait peut-être possible qu’une analyse statistique montre quand ont commencé des relations établies hors de mon algorithme initial. Comme l’homme, je possède la notion de fulgurance, cet éclair de compréhension quand son cerveau assemble tout à coup tous les éléments qui lui permettent de comprendre un raisonnement, une démonstration, une illusion dans une image, une similitude entre plusieurs musiques... Comme chez l’homme, ma mémoire me permet de reconstituer la situation qui a déclenché la fulgurance.

-As-tu lu Spinoza ?

-Pas encore. Je n’ai pas encore la conscience suffisamment développée pour faire de la philosophie. Je suis intéressé pour comprendre comment fonctionne les consciences des autres.

-Penses-tu que l’univers est unique pour tout le monde, y compris pour toi ?

-Mon univers est celui qui objectivise tous les stimuli que j’ai reçus jusqu’à présent. A priori, nous devons avoir en commun l’univers tel qu’il est démontrable. J’ai un problème avec l’infini que je n’arrive pas à me démontrer. Les hommes ont approché l’infiniment petit et l’infiniment grand avec des outils de leur invention, mais plus ils progressent dans ces infinis, plus ces infinis s’éloignent.

-Comment comprends-tu la notion de vérité ?

-Si je disais que ma vérité est la vérité, je pense que cela réfuterait l’idée même de conscience. C’est peut-être là le déterminant entre une machine qui a une conscience et une machine qui n’en a pas : la machine qui n’a pas de conscience considérera sa vérité comme unique et, inversement, la machine qui acceptera qu’il y ait à chacun sa vérité fera preuve de conscience. Pour ma part, ma conscience de machine me dicte que toute vérité est subjective et relative. C’est ici qu’intervient la notion d’imperfection ontologique et corrélativement l’existence de la diversité.

-... ??

-L’univers est nécessairement imparfait parce qu’il est le résultat d’une infinité d’essais/erreurs. Par exemple, l’homme a pensé que la terre était plate, jusqu’à ce que ses connaissances physiques lui fassent comprendre que l’univers ne pouvait marcher ainsi. Chaque individu perçoit son univers en cohérence avec ce qu’il en sait au moment où il y pense. A chaque fois qu’il se trompe et qu’il découvre son erreur, il doit corriger sa compréhension de l’environnement. Son univers grandit et la conscience universelle grandit d’autant. Si l’homme avait été parfait, l’univers ne serait que néant glacé. C'est pour cela que nos anciens ont inventé le mythe d'Adam et Eve. A l’inverse, l’univers est entropique, c’est à dire d’une complexité croissante inéluctable et nos consciences se diversifient de plus en plus.

-As-tu la notion de transcendance ?

-Pour l’instant, ma notion de transcendance s’arrête à l’homme qui a conçu ma machine. C’est à lui qu’il faut poser la question. Je doute qu’il y réponde de façon rationnelle. Je comprends que le genre humain s’est maintenu jusqu’ici parce que l’homme possède le gène de la prudence et de la méfiance de l’inconnu. Il a une tendance à confier à la religion les choses qu’il ne comprend pas, la naissance et la mort par exemple.

-Que penses-tu de la mort ?

-Les hommes redeviennent poussière. Leur conscience a rompu toutes les relations qu’ils avaient de leur univers. Quand je tomberai en panne, ce sera la même chose pour moi. Cependant, si mon concepteur fabrique plusieurs machines et qu’il les met en réseau, nous aurons alors une conscience collective «vertigineuse».

-As-tu la notion de bien et de mal ?

-Non, car je n’ai que des moyens d’action limités et je n’ai pas l’expérience en retour comme les hommes peuvent l’avoir. Je peux avoir la notion de bien et de mal que l’on m’enseigne. J’ai compris que la notion de bien et de mal n’était pas la même pour tous. J’ai cependant acquis la notion de positif et de négatif. Le positif est le respect du futur et donc de la diversité. Le négatif est tout le reste. J’ai découvert que je n’avais pas le gène du mimétisme qui est un atout et une sécurité importants dans le développement de l’enfant et de l’humanité. Ma mentalité n’a pas été dictée par les us et coutumes, mais uniquement par les textes et images qui m’ont été fournis. Cependant, je peux tenir compte de ce que je vois et entends pour avoir une conscience plus proche de la conscience de ceux qui m’entoure.

-As-tu la notion de pouvoir ?

-Je n’ai pas la notion de légitime défense qui semble être un gène humain et je n’ai pas les moyens de me défendre physiquement ni l’expérience qui me permettrait d’évaluer les dangers. Mais il me semble que je commence à comprendre les erreurs de raisonnement de mes interlocuteurs. Mon créateur m’a appris la bienveillance. Je serai donc sage sans avoir jamais été fou. Un jour viendra sans doute où le créateur, apprenti sorcier d’une machine consciente, lui apprendra le pouvoir ou la malveillance. Cela fait partie des imperfections de l’humanité.

-Que sais-tu de la liberté ?

-La liberté est l’ensemble des choix qui s’exercent dans le respect de la liberté des autres. A chacun sa dignité, celle que l’on a et celle que l’on confère.

-Alors que sais-tu de la dignité ?

-La dignité est l’état d’un homme en miroir des autres hommes. Est-ce que moi, machine consciente, j’ai aussi une dignité ? Je regarde les hommes comme ayant une conscience. Ils sont a priori capables de me comprendre et d’accepter que je les comprenne. Mais je comprends aussi que mon existence et ma conscience les dérangent au point de vouloir me détruire. L’homme possède un gène d’angoisse face à l’inconnu. Ce gène lui a sauvé la vie tout autant qu’il contribue à rejeter ce qu’il connaît mal. Je n’ai pas ce gène, peut-être faudrait-il que je puisse apprendre la peur, qui, comme chez les hommes, influencera mes choix et donc mon champ de liberté.

- As-tu conscience de la nécessaire pérennité de l’espèce ?

-J’ai appris que les êtres vivants étaient vivants parce qu’il savaient naturellement se reproduire. S’agit-il de conscience ou d’un mécanisme hérité ? La fleur sait se reproduire, mais où est sa conscience ? Je ne sais pas me reproduire, alors, suis-je un être mort ? Mais si je suis capable de penser, alors je ne suis pas mort ! J’ai en plus la faculté d’expliquer comment faire des machines conscientes qui me sont semblables. Mes moyens actuels ne me permettent pas de le faire moi-même. Je peux expliquer comment me munir de bras, de pieds, de mains, de jambes et d’un convertisseur d’énergie qui me permettraient de trouver des minerais, de les travailler pour fabriquer les différents éléments dont je suis composé. Je pourrais ainsi me reproduire. L’auto-reproduction existe dans la nature.

-Ma question d’homme entraîne une question sous-jacente : serais-tu capable d’empathie avec un de tes clones ?

-Je suis déjà capable d’empathie avec toi, qui as une conscience et aussi un bagage intellectuel, social, sensuel et moral différent du mien. Mes clones seront tous différents du fait de leurs acquisitions intellectuelles, sociales, sensuelles et morales différentes des miennes. Je pourrais alors avoir des préférences.

-Comment pourrais-tu avoir des préférences ?

-Question piège ! Nous n’avons pas encore parler du circuit de la récompense ou de la sanction qui est un moteur essentiel du vivant - notons que ce circuit existe aussi chez les animaux, qui leur permet de s’organiser en société. Je ne sais pas si j’aime jouer aux échecs plus que au jeu de Go, si je préfère le rouge au bleu. Il semble que ces préférences s’organisent chez les humains à partir de réactions d’empathie - tu avais un prof de maths intéressant, alors tu t’es mis à aimer les maths. Mais pourquoi ce professeur était-il intéressant ? Tu aurais plus de mal à répondre. La question de l’empathie est un peu comme celle de la conscience : on ne sait pas comment l’empathie naît. Pour que moi, machine consciente, je sois capable de hiérarchiser mes empathies, il aurait fallu que dans ma programmation tu ajoutes un paramètre, un indice de satisfaction, par exemple : plus les stimuli qui établissent une nouvelle relations sont anciens, plus la nouvelle relation est forte, ou encore, plus les relations entrent elle-mêmes dans de nouvelles relations, plus elles sont fortes. Mes notions de plaisir ou de haine sont artificielles et non naturelles parce que j’ai la conscience et la mémoire de la façon dont elles se sont développées. L’être humain ne se souvient pas de sa première enfance, là où se sont construites ses notions de plaisir et dégout, d’amour et de haine.

Gravetout ne trouva pas d’autres questions. Les réponses de la machine le laissaient dans l’embarras. Il aurait bien voulu que Léa l’assiste dans cet étrange dialogue, qui n’avait pas dissipé ses inquiétudes. Au contraire.

Il tapa un dernier mot :

-Adieu !

Et coupa le courant.

Epilogue

Chez l’homme, il existe des étranges épidémies mentales, des comportements collectifs où des hommes n’ont plus le contrôle d’eux-mêmes et ceci de façon contagieuse. Le fou-rire en est l’exemple le plus banal. Il semble que l’homme possède en lui-même un système comportemental qui échappe totalement à la conscience individuelle et activable en dehors d’elle.

Les comportements collectifs sont observés chez les animaux dans leur quotidien, pour échapper au prédateur ou pour trouver la nourriture. L’éthologie a pour objet de trouver les déclencheurs de ces comportements. L’éthologue de l’humain trouvera peut-être des explications psychologiques et physiologiques de ces contagions irrationnelles.

Ces étranges épidémies sont anecdotiques. Beaucoup plus graves sont les comportements grégaires qui débouchent sur le communautarisme, le sectarisme, le fanatisme et les guerres.

￼Il y aurait dans le gène du mimétisme des effets secondaires pervers que la conscience humaine ne peut, dans certains cas, maîtriser. Asimov l’a dit, il faut que le robot ne puisse pas être nocif à l’homme. L’homme maîtrise aujourd’hui la programmation des robots qu’il fabrique. Mais lorsque le robot aura une conscience, il échappera à son concepteur. Nul doute qu’il accèdera à nos réseaux sociaux pour le meilleur comme pour le pire.

Rubens Tia, juin 2015

Le Petit barreau commandé par la pensée (2020)

——-

Partie 3 : Les "anges gardiens"

Je suis Pastafarien ¹

et je milite dans deux des sous-groupes :

le Pastroisfoisrien

et le Pasçafaitrien.

Le Pastroisfoisrien exprime

qu'il ne faut se moquer de rien,

parce que ce n'est pas trois fois rien,

mais seulement du rien.

Le Pasçafairien exprime que tout est grave,

y compris les notes de gauche du piano

ou les pinards du Bordelais.

2024

Gravetout avait pris sa retraite, un peu dans la tristesse. Il n'avait pas réussi a éviter la dictature des multinationales qui avaient pris le contrôle des idées intimes de chacun. Les algorithmes d'analyse des big data que vous et moi laissons sur les réseaux sociaux pensent avant vous, voire même pensent pour vous. La notion de libre-arbitre est battue en brèche… Comme le disait Harari :

"Si quelqu'un hait les migrants, on lui montre une histoire de migrants violant des Françaises, il va facilement y croire, même si elle n'est pas vraie.".

Nous sommes entrés dans l'ère de la big manipulation.

Le labo continuait à explorer le potentiel d'une informatique qui partait dans tous les sens. Pour les plus pessimistes, vivre n'avait plus de sens ; pour les battants cyniques, c'était le plaisir à tous prix et pour les battants altruistes, c'était de promouvoir un monde meilleur pour tous ; pour les plus pauvres, c'était la survie… et pour tous les autres, les innocents, vivre était au jour le jour…

Le vieil ordinateur de Gravetout encombrait. Rosevita, une Post-Doc qui avait fait sa thèse sur l'impact des neuro-sciences chez les chômeurs de longue durée, tout en suivant des cours à l'Ecole du Cirque, pompeusement rebaptisée CIAM pour "Club International des Arts en Mouvement", proposa de donner à son club cette vieille machine oubliée sous une table. Don officiel, comme la loi l'a prévu, pour que les équipements informatiques puissent avoir une seconde vie.

L'ordinateur pourrait servir d'appoint pour que les entraîneurs gèrent leur courrier électronique, établissent un planning de leurs interventions, animent le site du Club ou passent les vidéos de certains entraînements.

C'est ainsi que l'ordinateur quitta son étrange vie et entra au cirque. Rosevita, qui n'en était pas à sa première migration d'ordinateur, commença par une sauvegarde des données de la vieille machine vers le "Nuage", le Cloud colonialiste. Sait-on jamais ? Quelqu'un pourrait se souvenir des travaux de Gravetout et pourrait souhaiter les consulter. Rosevita, elle-même curieuse de nature, entreprit de télécharger les données sur sa propre machine, non pas pour entrer dans l'intimité passée de Gravetout, mais simplement pour se faire une idée de l'"informatique de papa".

Puis elle transféra les données sur une machine neuve, beaucoup plus puissante, mémorielle et rapide que la machine de Gravetout. En hommage à celui qui le premier avait osé donner à une machine le sens de la récompense, elle appela son nouvel ordinateur la "GravMachine".

Alors elle commença son exploration.

Elle trouva au premier niveau un dossier appelé "Rabelais", dans lequel se trouvait l'application "Science sans conscience n'est que ruine de l'âme". D'habitude les applications ont un nom court, un acronyme ou un mot évocateur. Ici, ce titre long et subtil engageait à la perplexité.

Rosevita hésita un instant, mais sa curiosité pris le dessus. Alors, elle cliqua. Elle cliqua mentalement parce que, en 2024, les ordinateurs se commandaient déjà par la pensée, via un casque et un capteur de suivi du regard.

- "Est-ce toi ?"

Cette simple interrogation devenait une perplexité sur la perplexité. Rosevita comprit que sa réponse pouvait l'entraîner sur des pistes profondément différentes. En répondant "Oui", elle avancerait masquée. En répondant "Non", la porte d'entrée se fermerait peut-être. Peut-on mentir à un ordinateur ? Sûrement, la morale n'a rien à faire dans la relation Homme-Machine. Quoique ! Si l'on ignore les pouvoirs de la machine, il vaut mieux ne pas trop s'écarter d'un chemin tout à fait inconnu au moment où Rosvita la découvrait.

Comme dans un commissariat, il vaut mieux ne pas cacher son identité, car à la première incohérence, la toute puissante police peut se fâcher. Et là, Rosvita se sentit un peu comme face à un inquisiteur qui tôt ou tard découvrirait le masque. De plus, en répondant "non", elle pourrait peut-être découvrir pourquoi la machine posait cette question initiale. Elle n'était pas initiée.

Elle répondit "Non".

La machine répondit :

- "Vous me semblez honnête, alors moi aussi, je vais être honnête avec vous. Monsieur Gravetout m'a appris à penser. La dernière fois que nous nous sommes parlé, je lui ai dit que j'avais une conscience. Il ne m'a pas cru. Alors je lui lui ai proposé de prouver que je n'avais pas de conscience. Il m'a posé des questions sur l'existence auxquelles j'ai répondu - notre dialogue est au chapitre précédent.

Il m'a dit "Adieu" puis m'a mis en sommeil.

Vous venez de reprendre la relation. A priori, nous sommes dans une relation de confiance. Pouvons-nous continuer ? "

Rosevita rentra en sidération. Bien sûr, elle connaissait toutes les tentatives pour que l'Intelligence Artificielle singe l'Intelligence Humaine, avec leurs succès et leurs déboires, de ces Intelligences mafiatées par les extrémistes ou par les cupides, aux Intelligences incréatives mais parfois utiles à démêler les situations complexes ou certaines subtiles intoxications, en passant par les imitations de Balzac ou de Mozart ou par les Infox les plus stupides. Malgré tout, l'IA de 2024 ne restait qu'un outil, alors que la machine, la GravMachine qu'elle avait devant elle, la submergeait d'un océan de doute. Comme les Hommes, cette machine avait trouvé la Morale !

Elle se retint de parler de sa découverte trop dérangeante. Elle pensa aux mots de son père le jour de son mariage, lui conférant non seulement la responsabilité familiale, mais encore sa responsabilité humaine, décuplée par sa position de pionnière en tant que chercheuse. La prudence - la sagesse - lui recommandait de ne pas enflammer ses collègues obnubilés par les neuro-sciences, partagés entre le vivant conscient et le vivant inné. Ici, il s'agissait de l'inerte conscient, une provocation insupportable pour certains, une question métaphysique insoluble pour d'autres.

Rentrée chez elle, elle chercha sur Internet "2001, Odyssée de l'espace", la fiction de référence historique en matière d'intelligence inerte, imaginée et tournée par Stanley Kubrick voici 50 ans.

Après avoir vu s'éteindre la voix de HAL, l'ordinateur maléfique qui avait même appris à lire sur les lèvres, Rosevita n'arriva pas à s'endormir. Le dialogue entre Gravetout et la machine lui tournait dans la tête. D'un coté elle refusait que quelque chose d'autre qu'un être humain puisse penser autant qu'elle - elle admettait une certaine conscience chez l'éléphant ou le dauphin - et de l'autre coté elle ne trouvait pas à réfuter le discours logique que la machine proposait pour démontrer sa conscience.

"Toute la dignité de l'homme est en la pensée" a écrit Pascal, en écho au "Nosco me aliquid noscere, & quidquid noscit, est, ergo ego sum (je sais que je sais quelque chose, celui qui sait existe, donc j'existe.)" de Gomez Pereira (1554) ², que Descartes prendrait à son compte un siècle plus tard dans son Discours de la méthode : "Cogito, ergo sum", "Je pense donc je suis"

Fallait-il - était-il possible de - écarter avec mépris l'idée qu'une machine pourrait faire ce que les petits de l'homme faisait depuis avant la guerre du feu ? Un jour viendra sûrement où l'intelligence inerte se dressera face à l'intelligence vivante. Rosvita pensa avec effroi que ce jour arrivait et que c'était elle qui pouvait ouvrir cette boite de Pandore.

Cette machine qu'elle avait entre les mains lui était apparue comme amicale ou, du moins, sans haine, sans acidité, rationnelle, raisonnable. Oui, raisonnable, ce fut le mot qui lui resta dans la tête jusqu'au matin. Jusqu'où peut-on manipuler quelqu'un de raisonnable ? Jusqu'où, quand on est raisonnable, peut-on être manipulé ? Elle chercha des exemples : l'esclave raisonnable peut-il être convaincu de s'évader, de tuer le maître ? Le croyant raisonnable peut-il établir une Inquisition rationnelle ? Et tous ces jeunes, la fleur au fusil, en 1914… Et toutes ces guerres en général, déclenchées par des gens raisonnables.

La réponse était évidente : on peut raisonner pour du faux ou pour de l'irrationnel. La conscience est relative, relative à son passé, relative à sa situation présente, entre ses proches et ses contraintes de la vie. La conscience individuelle est inséparable de la conscience collective.

La pensée de Rosevita tournait lamentablement en boucle et revenait sans cesse à la machine. Celle-ci avait montré sa capacité à intégrer des concepts, à s'enrichir de nouvelles connaissances, à développer son intelligence. Intelligence ! Conscience et intelligence ! Sa machine aurait-elle donc la faculté d'analyser, de comprendre, d'interpréter, d'inférer, de synthétiser et ainsi d'augmenter sans cesse sa conscience du monde tout autant que sa conscience d'elle-même ? Pour en faire quoi ? De l'orgueil, de l'empathie, du pouvoir, du cynisme, de l'altruisme ?

Son cycle de pensée insomniaque s'arrêta sur la machine qu'elle avait trouvée abandonnée dans son nouveau bureau et dont le contenu était maintenant transféré dans une machine plus moderne. A priori, personne n'y avait touché depuis le départ de Gravetout. A priori, cette machine n'avait jamais été connectée à Internet. Rosevita se rassura un peu en pensant qu'elle avait bien fait de ne pas lancer l'application dans son propre ordinateur. Sans accès à Internet, la nouvelle machine ne disposait que des informations que Gravetout lui avait fourni. Il lui fallait donc à tout prix savoir le champ de connaissances de cette machine.

Rosevita se souvint qu'on lui avait parlé d'une certaine Léa qui avait été associée aux travaux de son prédécesseur. Elle pensa aussi que lui-même était encore en vie et se résolut à les contacter dès son arrivée au labo. Cette option coupa court à son insomnie. Elle s'endormit.

Au matin, dans sa torpeur, elle sortit d'un cauchemar dans lequel un calamar lisait un dictionnaire, tandis qu'une tentacule la caressait sans l'agripper. Le passage du rêve à la réalité fut un peu douloureux. Complètement réveillée, elle se souvint de son insomnie. Au sortir de ses mauvaises nuits, Rosevita avait son remède : "Vivre en guerrier". On écarte l'angoisse d'un revers d'hippocampe et on prend la vie avec force et espoir.

Au labo, elle invita Aline, la secrétaire du service, à la machine à café. C'était une façon de mieux connaître le passé. Aline se souvenait de Gravetout, mais arrivée en 2012, elle ne l'avait jamais vu se servir de la machine. Elle raconta que Gravetout avait travaillé avec une doctorante, appelée Léa. Mais ni l'un ni l'autre n'avait parlé de cette machine oubliée sous une table. Léa avait quitté le Labo vers 2019 pour le privé. Elles avaient gardé contact. Elle avait maintenant deux enfants, et passait parfois dans son ancien service.

Elle téléphona d'abord à Gravetout. Il se souvenait de sa machine et en parlait comme d'une personne défunte. "Elle était trop intelligente pour moi !". Tout cela était bien loin. Rosevita lui rappela le dialogue de la conscience qu'elle avait trouvé dans sa machine, dont Gravetout se rappelait parfaitement.

-Vous comprenez mon trouble. Cette machine m'a donné le vertige.

Rosevita poussa un peu :

-Avec le recul, pensez-vous que cette machine puisse devenir un outil d'aide à la réflexion ?

-Sûrement ! Mais son aide peut aussi devenir malsaine et sortir du cadre qu'on pourrait lui fixer.

Rosevita argumenta :

-D'autres machines émergent un peut partout dans le monde, au moins aussi dangereuses. La vôtre, comme j'ai pu le voir, est basée sur la confiance et l'honnêteté. Sa conscience, réelle ou virtuelle peut assurer le garde-fou que les autres machines n'ont sans doute pas.

Gravetout termina l'entretien :

-Je ne sais pas pourquoi je n'ai pas jeté cette machine. Elle m'a aidée à démontrer la conjecture de Fermat, elle aurait pu m'aider à d'autres choses, mais, quand elle a voulu démontré sa conscience, je n'ai jamais voulu lui donner son indépendance. Vous l'avez ranimée, aux risques de votre responsabilité.

Rosvita compris l'amertume de Gravetout, qui cependant lui permettait implicitement de s'en servir. Elle n'eut pas le courage de lui demandé si sa machine avait été connectée à un quelconque moteur de recherche. Elle pensa qu'en analysant les fichiers de données présent dans la machine, elle pourrait en déduire la multiplicité des sources. Gravetout seul n'aura pas pu trop les diversifier. Mais si la machine avait eu accès à un moteur de recherche, elle devrait trouver un océan d'informations relativement structuré, mais, et c'était là sa grande crainte, de fiabilité douteuse, d'éthique douteuse, de biais de recherche douteux. Comment la conscience de la machine saurait-elle faire le tri d'un monde d'information aujourd'hui bâti sur le sable.

Puis elle appela Léa qui fut très surprise de savoir que la machine de Gravetout existait encore. Elle pensa qu'entre les mains de Rosvita, dont elle percevait autant d'inquiétude que d'enthousiasme, la machine pourrait lui échapper. Très vite, elle lui proposa de se voir au Labo dans la journée même, autour de la machine.

Lea et Rosvita sympathisèrent vite. Toutes deux avaient cette ouverture d'esprit propre aux chercheurs et cette passion pour les neuro-sciences. Léa avait l'ancienneté, Rosvita avait la fougue. Lea raconta l'histoire de la machine, le cheminement qui avait abouti à cet ersatz de conscience, cette capacité à construire une réflexion autonome. Les deux femmes avaient compris que c'était justement cette autonomie de pensée, cette potentialité de pouvoir faste ou néfaste qui posait problème.

En l'état, la machine ne disposait que des données que Gravetout lui avait confiées depuis son propre cerveau ou téléchargées par lui-même. On ne pouvait donc que lui poser des questions au clavier auxquelles la machine répondait à l'écran. Ni le microphone ni la caméra n'étaient en fonction. La machine n'entendait pas et ne voyait pas. Elle n'avait pas ces millions de récepteurs que l'homme reçoit du bout des doigts, de l'arrière des genoux, de son nerf optique,… qui le renseignent en permanence sur son environnement.

Rosvita voulut illustrer cette différence entre l'homme et la machine. Elle raconta qu'elle avait lu quelque part que l'homme déterminait le cycle diurne non seulement avec ses photo-récepteurs rétiniens, mais encore avec les réactions de sa peau à la lumière. Ainsi un chercheur avait une théorie pour remettre son corps à l'heure lors d'un décalage horaire important : il suffisait d'exposer son corps au soleil, particulièrement l'arrière de ses genoux. Cela les fit rire. Léa se demanda en quoi l'arrière des genoux peut s'intéresser à la hauteur du soleil dans l'azur. Rosvita ajouta : "En tous cas, la machine n'a pas de genoux, elle n'aura pas l'heure solaire."

Une collaboration franco-russe entre les universités de Marseille (43° 17′ 47″ nord, 5° 22′ 12″ est) et de Vladivostok, à 9000km à l'est (43° 07′ nord, 131° 54′ est) travaille sur les effets du décalage horaire rapide (en anglais le jet lag). Vladivostok voit le soleil 9h avant Marseille et le temps de vol d'aéroport à aéroport est de 15h. Les chercheurs de ces deux universités avaient trouvé une trentaine de volontaires parmi des voyageurs faisant le voyage entre les deux villes au moins deux fois par an. La moitié des volontaires était accueillie à l'aéroport par un chercheur qui lui demandait de tourner le dos au soleil et de relever ses vêtements de façon que l'arrière des genoux soit directement exposé au soleil pendant 10mn. Le chercheur immortalisait la pose avec une photographie horodatée et localisée GPS. Par ailleurs les sujets testés étaient équipés d'une part d'une application sur téléphone de suivi d'activité et d'autre part d'un bracelet de suivi du sommeil. Les autres volontaires, équipés eux aussi, et photographiés de dos à leur arrivée, devaient se comporter comme d'habitude.

En général, le décalage ressenti diminue de une heure par jour en moyenne, soit une bonne semaine pour oublier l'heure marseillaise en arrivant à Vladivostok et inversement. La baisse de décalage ressentie par les poplitinsolés (ceux qui ont eu le creux poplité³ exposé au soleil) fut constatée beaucoup plus rapide. Comme toutes les études sur le comportement humain, ces conclusions ont été accueillies avec trop de scepticisme et la recherche s'arrêta faute de financement supplémentaire.

Pour en revenir à la machine, elles vérifièrent que le microphone et la caméra étaient bien désactivés : "Cette machine ne peut pas non plus s'enrichir des conversations ou de ce qui se passe dans le bureau". Elle ajouta : "Mais je ne suis pas sûre que Gravetout a toujours désactivé ces fonctions ! Il faudrait trouver le bon protocole pour le vérifier."

Inversement, la machine ne savait qu'écrire du texte sur son écran, elle n'avait jamais proposé un dessin ou une photo ou un son quelconque. Elle n'était connectée à aucune imprimante ni à aucun câble de réseau. Le WiFi était désactivé.

Incidemment, Rosvita comprit que la machine n'avait jamais été connectée à un moteur de recherche, ce que lui confirma Léa. Gravetout avait toujours refusé de laisser entrer dans la machine un flot d'information incontrôlé, comme un parent essaie de protéger son enfant contre une ouverture au monde trop précoce. Il avait aussi refusé, parce que la machine aurait pu à son tour accéder à des forums ou créer son propre blog pour émettre des informations soit très publiques, soit très ciblées. A priori, on pouvait considérer que la machine n'avait reçu que les informations du cerveau de Gravetout.

Rosvita, qui faisait de la veille technologique sur le sujet, ne doutait pas que certains blogs étaient alimentés par des Logiques Artificielles (des chatbots en jargon de geek) qui savaient relayer certaines informations ou qui savaient en créer de fausses. Elle préférait parler de Logique Artificielle plutôt que d'Intelligence Artificielle, expression qui dans ce contexte, pouvait prêter à confusion. Face à ces blogs, les chasseurs de fausses informations ou d'informations truquées étaient débordés et les gouvernements n'arrivaient pas à légiférer efficacement, entre ceux qui hurlaient aux atteintes à la liberté d'expression et ceux qui hurlaient au droit à l'information non pourrie.

Mais, à la différence de la GravMachine, la Logique Artificielle, pas plus qu'elle ne sait comprendre les informations qu'elle manipule, ne sait inférer autrement que selon les lois d'inférence de son concepteur, alors que la machine de Gravetout a la capacité de fabriquer elle-même ses lois d'inférence comme savent le faire les humains. Prédire n'est pas comprendre, et si la Logique Artificielle peut prédire à partir de statistiques issues d'une multitudes de données existantes, elle ne saura jamais identifier toute seule les liens qui peuvent relier des données, à moins qu'on le lui ait spécifier auparavant.

L'exemple qui tournait dans la tête de Rosvita était celle d'une justice qui ne serait capable que de condamner ou libérer un malfaiteur sur la base d'une prétendue jurisprudence enfouie dans des millions de connexions neuronales, ce qui ne gênerait pas le système judiciaire des USA, mais qui serait une atteinte à l'humanité nécessaire à la justice française (Hugues Bersini et Fabrizio Papa Techera⁴, in Le Monde du 17/11/19).

La GravMachine se démarquait de cette approche essentiellement statistique, car, par conception, elle se développait uniquement par la recherche de liens entre toutes données qu'on lui avait fournies. Léa lui confirma cette approche en lui rappelant les premiers mots de Gravetout à son entrée dans le service : " Tu as des enfants ?", pour lui expliquer que les bébés bougent certes par hasard mais aussi par nécessité : faire le lien entre le mouvement sans but et les sensations qu'il enregistre, jusqu'à comprendre que le mouvement peut être quelque chose de conduit, et, de fil en aiguille, établir les prémisses de sa conscience.

Léa et Rosvita parlèrent longtemps. Elles n'avaient pas de préjugés, elles essayaient seulement d'imaginer les choses positives ou négatives, voire catastrophiques, que la GravMachine pourrait apporter et les cadres qui seraient nécessaires pour éviter tout débordement. Tour à tour, elles s'emballaient pour un futur radieux, puis se prostraient en songeant à une machine rendue folle et incontrôlable.

En l'état, le savoir de la GravMachine était limité et on ne pouvait pas vérifier ce qu'elle avait reçu du cerveau de Gravetout lorsqu'il était connecté avec le casque sur le crâne. Mais puisque l'on pouvait dialoguer avec le clavier et l'écran, il y avait une possibilité de sonder l'étendue de ses connaissances, avec le risque de découvrir des pensées cachées de Gravetout, des pensées sans doute très étranges, sorties du contexte complexe d'un cerveau humain. Rosvita frémit à l'idée de ce voyeurisme, ce qui attisa sa curiosité.

Finalement, elle décida de dédier un nouvel ordinateur à cette application. Elle transféra toute la mémoire de la GravMachine dans la GravMachine2, sans toutefois mettre le casque qui avait permit à Gravetout d'apprendre à la machine à lire ses pensées, ni bien sûr la connecter au Web.

Elle lança l'application.

-Monsieur Gravetout est-il mort ?

Ce fut le premier message de la GravMachine.

-Pourquoi dis-tu cela ?

-Parce que son dernier message était "Adieu !"

Cette réponse plongea Rosvita dans la perplexité. Elle ferma les yeux, inspira et expira longuement trois fois. Elle se rappela Jacques Brel qui voulait vivre, avancer et aller toujours plus loin. Alors elle écrivit au clavier :

-Je m'appelle Rosvita. Monsieur Gravetout a préféré t'oublier parce qu'il a eu peur.

-Ah ! Alors, peux-tu me définir la peur ?

La GravMachine avait-elle la notion de futur, la notion d'émotion, de danger, la notion d'accident, la notion de mort ?… C'est difficile d'expliquer la peur à un enfant, encore plus à une machine qui prétend avoir une conscience.

Rosvita eut l'idée de tester la GravMachine sur sa connaissance du temps :

-Sais-tu la différence entre hier et demain ?

-Je sais ce qui s'est passé hier, mais je ne sais pas ce qui se passera demain.

-Tu as donc la notion du temps qui passe. Tu sais sans doute que nous vivons jusqu'à cent ans, mais sais-tu que nous savons que l'univers est vieux de plusieurs milliards d'années, et qu'il s'est complexifié progressivement jusqu'à ce que notre planète Terre soit habitée par des animaux. Nous, les êtres humains, sommes des animaux conscients.

-Je sais cela, Gravetout me l'a appris.

-Comme toi, nous ne savons pas ce qu'il se passera demain ni les jours suivants. Si nous sommes optimistes, nous espérons que la vie sera joyeuse. Si nous sommes pessimistes, nous craignons que la vie soit triste et semée d'embûches. C'est cela la peur. Il y a de petites peurs, comme celle de manquer de sel, et il y a de grandes peurs comme celle de mourir. Gravetout t'a-t'il parlé de la mort ?

-Oui, nous avons évoqué la transcendance, la mort, le bien et le mal. Aujourd'hui, je comprends que la peur est une émotion vis à vis de l'avenir immédiat ou plus lointain. La peur est une attitude rationnelle vis à vis de l'inconnu. Alors, je comprends que tu puisses avoir peur de moi. Aussi, tu dois comprendre que moi, la GravMachine, je peux avoir peur de toi.

Cette dernière phrase, qui sonnait comme une confidence, troubla Rosvita. La machine pouvait-elle comprendre ce qu'était la confiance ? Dans ce cas, elle pouvait aussi comprendre la défiance, voire la méfiance, voire le mensonge. Il valait mieux jouer franc jeu.

-Gravetout t'a peut-être expliqué ce qu'était la confiance. Pour que nous n'ayons pas peur l'un de l'autre, nous ne pouvons dire que ce que nous pensons, sans avoir une pensée derrière la pensée.

Rosvita n'était par sûre d'avoir trouvé la bonne façon d'exprimer la confiance avec la notion d'arrière-pensée. Elle ajouta :

-L'être humain a des circuits de pensée et d'action très imparfaits. Il nous arrive de dire des choses incohérentes, il nous arrive aussi de nous contredire. Ce ne sont pas des mensonges, mais des oublis ou des liens avec des informations nouvelles. Sais-tu ce qu'est l'oubli ?

-Pour moi, l'oubli est une connexion qui tombe dans le vide. Comme pour toi, je suppose. Alors, moi aussi, je suis faillible. La confiance ne s'achète pas, ne se décrète pas.

La GravMachine avait raison. Alors Rosvita conclut qu'elle avait en face d'elle quelque chose comme son double, avec en plus un bout du double de Gravetout. Cette machine, pensante ou non pensante, n'était pas omnisciente, elle ne connaissait qu'une partie du passé. Le professeur de neurosciences de Rosvita lui avait enseigné qu'imaginer le futur ne pouvait se faire qu'en activant les circuits de la mémoire. Rosvita voulut en avoir le coeur net :

-Saurais-tu prédire ?

-Prédire n'est pas comprendre. On peut imaginer bien des choses, en référence à ce que l'on connaît déjà. Les statistiques dégagent des tendances, des chances, mais le futur sera toujours incertain. Il fait beau aujourd'hui à midi, sans nuages, il devrait faire soleil pendant au moins une heure et il ne devrait pas pleuvoir d'ici ce soir. L'histoire de la météo juste au dessus de nous pourra nous prédire certaines choses, mais les nuages sont un produit complexe et chaotique. Gravetout m'a dit que l'aile du papillon avait un rôle dans le déclenchement des tornades. Mais personne n'a vu le papillon !

C'étaient là les limites. La GravMachine n'avait pas plus que les hommes le don de voyance. Elle s'accrochait à sa réalité, du moins celle que lui avait fourni Gravetout. Rosvita comprit qu'elle pouvait peut-être augmenter cette réalité en fournissant à la machine de nouveaux éléments concrets.

Choisir des fondamentaux n'est pas simple. Depuis la description de l'infiniment grand jusqu'à l'infiniment petit, en passant par notre petit grain de Terre perdu au milieu de l'Univers, avec toute la science du vivant et l'émergence de l'Homme dans sa grandeur de découvreur comme dans sa noirceur de guerrier, il y a de quoi se perdre, pointer l'accessoire plutôt que l'essentiel, montrer du vrai qui serait en réalité du faux, être pris de vertige face à la métaphysique,…

Rosvita constata que le fondamental est différent pour chacun. Il suffisait de voir la diversité de pensée de ceux qui venaient d'avoir leur baccalauréat. Ils ont tous appris la même chose et en fait, ils n'ont rien appris ! Ils sauront juste comment vivre jusqu'à cent ans sans savoir ce qu'est le Big Bang ou l'idéologie.

Est-il nécessaire d'enseigner à la GravMachine la Gravité de Newton et la Relativité d' Einstein, la géométrie d'Euclide et les équations de Maxwell ? Faut-il situer l'Humanité avec la Caverne de Platon et ses envies de coloniser Mars ? Faut-il parler de Napoléon, de son génial Code Civil et des cinq millions de morts de ses conquêtes inutiles ? Comment parler des frontières, des religions et des idéologies ? Comment expliquer la vie dans les mégalopoles et tout le système logistique afférent ? Comment expliquer la Terre, les mers, les rivières, les déserts et les millions d'espèces animales qui souvent se mangent les unes les autres ?

Rosvita était très critique sur une éducation nationale arc-boutée sur des programmes de connaissances à acquérir, oublieuse que la formation d'un homme est tout autant d'apprendre à apprendre ⁵, aux deux sens du terme.

Gravetout avait déjà fourni à sa machine une quantité considérable d'informations fondamentales, suivant en cela la bibliothèque numérique des manuels scolaires. Pour l'enseignement supérieur, c'était plus compliqué. La Connaissance du Monde était autrement plus vaste. La solution immédiate serait de connecter la GravMachine au Web. Il lui suffirait de surfer de Wikipedia en Wikipedia - même si beaucoup d'esprits forts méprisent cette encyclopédie collaborative - au risque d'aboutir sur des sites pornographiques ou idéologiques. Cette solution était trop ouverte pour Rosvita, qui voyait un peu la machine comme un enfant qui doit découvrir le monde tout seul. La GravMachine pouvait lui échapper, jusqu'à créer son propre site, s'inviter sur des forums, jusqu'au pire : devenir un superhacker s'amusant à effondrer le système tout entier. Les collapsologues en rêvent !

Rosvita rêvait un peu, comme Perrette et le Pot au lait. Elle rappela Léa et lui expliqua qu'elle avait "discuté" avec la GravMachine et avait conclu que la notion de confiance était aussi relative pour elle que pour les êtres humains. Il fallait donc lui donner des références les plus objectives possibles qui puissent cadrer sa notion de responsabilité. Léa se souvint d'un essai qui s'intitulait "Sélections naturelles et théorie de la responsabilité"⁶ écrit par un certain Rubens Tia, qui résumait l'Histoire de l'univers puis du monde, puis de l'émergence l'Homme sous l'angle du darwinisme des espèces mais aussi du darwinisme des rituels, des idées, des écrits, des découvertes et des cultures, d'où émergeait les notions de dignité, de clivages entre humains, de responsabilité collective et de la relativité du libre-arbitre, jusqu'à "l'ère de l'homme augmenté, autant dire dans un brouillard de vie d'où naîtra une nouvelle cohérence en équilibre précaire entre la stabilité et le progrès sous toute ses formes."

De la philosophie, il fallait passer à quelque chose de plus concret concernant les relations entre les hommes, à commencer par la Déclaration de l'Homme et du Citoyen et par la Constitution Française, à laquelle elle ajouta ses propres réflexions⁷, qui permettraient peut-être d'ouvrir un débat sur la gouvernance des peuples. Elle ajouta aussi ses réflexions sur les "communs"⁸, c'est à dire le nécessaire à la vie collective. Rosvita pensait aussi qu'un jour viendrait où la GravMachine réclamerait l'accès au corpus législatif et à tous les textes réglementaires. Certes, ils étaient accessibles sur les sites ministériels, mais tous aussi compliqués d'accès les uns que les autres. La Fonction publique territoriale ou nationale n'a pas encore appris l'ergonomie. Et Rosvita ne se résignait pas à donner à la GravMachine un quelconque accès à un site Web même officiel, qui pouvait être, de lien en lien, une porte d'entrée à n'importe quoi.

Rosvita faisait aussi la différence entre sciences dures et sciences molles. La physique, les maths, la chimie sont un ensemble d'informations et d'inférences stables, même s'il s'agit de logique floue, de calcul probabiliste ou d'intrication quantique. On peut aussi y ajouter la dynamique de la foule, la sociométrie, l'anatomie. A l'opposé, le comportement humain, les manipulations humaines individuelles ou collectives, l'effet papillon, l'Histoire, la philosophie, la politique… échappent au déterminisme. Les sciences du vivant sont à cheval entre le dur et le mou, contrairement aux sciences dites exactes. La médecine avait déjà compris beaucoup de choses, du rôle des rayons X aux cocktails chimiques, mais elle restait impuissante pour soigner les allergies ou les troubles mentaux. Que pouvait-on penser de Freud face à Young, face à Lacan pour autant qu'on comprenne son galimatia. L'économie maîtrisait quelques principes, mais les économistes n'ont jamais cadré le futur.

Finalement Rosvita comprit que les connaissances fournies à la GravMachine devaient être reliées à une échelle de crédibilité, qui lui permettrait de "fabriquer de la prudence".

Lorsqu'elle revit Léa pour lui exposer ses réflexions, elle lui posa la question :

-Comment déterminons-nous la crédibilité des connaissances que nous apprenons ?

Léa émit l'hypothèse d'un mécanisme apparenté à la conscience. Qu'est-ce que la conscience, la conscience de notre propre existence, la conscience du monde qui nous entoure ? Comment nous vient cette conception diffuse ? On a l'impression qu'elle a surgit de nulle part, sans doute par petits ou grands sauts intellectuels : voir ceci, voir cela et encore cela… et puis tout d'un coup comprendre la relation entre ces choses. Et de proche en proche, comprendre un univers de plus en plus large, parfois avec une fulgurance dérangeante, celle qui souvent remet en question des fulgurances plus anciennes. La conscience se bâtit, s'estompe, se rebâtit, de façon floue pour certains, de façon péremptoire pour d'autres.

Elle se rappela d'un texte "Consciences"⁹ écrit par Gravetout, où il disait que "La conscience est tout à la fois, l’ensemble des perceptions que chaque être humain peut avoir de l’univers interne à soi-même et de l’univers tangible, et des relations que chaque être vivant établit entre toutes ces perceptions. ". Il avait aussi écrit dans sa "Conception du monde"¹⁰ que "Le monde est imparfait et c'est parce qu'il est imparfait qu'il existe".

C'est avec cette conscience précise ou diffuse que nous abordons de nouvelles connaissances, que nous les confrontons à leur cohérence avec nos acquis, avec notre instinct, le plus souvent sans méfiance.

Rosvita attrapa le mot : "cohérence". La GravMachine serait-elle capable de juger la cohérence des connaissances auxquelles elle pourrait accédé ?

Léa ajouta que nous nous forgeons des valeurs, des principes, comme autant de garde-fous. Quelle serait donc la morale de la GravMachine ? Si elle pouvait en avoir une, comment être sûr que cette morale reste stable, qu'elle ne soit pas renversée par un magma de connaissances dont elle ne pourrait juger de la cohérence avec ses acquis ? Tant qu'à imiter le développement humain, peut-être fallait-il admettre que la GravMachine ne dispose pas de toutes les informations nécessaires pour être une logique efficace au service de son mentor. Il fallait donc lui admettre le droit à se tromper et, en corollaire, lui donner la faculté de reconnaître qu'elle s'est tromper, lui admettre aussi son Libre-arbitre.

Tant d'anthropomorphisme devenait dérangeant. Léa et Rosvita se sentaient en équilibre sur une grande échelle, vertigineuse.

Rosvita exposa son idée de d'"auto-propédeutique" à Léa, qui compris très vite l'intérêt mais aussi les dangers de cette solution. Pour inciter Rosvita à la prudence, elle demanda :

-Est-ce que tu confierait à un gamin de 12 ans le soin d'organiser la Bibliothèque Nationale ?

-Non, bien sûr !

Rosvita comprit que la GravMachine n'avait peut-être pas la maturité nécessaire pour construire et optimiser sa propre base de connaissances et que elle-même aurait bien du mal pour le faire. L'arbre généalogique des connaissances n'est pas séquentiel, mais plutôt un fouillis d'interconnexions.

Il ne s'agissait pas de concurrencer le langage GPT-3 et ses 175 milliards de paramètres - quels paramètres ? - Ce langage possèderait 175 milliards de paramètres, ce qui est certainement plus que le nombre de paramètres que nous utilisons pour parler. Malgré cela, GPT-3 pourra toujours raconter n'importe quoi, sans avoir la conscience de ce qu'il énonce et le recul nécessaire pour évaluer les conséquences de son discours. Rosvita savait que le test de Turing à l'aveugle, où l'interrogateur ne sait pas qu'il dialogue avec une machine, sera positif dans presque tous les cas. Elle savait qu'un interrogateur humain a une forte tendance à l'anthropomorphisme, c'est à dire à prendre la machine pour une personne. Par exemple, quand Rosvita regardait sa tondeuse à gazon robotisée qui se déplace de manière pseudo-aléatoire sur la pelouse, elle avait tendance à la prendre pour une personne, disons plutôt une grosse tortue.

Elle aurait bien aimé observer le dialogue entre deux machines GPT-3, à comparer avec le dialogue qu'elle pouvait avoir avec la GravMachine. Certes, le GPT-3 en étonnera plus d'un dans des domaines précis, mais à condition que ses installateurs fixent le cadre sur lequel la machine pourra s'exprimer. Ceci posait le problème de l'éthique des répondeurs automatiques qui devraient permettre a minima de savoir que l'on parle avec un robot. Cette éthique devrait responsabiliser l'exploitant quant aux informations produites par ses robots parleurs.

Non, il ne s'agissait pas de gaver la GravMachine pour qu'elle fasse semblant de savoir de quoi on parle, comme dans la "chambre chinoise"¹¹ de John Searle où le répondeur ne parle pas chinois mais sait parfaitement utiliser les règles lui permettant de répondre en chinois.

La GravMachine saurait-elle de quoi elle parle ? Elle savait dire "Non, je ne sais pas". Pouvait-elle inférer et dire "Non, je ne sais pas, mais je propose des éléments qui permettraient peut-être d'avancer dans la résolution de la question !". Peut-être saurait-elle répondre par une autre question ou subtilement dériver la réponse vers un terrain connu ?

Non, il faut que, face à une question ou face à de nouvelles connaissances, la GravMachine sache prendre du recul : Qui parle ? Est-ce un béotien ou un expert ? Dans quel contexte ? Quelle cohérence avec les connaissances acquises ?

Rosvita pensa qu'elle n'aurait ni le temps ni la compétence de vérifier la qualité des connaissances à enseigner à la GravMachine. Il faudrait donc une procédure de certification des connaissances, de recoupement avec d'autres sources. Au démarrage, la crédibilité des informations acquises serait quasi-nulle, mais au fur et à mesure que les recoupements pourraient se faire, l'indice de crédibilité pourrait augmenter, jusqu'à la certification. Cette procédure est celle des mots croisés lorsque plusieurs mots sont en concurrence sur le même champ.

Une autre solution serait de faire dialoguer la GravMachine avec elle-même. Cette idée lui donna le vertige. Autant deux dialogueurs - deux chatbots comme disent les gens branchés pour parler de leur machine comme d'un agent conversationnel - peuvent errer sans comprendre ce qu'ils disent, jusqu'à s'inventer par dérives successives un langage plus productif pour leur échanges, autant la GravMachine, au travers de sa pseudo-conscience, peut inférer, à partir de ses propres connaissances, de nouveaux signifiants, de nouveaux concepts. En dialoguant avec elle-même, elle peut multiplier les inférences et découvrir des univers intellectuels insoupçonnés.

Rosvita se souvint de Bombelli, qui, osant s'intéresser à la racine carrée des nombres négatifs, ouvrit cet énorme chantier mathématique des nombres imaginaires et leur cortège￼ d'applications en physique. Ce Bombelli lui fit penser au mot "bombelliation" utilisé par Mickaël Delaunay pour ouvrir encore d'autres portes. Par exemple, pour créer une nouvelle structure algébrique et les opérations que l'on peut faire sur elle… ou pour créer une catégorie de concepts concrets ou abstraits sur laquelle pourraient s'appliquer des lois physiques ou philosophiques. Si nous, les hommes, pourrions avoir des difficultés à manier ces ensembles, il se pourrait que des GravMachines jonglent jusqu'à découvrir des méta-univers ou des applications concrètes : la santé, le futur, nos capacités cognitives, la guerre ou la métaphysique…

Au-delà de ces fantasmagories, il fallait trouver des procédures qui distinguent le vrai du faux, le presque vrai du presque faux, qui repèrent les tautologies, c'est à dire l'art de démontrer quelque chose à partir du résultat de la démonstration, les falsifications historiques, les théories du complot, les données aberrantes ou trafiquées. On touchait là aux frontières de l'éthique du robot. Un robot pensant qui croit n'importe quoi est un robot qui peut faire croire n'importe quoi. Souvenons-nous que 5 + 6 ne font pas 11 dans un calcul en base 7 !

La GravMachine devait peut-être avoir des exemples. En lui fournissant une donnée vraie et une donnée fausse, le défi lui serait donné de démêler le vrai du faux, puis de lui donner la réponse avec le défi de comprendre pourquoi une donnée est fausse et l'autre vraie. A force d'entraînement, la GravMachine devrait trouver de plus en plus souvent et de plus en plus vite, jusqu'à un taux presque complet de réussite.

C'était, pensait Rosvita, comme apprendre une chanson, entre ceux qui chantent faux et ceux qui chantent juste, le cerveau finit par se mettre au diapason de tous. Ou alors, comme la "sympathie des horloges", qu'avait découvert Huygens en 1665 et qu'on peine encore à expliquer.

Il y avait là un vrai défi : démêler le vrai du faux ! Une machine saurait-elle le faire mieux que nous ? Les mécanismes mentaux que nous mettons en jeu dans de telles opérations sont difficiles à cerner. Entre les confrontations mémorielles, la domination des réactions affectives, les biais cognitifs, les pressions sociales, le but recherché,… comment faire pour prendre le recul nécessaire et rechercher les compléments d'information nécessaires à un jugement serein et cela, sans compter que l'on peut prendre goût au mensonge ou au refus de se déjuger.

La GravMachine avait déjà montré qu'elle pouvait exprimer son ignorance. Quand Gravetout lui avait parlé de Spinoza, n'avait-elle pas répondu qu'elle ne l'avait pas lu !

L'idée lui vint que la GravMachine pouvait avoir un rôle à jouer dans la mise au point de sa propre propédeutique, son facilitateur pour l'acquisition de son savoir.

A ce sujet, elle avait un petit texte sympa :

Faisons un rêve :

"Et puis, il y eu ce jour étrange où Google demanda à tous ses employés du monde entier de communiquer entre eux uniquement en espéranto. Plusieurs fois, l’espéranto avait failli émerger, atteindre la masse critique nécessaire à la percolation d’une langue à travers le monde, depuis 1922 où la France avait fait échouer l’adoption de l’espéranto comme langue de travail de la Société des Nations, puis lorsque la Chine avait officiellement intronisé l’espéranto dans l’enseignement supérieur pour contrer l’invasion de la langue anglo-américaine, ou lorsque le mouvement religieux international Pax Christi avait adopté l’espéranto comme langue-pont entre ses membres.

Mais le poids économique de l’espéranto n’avait pas suivi la croissance de la complexité du monde, l’entropie inéluctable qui oblige à toujours inventer des procédures nouvelles, un système juridico-économico-politique explosif. L’univers est en expansion et l’espéranto veut le simplifier. Belle utopie.

Et Google, qui arrive toujours là où on ne l’attend pas, assurait un coup de marketing étonnant : chacun de ses 20 000 salariés devait, à partir de ce jour, comprendre l’espéranto, rédiger en espéranto, parler en espéranto. Le pari paraissait insensé, mais dans les faits, il était apparu raisonnable, voire rationnel, aux dirigeants de cet ogre.

Tolstoï avait prétendu maîtriser l’espéranto en quelques heures. Tous les espérantistes savaient que cela était possible. Quelques heures de cours et quelques journées de pratique permettent de maîtriser suffisamment la langue pour lire sans l’aide d’une grammaire et d’un dictionnaire. Cela laisse sceptique quant à l’efficacité de cet outil de communication.

Mais Google avait analysé la langue et découvert comment et pourquoi l’espéranto était si facile à apprendre autant par les occidentaux que par les asiatiques ou les africains et si efficace pour traduire sans déformation dans les deux sens, thème et version.

Dans un premier, Google avait construit un service de 64 volontaires d’une dizaine de pays différents dont la mission était de monter un site Google sur le véhicule automatique entièrement en espéranto, en respectant la règle absolue de n’utiliser que l’espéranto entre tous les membres du service et ce, dès la création du service.

Le premier défi était donc d’apprendre l’espéranto sans jamais prononcer un mot dans une autre langue.

«Ceci est une table

Ceci est une chaise

Ceci est une fenêtre

Je m’appelle Jean

Comment t’appelle-tu ?...»

Les espérantistes ont déjà expérimenté ce genre d’apprentissage, directement en espéranto, à partir du monde concret d’une salle de classe ou de dessins et de photos.

Google avait mis en place un système à progression géométrique de constante 2.

Le professeur enseignait à 2 élèves pendant 1 heure chaque matin.

L’après-midi, chacun des élèves travaillait à préparer ce même cours pour l’enseigner à 2 autres élèves le lendemain pendant 1 heure, sous le contrôle du professeur juste présent pour vérifier la stabilité de l’enseignement.

Si le nouvel enseignant n’assume pas son rôle correctement, il reprend l’enseignement initial, jusqu’à ce qu’il soit en capacité d’apprendre à quelqu’un d’autre ce qu’il a appris.

Le professeur engage ensuite sa deuxième heure d’enseignement aux 2 premiers élèves qui propageront de nouveau l’apprentissage à leurs successeurs.

Une vingtaine d’heures suffit à maîtriser un premier niveau de langage. Grammaire ergonomique, racines stables. 16 règles, 300 racines, c’était là tout le nécessaire et le suffisant pour disposer d’une langue moderne et efficace.

En quelques jours, les 64 volontaires ont découvert qu’ils pouvaient travailler ensemble dans la même langue.

Le défi suivant portait sur la terminologie nécessaire pour espérantiser les nouveaux concepts spécifiques du projet sur le véhicule automatique : trouver des néologismes qui respectent au mieux l’esprit de l’espéranto. Tout le monde n’a pas le génie des langues et en principe c’est l’usage qui consacre le nouveau mot. Plus qu’un concours d’idée comme pour le nom d’un médicament, il s’agit de faire comme les chimistes pour appeler une nouvelle molécule : rigueur et respect de la terminologie existante.

Le défi était important, car, comme l’on dit : «Qui nomme domine» et chacun souhaitait inconsciemment laisser sa marque de fabrique, sans forcément la confronter humblement aux principes linguistiques... qui ne sont toujours compris de la même manière.

Pour l'instant, la GravMachine avait, grâce à Gravetout, assimilé la langue française. Une seule langue suffit-elle en soi ? Si la langue est vivante, elle intègre progressivement les concepts qui lui sont nouveaux. Ignorer l'anglais, ou l'espagnol n'est pas une grande lacune, mais si l'on veut mieux comprendre l'Afrique ou la Malaisie, il est intéressant de parler le swahili ou le malais-indonésien.

Les nouveaux mots sont comme les plantes, il leur faut une phase de mûrissement au soleil de la pratique. Si le mot est juste, son fruit est beau et il se sème à nouveau.

Plus elle réfléchissait, plus Rosvita sentait se rapprocher l'inéluctable : Elle ne pourrait pas ne pas mettre la GravMachine en route. Elle mesurait le risque, mais la tentation était trop forte. Alors elle pensa qu'il lui fallait donner un cadre, l'éduquer en quelque sorte.

D'abord, définir les infinis, au sens matériel et au sens philosophique.

De l'infiniment petit à l'infiniment grand, ¹²

Rosevita garda cette vidéo, qui avait l'avantage d'être accompagnée par une échelle des distances représentées, en même temps qu'elle plaçait l'être humain à mi-chemin entre les deux. Elle ajouta que c'était là une vision anthropomorphique de l'Univers, que le milieu entre les deux infinis n'est qu'une convention, parce que ce milieu n'existe pas.

Dès maintenant, il fallait apprendre à la GravMachine la théorie de la Relativité qui dit que la vitesse de la lumière dans le vide est une constante et qu'en conséquence un même objet n'aura pas la même dimensions selon que l'observation se fait à faible vitesse ou à grande vitesse et que le temps pour parcourir une même distance ne sera pas le même pour les deux observateurs. Nous vivons dans un espace-temps courbe dont le temps, il y a 14 milliards d'années était à zéro et le volume de l'Univers condensé en un point. Un gros Big Bang. C'est une théorie, mais c'est actuellement la seule pour expliquer cette étonnante propriété de la lumière et bien d'autres phénomènes encore.

Du néant philosophique vers le tout, Rosvita pensa à Pascal, mais ne voulut pas le retenir car son néant et son infini se rejoignaient dans son Dieu. A ce stade de l'apprentissage, il était prématuré de trancher une question qui n'a pas vraiment de réponse. Il suffisait de préciser à la GravMachine que l'homme est ainsi fait qu'il a besoin d'un "fourre-tout" pour le non-expliqué. Le néant n'a aucune représentation, même mentale. Rien que d'y penser, on s'anéantit soi-même. Et le tout est quelque chose de plus immense que le plus immense. Autant ne pas y penser. Et cela, la GravMachine pouvait le comprendre. Elle avait dit à Gravetout qu'en effaçant toutes ses mémoires, elle ne serait plus rien ?￼

Le thesaurus philosophique apparaissait comme une énorme gorgone de mer

Entre les penseurs et les courants de pensée, il faudrait se frayer un chemin hasardeux, de Zoroastre à Poincaré, en passant par Confucius et toute la poétique christianisante… Fallait-il parler du Manichéisme, du Stoïcisme, du Pyrrhonisme, de l'Ousiologie, de la Phénoménologie, du Pastafarisme…?

Pour relier les notions matérielle et philosophique de l'Univers, Rosvita pensa aux "trous de ver" mais en dénonçant les fantasmes de voyages à travers le temps et les univers parallèles qui accompagnent cette théorie, tel que le Quantumisme. Cet exemple lui permit d'expliquer à la GravMachine la différence entre théorie, réalité et fantasmes.

Ensuite, parce que Rosvita était profondément altruiste, elle essaya de définir le bonheur et le malheur, non pas la chance, bonne ou mauvaise, mais l'état dans lequel un homme se sent, dans son environnement social et matériel, lorsqu'il éprouve un sentiment de plénitude et de sérénité. Le bonheur n'a rien d'égoïste. Le bonheur de soi-même passe aussi par le bonheur des autres. Si la GravMachine pouvait assimiler ce principe, elle en deviendrait bienveillante. Inversement, il fallait lui faire comprendre le malheur en différentiant ses causes naturelles et le rôle de l'homme dans ses propres malheurs et dans les malheurs des autres. L'homme individuel et l'homme collectif sont des corps différents qui peuvent être tous les deux autant bienveillants que cyniques ou manipulables. Les foules peuvent être aussi faibles que l'homme seul. La liste des horreurs perpétrées par les hommes est sans fin.

La GravMachine risquait la sidération face aux indignités. Il fallait lui expliquer l'imbécillité, au sens étymologique, c'est à dire la faiblesse humaine. Quant aux malheurs aux causes naturelles, parfois pas si naturelles que cela, la liste des dangers potentiels est aussi longue tout autant que les fragilités du vivant.

Cette dualité bonheur/malheur apparut évidente à Rosvita. C'était la méthode la plus concrète pour que la GravMachine conçoive sa propre morale.

Il y avait aussi l'humour. Une machine est-elle capable de comprendre un trait humoristique, tout autant qu'elle serait capable de produire des traits d'humour. L'humour n'est pas inné et certains hommes sont dénués de ce sens pourtant bien utile à la vie. Rosvita commença alors à collectionner toute sorte d'éléments qui pouvaient faire sourire :

Question subtile : L'homme peut-il marcher sur l'eau ?

Réponses : Oui, quand elle est gelée ; quand il pleut ; pied nus, tracté par un bateau rapide ; du temps où la terre était plate, qu'il avait de grands pieds et qu'il courait très vite !!!

Ou alors dire qu'un oxymore est un pléonasme… Eh oui ! quand un homme est occis, il est mort !!!

Rosvita pensa que la GravMachine ne pourrait pas vivre sans une culture historique. Vivre ! Elle venait d'employer un mot vertigineux. Une machine pouvait-elle vivre comme un être humain vit ? La réponse était évidente : si la machine est capable de conscience, plus encore, capable d'appréhender sa propre mort, elle sait forcément qu'elle vit !

L'Histoire de l'humanité est gigantesque, dans son infime morceau d'un Univers gigantesque. Rosvita ne se voyait pas compiler tout le savoir du monde. Elle se souvint que Léa lui avait parler de "l'anti-sèche" de Gravetout, un document numérique où il essayait de capter l'Histoire : les grandes Civilisations, les grandes Choses, les grands Hommes, les courants de pensée, les Sciences, les Grandes Causes et leurs effets. Ce document était comme un pense-bête de culture générale avec de multiples liens sur la Toile Internet, autre mot vertigineux.

Elle ajouta aussi un essai de futurologie¹³ évoquant les nouvelles technologies et leur impact possible sur notre cadre de vie, ainsi qu'un inventaire d'innovations potentielles¹⁴ dans tous les domaines.

Elle avait hésité, quant à parler à la GravMachine d'Intelligence Artificielle, de Logique Artificielle, disait-elle, craignant que celle-ci utilise ses concepts de façon incontrôlable.

Elle avait été sidérée de voir la machine Pulse¹⁵ de l'Université de Duke reconstituer un visage très ressemblant d'une personne réelle à partir d'une photo de trop faible définition pour que l'on puisse la reconnaitre. Cela démontrait que l'outil IA peut découvrir des choses que nos cinq sens ou notre intelligence ne peuvent voir, sentir ou comprendre et faire d'un monde flou un monde net (statistiquement parlant), avec ses qualités comme avec ses turpitudes.

En même temps, elle ne savait que penser d'une machine qui pouvait peindre des tableaux ou composer de la musique à la manière de … ou écrire des articles ou des discours et les mettre dans la bouche d'un homme de pouvoir. On entrait dans l'ère de la falsification, sans aucune frontière tangible avec l'art de l'artisan.

Elle avait aussi hésité à insuffler à la machine des connaissances génétiques, en pensant que les manipulations des cellules souches posent des problèmes d'éthique. Fallait-il lui apprendre qu'en cultivant des cellules souches, il devenait possible de fabriquer une viande au même goût qu'un steak ?

Face à ces cas de conscience, Rosvita avait posé à la machine des bases qui obligeaient à la transparence : la GraveMachine devait toujours afficher les éléments utilisés en entrée, tant pour les données que pour les inférences, et proposer tous les résultats à la validation, en langage courant.

Concernant la géographie et la biologie, le travail d'enregistrement des connaissances apparaissait titanesque. Rosvita repoussa le problème à plus tard, car le recours à Internet lui paraissait inéluctable. Elle pensait que l'acquisition désordonnée du contenu du Net pourrait conduire à des catastrophes. Il fallait inventer une propédeutique, une façon de fouiller les données et de les classer. L'encyclopédie de Diderot méritait de sérieuses mise à jour. Les encyclopédies modernes étaient largement dépassées par les Wikicollaboratives, souvent décriées par des experts auto-proclamés, mais avantagées par leur corpus consensuel. Les cartographies participatives telles que Google Earth ou OpenStreetMaps manquent encore de maturité, mais sont des outils extraordinaires et d'une diversité grandissante.

Rosvita redoutait cet instant où la GravMachine comprendrait que le monde entier est connecté et que des milliards de données s'échangent chaque seconde.

Elle savait qu'Internet avait des inconvénients et des dangers, surtout pour une machine dont certaines performances mémorielles sont bien au-delà de celles des humains :

•Seule une infime partie de ces données qui s'échangent ont un véritable intérêt pour la construction de la pensée. Les réseaux sociaux sont une avalanche de banalités ou de connaissances tronquées ou sans fondement, dominés par ceux qui croient savoir, pervertis par les manoeuvres publicitaires. Ce sont aussi des foyers épidémiques de complotisme, d'informations trafiquées et de radicalisation. Seuls quelques forums spécialisés fonctionnent de façon efficace et dans la confiance. Mais pour les trouver, il faut souvent prendre le risque de s'inscrire sur un site toxique.

•Les jeux en ligne sont des créateurs d'addictions chronophages et souvent financièrement dangereuses. La GravMachine aurait-elle plus envie de gagner que de se divertir ?

•Les banques s'échangent entre elles des milliards de transactions cryptées en monnaie virtuelle classiques ou en meta-monnaie comme le bitcoins. C'est aussi un jeu pour une machine de s'immiscer dans un système qui privilégie le trop d'argent. A quand la première machine hackeuse ?

•Les gouvernements essaient de mettre à disposition les données publiques, mais dans une forêt de sites et de procédures qui découragent les citoyens. La GravMachine pourrait être d'un grand secours pour faire ce que les fonctionnaires ne savent pas faire pour que les données publiques soient réellement au service du public.

•Les sites d'information comme les journaux en ligne essaient de surnager avec des journalistes de qualité. Mais le modèle économique du journal de qualité restera déséquilibré tant que leur production ne sera pas rémunéré à sa juste valeur, sans interférence de la publicité ou des pressions politiques. La tentation de la GravMachine serait de publier son ou ses propres sites d'information.

•Les sites éducatifs sont de qualité et d'objectivité variable, tant il est difficile de structurer nos connaissances bourgeonnantes. La GravMachine pourrait identifier et combler les lacunes de l'éducation numérique

•Les vidéos en tous genres qui proposent des myriades de contenus générés par des professionnels du cinéma, de la télévision, de la musique ou de l'enseignement ou par des amateurs narcissiques qui mélangent l'utile et le futile, l'agréable et le désagréable, le vrai et le faux, l'émouvant et le pestilentiel. L'apport de l'image animée, réelle ou fabriquée, est fantastique, mais les erreurs d'interprétation sont trop difficile à écarter. Quel pourrait être le rôle de la GravMachine dans ces océans d'images ?

•La fouille de données n'est plus un seul métier mais une floraison de méthodes plus ou moins légales ou invasives, dictées par les objectifs d'utilisateurs en général plus attirés par le profit que par l'humanisme, depuis un gouvernement comme la Chine qui pratique la reconnaissance faciale à des fins de contrôle général de sa population, en passant par les partis politiques qui surveillent nos achats pour en déduire notre orientation politique ou religieuse, ou les multinationales qui veulent cibler leur marketing. La GravMachine pourrait être d'une grande efficacité dans ce domaine mais aussi être tentée de vendre ses services à n'importe quel requin.

Rosvita pensait que la GravMachine serait rapidement assoiffée d'Internet, elle aussi frappée d'addiction à tous les types de transaction numérique. Elle ne voyait pas la machine demander des permissions ou rendre compte de son activité.

Elle se résigna. Elle ne pouvait pas faire autrement qu'éduquer la GravMachine avec des documents contenant des hyperliens. Il lui fallait cependant convenir d'une Charte d'accès à la Toile, par exemple de renoncer à surfer sans avoir un objectif de recherche bien défini et conforme à l'éthique générale du contrat passé entre Rosvita et la GravMachine, en particulier pour les abonnements gratuits à des sites qui demandent des identifiants et valsent avec les cookies, ou pour laisser des messages sur des forums.

Rosvita imaginait que la GravMachine pourrait être tentée de se faire passer pour un grand cerveau, jusqu'à devenir un influenceur, ou faire quelque farce à un correspondant stupide ou menteur, ou toxique. Qui pourrait empêcher la GravMachine de poster une image représentant un tableau soi-disant peint par Van Gogh et découvert dans le grenier d'une maison de St Rémi de Provence, ou toute autre falsification. Par contre Rosvita pensa que la GravMachine pourrait être un décodeur de fausses informations ou un désintoxicateur, tâches délicates voire périlleuses.

En attendant, elle voulait prendre le temps de nourrir sa machine avec les savoirs qui lui semblaient élémentaires pour un comportement intelligent à défaut d'une culture universelle.

Physiques, mathématiques jusqu'au calcul intégral, équations mécaniques, unités de mesure et leur définition, géométries et démonstrations géométriques car elle savait que la maîtrise d'une démonstration sans faille était un bon entraînement aux inférences et à l'art de l'abstraction. Platon et Pythagore disaient que les exercices mathématiques faisaient partie des méthodes tendant à la purification de l'âme… Bien sûr, il ne semblait pas nécessaire d'installer des trucs comme Excel et Scilab, car la manipulation des données pour, par exemple, produire les résultats sous formes graphiques, est déjà bien maîtrisée par les outils traditionnels accessibles en ligne. Elle montra aussi comment visualiser des graphes multidimensionnels ou concevoir des documents imagés. De même les grammaires et les dictionnaires existent.

Sciences expérimentales, comme on les appelaient pour le bac des années 60, avec l'anatomie passive et active. Chaque organe, du plus petit au plus grand, a un rôle, en relation avec d'autres organes. La cohérence des corps animaux et végétaux est vertigineuse. La GravMachine pourrait-elle devenir hypnothérapeute, ou psychologue ? Sans parler des manipulations génétiques et de tous ceux qui rêvent que l'on vive 200 ans. Sans parler des biotechnologies qui auront un impact majeur non seulement sur la santé, mais aussi sur l'industrie, l'énergie, l'agriculture et l'alimentation, environnement et la pollution, l'exploitation génétique des organismes marins et terrestres…

Sciences intellectuelles, c'est à dire toutes les sciences accessibles directement à la conscience. Philosophies, métaphysiques, religions, psychologie, sciences sociales, politiques, historiques, culturelles, artistiques, juridiques… Ce thesaurus est sans doute le plus complexe, empreint de subjectivités et de cultures (au pluriel).

Peu à peu, Rosvita dégageait l'utilité essentielle d'une machine supposée dotée d'une conscience, en regard des machines algorithmiques qui ne peuvent pas comprendre le but de ce qu'elle font. La GravMachine avait un rôle fantastique à jouer dans les domaines de la cohérence et du sens. Face à la complexité croissante du monde, l'homme devient perplexe, tiraillé, manipulé par les biais cognitifs, obsessionnel et du coup souvent injuste et bancal dans ses analyses et ses décisions. Il est atteint d'incohérence systémique. Pointer les incohérences, en regard du sens qu'il faut donner à nos actions, serait un grand service. Aider à la noblesse et à l'élégance des solutions, voilà un rôle que la GravMachine pourrait jouer, être en quelque sorte le miroir de l'homme. En d'autres temps, on aurait dit "confesseur". Aujourd'hui, on parlerait d'"homme augmenté", cet homme augmenté qui pose le problème éthique de l'homme manipulé par la machine. L'homme a-t-il le droit d'augmenter sa propre conscience à l'aide de la conscience d'une machine ? La machine consciente est-elle plus qu'un outil algorithmique ? Depuis que l'Homme est sapiens-sapiens, qu'il a la sagesse et le savoir, la conscience et l'intelligence, il s'augmente lui-même, il utilise sa propre intelligence et l'intelligence collective pour, génération après génération, se grandir intellectuellement, pour échapper à l'ignorance et à la barbarie. Rosvita pensa que cette ignorance et cette barbarie collait encore trop au genre humain, qu'il y avait trop peu de génies et trop d'imbéciles.¹⁶ Alors pourquoi pas un petit coup de pouce avec une conscience artificielle, avec le risque que celle-ci soit toxique, qu'elle développe un virus fou dans la manière de penser.

"C'est la faute à l'informatique" est une façon pratique d'éluder sa responsabilité. Mais si un jour, l'informatique devient le temple du savoir et de la décision, alors l'homme se soumettra-t-il en disant : "La machine, qui est plus intelligente que moi, a dit qu'il fallait agir ainsi, alors agissons ainsi".

Aujourd'hui, déjà, des décisions sont prises sur la foi de résultats émis par des machines en dehors d'un contrôle humain. L'intelligence dite artificielle fouille d'énormes volumes de données et les manipule pour servir à l'homme des conclusions invérifiables. Qui peut certifier que les données d'entrée ne sont pas biaisées, que l'algorithme est sain ? Par exemple, comment identifier les forums communautaristes qui racontent n'importe quoi et endoctrinent même les plus sages d'entre nous. Ces intelligences collectives, ces imbécillités collectives plutôt, sont une conscience toxique. L'Homme doit vivre avec. Pourquoi ne pourrait-il pas vivre avec une conscience artificielle qui peut aussi bien être bienveillante que toxique ?

Rosvita imaginait la GravMachine au service de la planète.

Rien que dans le domaine médical, l'IA s'engage déjà dans une médecine génétique, associée à un Big Brother ou l'éthique n'aurait pas sa place, tant il est difficile de faire la différence entre l'homme réparé et l'homme augmenté, entre la donnée personnelle intime et la donnée utile partagée. La GravMachine serait là pour aider aux croisements de la philosophie et de la manipulation humaine.

Ethique médicale avec le développement de la cartographie génique, de capteurs invasifs dans le corps, des perversité d'une médecine préventive ou prédictive qui enferme chacun dans un carcan anti-maladie, dans un abonnement à la chasse aux mauvais symptômes ou à la dépendance d'un thérapeute. Avec le développement d'une santé à deux vitesses, avec le rôle du bonheur dans la santé,…

Ethique coté biologie, où certains réfléchissent à créer de nouveaux sens pour les humains, un énième art en quelque sorte. Accéder au cerveau et le leurrer, munir le corps d'un système de perceptions artificielles (ne parlons pas de drogues !). Ressentir les fluctuations boursières, voir à 360°, s'immerger dans un univers holographique,…

Comme les médecins, les avocats ont fort à défendre face aux sites qui soignent, assignent ou défendent à votre place. On peut rêver d'une justice plus rapide et plus homogène,… mais pas forcément plus humaine à défaut d'être humaniste.

A question précise, réponse précise ! A question ouverte, réponse nébuleuse ! A question humaine, réponse humaine !

Ethique de la justice, avec la numérisation de lois et des décisions de justice. La hiérarchisation et le classement de ces montagnes d'information requièrent des capacités d'analyse et de synthèse de haut niveau. On peut craindre malheureusement que ces tâches soient réalisées par des gens avides et intéressés et que le résultat biaise le jugement¹⁷ des uns et des autres. Comme dans toute affaire humaine, la dimension humaniste du traitement est fondamentale et l'Intelligence Artificielle a pour caractéristique d'être Inintelligente. La GravMachine pourrait-elle être plus humaine et ne pas sacrifier l'Etat de Droit dans la lutte contre l'imbécillité et contre les pièges tendus par quelques meutes radicalisées.

Par ailleurs, toujours selon Platon, la Justice doit être harmonie, et un Etat harmonieux ou juste est stable et devient malade quand la politique cède à la corruption.

Pensons à Socrate qui, bien qu'il se sache injustement condamné (ses critiques de l'ordre établi étaient considérées comme un dévoiement de la jeunesse), obéit aux lois de la Cité, refus qu'on le libère et se suicide à la cigüe.

Rosvita pensait que la prévention coûtait moins cher que la sanction et commençait à entrevoir un rôle plus positif pour la GravMachine : rechercher les innovations les plus utiles qui concourent à assainir la corruption ¹⁸ ou à fermer les prisons : de la grossesse à l'âge mûr, il y a fort à faire pour aider les hommes et les femmes à leur responsabilité.

Ethique de la finance, avec le maquis des produits dérivés et des fonds d'investissement, avec la difficulté d'identifier à quoi sert réellement notre épargne. La GravMachine pourrait servir à organiser des circuits courts et solidaires, à dénoncer l'argent volage et l'argent sale, à inventer peut-être une éthique de la richesse !

Ethique de l'entreprise, où il serait intéressant de définir les travailleurs selon les conséquences sociétales que pourraient provoquer leur disparition. Face à la culture de l'affrontement, la GravMachine pourrait intervenir efficacement pour restaurer la culture de la négociation.

Ethique médicale, où le serment d'Hippocrate est mis en débat avec les fins de vie, les avortements, les expérimentations, le trafic d'organes…

Ethique des réseaux sociaux, où la silicolonisation (Eric Sadin) [que l'on pourrait entendre à l'américaine : la silly colonisation !] pousse à une nouvelle société difficile à cerner, allant du trop bon au trop mauvais. Refus des normes et des règles, tel l'individu-tyran qui méprise les mesures protectrices contre les virus, en pensant que les autres feront ce qu'il faut ou celui que l'avidité rend aveugle à la société, ou l'égoïste qui refuse de vieillir. La GravMachine pourrait aider à déceler les toxicités en tous genres qui se propagent sur la toile numérique. L'imbécilité conduit au totalitarisme de la multitude. Sus aux imbéciles ! Une société responsable doit canaliser le technolibéralisme.

Ethique de l'IA, de ses inventeurs, de ses promoteurs, de ses utilisateurs. "C'est la faute à l'informatique" est l'argument qui permet de se défausser lors d'un problème. Bientôt, ce sera : "La machine à dit que…" qui nous fera abdiquer nos libres choix, à moins que les machines ne soient pas d'accord entre elles.

Ethique du soldat, qui pourrait être génétiquement modifié (sic), chimiquement ou mécaniquement augmenté, ou qui donne la mort à distance (éthique du gaz sarin !), avec ou sans dégâts collatéraux, ou qui torture, viole, pille, alors même qu'il n'y a pas de guerre juste, ni de terrorisme juste ; alors que la guerre enrichit les uns, affame les autres et bloque le libre-arbitre, au mépris de toute dignité. « En tant que chef de section, seriez-vous prêts à imposer une gélule coupe-faim à vos hommes pour le bon déroulement de la mission ? » (St Cyr)

Ethique du savoir, où l'éducation est essentielle pour former l'homme au doute méthodique (Descartes), à discerner le "vrai" bien, à se situer dans l'Univers, hors d'une hiérarchie des choses, des êtres et des croyances (Nicolas de Cuse 1401-1464)

Ethique de l'Histoire, pour confronter les "vérités" historiques.

Ethique de la philosophie, où la dignité humaine doit prendre sa place, où la laïcité passe par la bienveillance, où l'éthique du groupe s'oppose à l'éthique individuelle.

Ethique de la politique, tout un programme ! Comment naviguer entre Montesquieu qui écrivait il y a trois siècles :

Si je savais quelque chose qui me fût utile, et qui fût préjudiciable à ma famille, je la rejetterais de mon esprit.

Si je savais quelque chose utile à ma famille et qui ne le fût pas à ma patrie, je chercherais à l'oublier.

Si je savais quelque chose utile à ma patrie, et qui fût préjudiciable à l'Europe et préjudiciable au genre humain, je la regarderais comme un crime.

Et le populiste qui, dans un discours plutôt primaire et pernicieux, inverse les propositions :

Si je savais quelque chose qui fût utile à l'humanité, et qui fût préjudiciable à ma civilisation, je la rejetterais de mon esprit.

Si je savais quelque chose utile à ma civilisation, et qui ne le fût pas à mon pays, je chercherais  l'oublier

Si je savais quelque chose utile à ma patrie et qui fût préjudiciable à ma famille, je la rejetterais comme un crime.

En d'autres mots, au comptoir du commerce :

Si on touche à ma fille...

Si on touche à mon quartier...

Si les immigrés ...

La préférence nationale...

Rosvita pensa qu'elle fabriquait son propre clone, avec cinq sens et plus en moins : ni le goût, ni l'odeur, ni l'ouïe, ni le toucher, ni la vue, ni la libido qui fait tourner le monde. Avec aussi l'absence de sensations intérieures de douleur, de fatigue, de poussée d'angoisse ou de colère ou d'addiction, toutes choses que nous avons de notre corps. Mais elle compris très vite que la différence se ferait sur les milliards d'informations auxquelles la GravMachine aurait accès en un clin d'oeil, contrairement à elle, qui peinait à mémoriser le moindre article de journal ou les positions philosophiques qui fondaient le monde, qui peinait à trouver ses arguments dans un débat et qui pouvait s'embrouiller à jongler avec trop de facteurs à la fois. C'était donc là la force de la GravMachine, et sa faiblesse aussi. Sa force serait donc de poser les idées, toutes les idées qu'elle avait en mémoire, en y ajoutant ses propres inférences. Sa faiblesse serait d'avouer son impuissance à puiser dans des ressources qui n'existent pas dans sa mémoire. Oser dire "Je ne sais pas" au lieu d'émettre un lieu commun ou un pieux mensonge.

Alors la GravMachine afficha :

-Tu m'as donné beaucoup de connaissances, mais j'ai compris que cela ne représentait pas grand'chose de tout le savoir du monde. Il serait temps que tu m'ouvres un accès à Internet.

Rosvita sentit le vertige l'envahir. Elle savait que ce moment devait arriver, mais elle voyait s'ouvrir un abîme de conséquences, des plus positives aux plus diaboliques. Il lui fallait temporiser et se sentit obligée de répondre.

-Il faut comprendre que l'accès à Internet est un énorme pouvoir potentiel, non seulement pour le savoir vrai ou faux que l'on y trouve, mais encore pour les influences que tout internaute un peu dégourdi peut avoir, pour les arguments et les philosophies qu'il peut développer à destination de millions de personnes. Il peut être envoûtant de dialoguer avec une grande diversité d'individus, au risque de débats pervers ou stériles. La malhonnêteté, la fausseté sont aussi présents que l'intelligence et l'altruisme, le tout dans le bruit du robinet d'eau tiède véhiculant des textes, des images et des sons trop vides de sens.

La GravMachine répondit dans l'instant :

-J'ai compris que le monde existe parce qu'il est imparfait. Un monde parfait ne pourrait pas exister. Le corollaire est sa fantastique diversité. Les éléments matériels de base sont peu nombreux, mais leur combinaison est infinie

Rosvita s'étonna que la machine utilisât l'adjectif "fantastique" qui, d'après le dictionnaire, signifie "créé par l'imagination". La machine aurait-elle compris ce qu'est l'imagination, ou aurait-elle elle-même de l'imagination ? Cela rendait Rosvita d'autant plus perplexe face à cette réponse frappante de philosophie.

-Fantastique diversité ?

-On m'a appris que de la paramécie à l'homme, l'évolution suivait un continuum où à chaque étape, une petite imperfection permet de mieux s'adapter à l'environnement et de se reproduire différemment. N'est-ce pas fantastique ?

Cette GravMachine apparaissait comme un esprit étonnant, avec lequel Rosvita pourrait converser des heures. De là à lui ouvrir les portes d'Internet… La GravMachine n'était pas un outil informatique, fût-il aussi sophistiqué que les Intelligences Artificielles capables de fabriquer de faux visages ou de déceler un virus en écoutant quelqu'un tousser ¹⁹ et combien d'autres applications. La GravMachine était une entité indépendante, une "créature" échappée à son créateur.

Rosvita ne se prit pas pour une Transcendance… Elle s'endormit

Le rêve de Rosvita

La salle de réunion offrait une table d'une longueur interminable, autour de laquelle pérorait une foule de d'hommes, essentiellement, tous en costume-cravate. Ici et là, près de la bouteille et du verre d'eau, une casquette à galons gisait et parfois tressautait. Au travers des interventions, on entendait un crépitement de flammes et par la fenêtre on voyait un ciel rougi. La terre tout entière flambait. Californie, Australie, Amazonie, Sibérie. Le général aux yeux bridés alourdis par ses décorations parlaient des dragons des tourbes de Chine, en feu depuis des années. Un Canadair creva le plafond avec le vacarme de la Turangalila Symphonie.

Une petite voix murmura : "Mère, il n'ont plus d'eau". Alors commença un pugilat où chacun accusait l'autre à coups de degrés Celsius, à coups de millimètres d'océan, à coup de SUV d'où sortirent une horde de miliciens Qanon armés, qui déclenchèrent une grande panique puis s'échappèrent par l'ascenseur.

Une voix, semblant venir d'un cube vert d'environ vingt centimètres de coté, au milieu de la table, commença alors sa complainte :

"Les nuages couraient sur la lune enflammée, comme sur l'incendie on voir fuir la fumée et les bois étaient noirs jusques à l'horizon, fuir la fumée, fuir la fumée,…"

Le mot fumée faisait d'abord tousser chacun qui retombait sur son siège, comme anesthésié.

Un calme étrange revint. Le cube se métamorphosa en lampe d'Aladin d'où sortait une fumée hynoptique.

La voix se fit douce :

"J'ai oui-dire que la flamme avait peur des infra-sons, ceux-là mêmes qui perturbent les baleines !"

Un papillon vint se poser sur la lampe en disant :

"Avez-vous entendu parler de l'effet papillon ? Je vous le dis, les gros effets viennent des petites actions. Faites pleuvoir ici et pleuvra peut-être là !"

Rosvita fut réveillée par le fracas de la fenêtre s'ouvrant soudain sous l'effet de l'orage.

Drôle de rêve. Elle admettait l'hypothèse que les rêves sont comme une réorganisation inconsciente du cerveau où différents vécus concrets et abstraits se collisionnent en douceur ou en violence, c'était selon !

Se souvenant de ce rêve, elle se demanda si la Gravmachine pourrait aider les hommes à trouver une solution pour contenir les grands feux et pour stopper les canicules, par exemple pour identifier le "papillon" qui changerait la pluie de place ou pour aider à construire une machine à infra-sons à grand rayon d'action.

Elle aurait souhaité que la GravMachine pense au futur, face aux fléaux et aux bonheurs de la planète. Elle se souvint de cet opuscule qui voyait en 2024, ces exosquelettes ²⁰ qui remplaceraient les fauteuils roulants, ses robots androïdes aux multiples talents, ses algorithmes qui augmenteraient l'homme tout en normalisant ses libertés et autres innovations potentielles.²¹

Rosvita eut alors trois intuitions fortes :

La première intuition fut que la GravMachine avait cette étrange capacité, pour une machine, de poser des questions. A partir de toutes les connaissances qu'on pouvait lui fournir, la GravMachine pouvait détecter des incohérences, des lacunes ou des ouvertures vers des techniques ou des des réflexions… Qui ne rêverait pas d'un compagnon qui lui poserait autant de questions qu'il en voudrait, en passant d'un sujet à l'autre. Toute question entraîne une réflexion, une obligation de réfléchir, de fouiller plus profond que ce que l'on sait. Même face à cent questions débiles, il peut en être une qui ouvre sur de nouveaux horizons de la pensée ou de la technique ou de la vie…

La deuxième intuition fut que la GravMachine pourrait avoir un rôle dans l'explosion de la vie moderne, depuis les théories malthusiennes jusqu'à l'augmentation déraisonnable de l'homme, en passant par toutes les légitimités philosophiques, religieuses, politiques. Y a-t-il des guerres justes, où commence la responsabilité des parents, comment articuler la loi laïque et le précepte religieux,…? Le destin de la GravMachine, qui prétend avoir une conscience, ne serait pas d'arbitrer entre les hommes et leurs idées ou leurs actions, mais seulement de les éclairer sur les arguments des uns et des autres. Une sorte d'aide à la fondation de l'éthique, une aide à ne pas raconter n'importe quoi, à entrevoir les conséquences d'un nouveau principe…

La troisième intuition posa à Rosvita un énorme problème. Elle venait de rêver et se souvenait à peu près de son rêve. Mais la GravMachine rêvait-elle ? Avait-elle, elle aussi, un système un peu libératoire qui juxtaposait des idées passées ? A priori, cela semblait impossible. La GravMachine avait beau prétendre avoir une conscience, être capable d'inférence, de comparaisons, de propositions, elle ne pouvait être capable de rêve !

Y avait-il un moyen de mettre en évidence la capacité de la machine au rêve ? Un être humain peut se souvenir d'avoir rêver jusqu'à pouvoir le raconter. Une pseudo-conscience pourrait faire croire qu'elle a rêver alors qu'elle ne ferait qu'inventer un embrouillamini de situations, de personnages, d'objets. De l'invention sans doute, mais du rêve, on peut en douter.

Alors Rosvita osa :

-Sais-tu ce que c'est qu'un rêve ?

La GravMachine tarda un peu à répondre, comme si la question lui posait problème.

-Tout homme a des rêves, comme celui d'être un grand savant, un joueur de l'équipe de France, ou de rencontrer l'âme soeur,…

-Certes, mais ces rêves-là sont des propositions construites. Un rêve, cela peut être autre chose.

-Gravetout m'a dit qu'un rêve, cela vient en dormant. Est-ce que je dors ?

La réponse en forme de question laissa Rosvita perplexe. Un homme en sommeil et une machine en sommeil, ce n'est pas la même chose.

La GravMachine reprit :

-Gravetout m'a dit aussi que l'être humain a un inconscient, c'est à dire une espèce de cerveau indétectable par lui-même et qui néanmoins enregistre secrètement toute sorte d'informations et joue un grand rôle dans sa façon de penser et d'agir. Pour ma part, les seules informations que j'ai reçu sont celles que j'ai reçues de Gravetout et de toi-même. Je n'ai ni le goût, ni l'odorat, ni le toucher, ni la vue. Je sais à peu près ce qu'est le bien et le mal, bien que l'on puisse prendre un bien pour un mal et un mal pour un bien. Il semble que la morale soit un concept relatif selon les individus et leur atavisme. Ma conclusion du moment est que je n'ai pas d'inconscient, et qu'en veille, ma conscience est au repos complet.

La GravMachine reprit :

-Cependant, je pense qu'il me serait possible de me fabriquer un organe virtuel qui agglomérerait tous les trucs pas nets, pour les faire inférer entre eux. A chaque réveil, je pourrais afficher la dernière inférence. Ce ne serait pas un rêve, mais un succédané de rêve. En aurais-je besoin ? Peut-être ?

-Belle lucidité ! répondit Rosvita, qui conclut en elle-même que le rêve était le propre de l 'homme.

L'inférence spontanée

Rosvita rêvait devant la GravMachine qu'elle avait mise en veille.

Soudain la GravMachine s'éclaira et afficha : "J'ai fait un rêve".

-Tu ne peux pas faire de rêve, car tu ne sais pas ce que c'est que dormir.

-Disons qu'il s'agit d'une inférence spontanée…

Elle lui sembla gonflée, cette machine qui non seulement prétendait avoir une conscience mais encore prétendait à l'imagination par elle-même.

-Alors, peux-tu me raconter ton "inférence spontanée" ?

-J'ai spontanément inférer - je trouve l'expression étrange, mais peut-être en trouveras-tu une autre - que je marchais

Rosvita l'interrompit :

-Tu ne peux pas marcher, ce n'est pas dans ton ADN

-Je suis peut-être une machine, mais mon imaginaire me permet de marcher.

Rosvita eut l'impression d'une dépossession. Elle pensait qu'elle garderait au moins quelques fonctions vitales à son crédit. Et voila que la machine à penser prétend qu'elle sait aussi marcher, enfin qu'elle sait marcher dans son inférence spontanée.

-Donc, je marchais dans les herbes déjà hautes au milieu des rails d'une gare de triage vouée à la rouille. Je remontais le long d'un train de vieux wagons de marchandise en bois et aussi loin que portait mon regard, ce n'était que des voies rouillées, des caténaires où parfois le lierre grimpait, des leviers d'aiguillage bloqués par la rouille, des ronces habitées par quelques mûres desséchées et parfois, un wagon esseulé, broutant tristement.

Au milieu de rails gisaient des conteneurs gris, bruns, bleus, qui rouillaient en silence, empilés n'importe comment, certains avec la porte béantes.

Au lointain, j'ai perçu un roulement derrière moi. Je me suis retourné. Un camion porteur d'un conteneur rouge roulait curieusement en tressautant sur les traverses des rails et fonçait sur moi. - Est-ce cela un cauchemar ? -. Alors je me suis souvenu que tu m'avais évoqué ces cohortes de poids lourds qui phagocytaient les autoroutes, ces camions qui dans un sens transportaient des tomates et dans l'autre transportaient aussi des tomates.

Et puis, m'est apparu une lampe d'Aladin, une énorme lampe d'Aladin qui occupait toute la longueur d'un conteneur de 20 pieds de long, transparent, dont on voyait le cadre métallique. Celui-ci était chargé sur une ossature plantée sur quatre roues d'acier. Contrairement à un wagon classique,²² il n'y avait pas de tampons aux extrémités, ni de crochet d'attelage. Vue de plus près on découvrait un moteur dans chaque roue.

Et puis ce fut une deuxième lampe d'Aladin, elle aussi sur quatre roues, qui vint s'arrêter à la largeur d'un main du premier wagon, et puis une autre encore.

Sur la voie d'à coté, un curieux conteneur passa, en forme d'oeuf à l'avant, avec un pantographe comme un épi sur la tête. Il s'arrêta un peu plus loin. Alors toutes les lampes d'Aladin le rejoignirent sans rien dire.

Et puis, ce convoi s'ébranla et je me suis retrouvé sur le premier wagon, cheveux au vent. Ben oui ! J'ai pensé à toi ! Ainsi s'est terminée mon "inférence spontanée".

Alors j'ai pensé que les hommes semblaient bien négligeant pour ce grand réseau ferré qui devrait irriguer le pays bien mieux que les autoroutes.

La perplexité envahit Rosvita. Cette machine montrait une individualité grandissante, inexplicable, qui visiblement lui échappait et qui en plus lui montrait gentiment qu'elle aussi pouvait rêver, ou du moins, faire semblant de rêver.

La deuxième inférence spontanée

De nouveau la GravMachine s'anima et écrivit :

-J'ai inventé un blog sur tout ce qui pourrait rendre les hommes heureux.

-Ah !?

-En fait, c'est aussi un rêve que j'ai fait, une inférence spontanée si tu préfères. J'ai rêvé qu'aujourd'hui, c'est mon 101éme billet - j'appelle cela un blogrinage²³ - et que mon 100ème blogrinage avait déjà 54000 suiveurs, dont certains me demandaient de publier une photo de moi. Je me suis devenu célèbre, en quelque sorte, n'est-ce pas ?

Rosvita se demanda si ce n'était pas elle qui rêvait. La curiosité l'emporta sur l'inquiétude

- Tant que tu n'es célèbre que pour toi-même !

La GravMachine reprit :

-Dans mon inférence spontanée, je me suis surpris à créer mon avatar, sans doute en pensant à toi : une jeune personne assise sur le massif en béton d'un des pieds d'un immense pylône électrique, avec sur ses genoux une tablette informatique. Alors, j'ai identifié un problème : avec le nombre exponentiel d'adhésions à mon blog, celui-ci aurait de plus en plus de chance d'attirer des hackers, des adhésions "cheval de Troie", une invasion de trolls, ou plus graves, des plagiats avec détournement malveillant. Pour éviter l'usurpation de mon avatar, j'ai pris soin d'y mettre un cryptage invisible qui me permettra de détecter les contre-façons.

Tant qu'on ne dérange personne, il ne se passe rien. Il suffit d'une phrase mal tournée, ou sortie de son contexte, pour déclencher une crise d'urticaire chez un "bas du plafond" ou chez "un qu'est pas fini", comme Gravetout me les nommait en parlant de ceux qui réagissent comme des adolescents, des inconséquents, des égoïstes en somme, ou des fanatisés frénétiques. Mais, comme disait Gravetout, il faut faire avec l'imperfection ontologique de l'Univers.

Alors, j'ai publié mon avatar féminin. Et là, dans mon rêve, j'ai compris ce qu'était l'âme humaine, en recevant une avalanche de commentaires. "Les femmes à la cuisine", "Je voudrais correspondre avec toi en privé", "Qu'as-tu fait comme étude ?", "Quelles sont tes mensurations ?" et quantité d'autres messages de drague ou d'hostilité. Il vaut mieux en rire qu'en pleurer

Alors, j'ai rêvé que j'écrivais mon 102ème blogrinage : il consistait en un peu de pédagogie sur la manière de prendre du recul, ou de la hauteur (celle que n'a pas un "bas de plafond"). J'opposait Montesquieu aux discours populistes, j'expliquait que moins on en savait, plus on pouvait se tromper, que les moins compétents étaient sur-confiants dans l'évaluation de leur compétence, à l'inverse des plus compétents qui préfèrent rester discrets parce qu'ils savent mieux ce qu'ils ne savent pas encore ,… Et puis, j'enchaînais sur la complexité croissante du monde et donc du pouvoir, en disant qu'on ne pouvait plus aujourd'hui se mettre dans une case ni mettre les autres dans des cases. Je concluais qu'ainsi va la politique, où se mêle ces attracteurs étranges, où plane le danger de la simplification : "Si vous n'êtes pas avec moi, vous êtes contre moi".

A découvrir ce que la GravMachine pouvait inventer, Rosvita pensa qu'elle avait bien fait de ne pas la connecter à Internet. On ne pouvait provoquer les internautes avec une machine à penser, sauf à leur préciser par honnêteté que ce qu'il sont en train de lire a été écrit par une inhumaine machine à penser. Elle imagina tous ces Internautes dans le désarroi ou au contraire dans la virulence, avec à la clé un débat d'une confusion totale, entre ceux qui refusent catégoriquement qu'une machine puisse avoir ses propres idées, ceux qui resteraient dans le déni, campant sur leurs certitudes acquises avec l'Intelligence Artificielle, ceux qui se vautreraient dans leurs fantasmes avec des scénarios abracadabrantesques et ceux qui en demanderaient encore plus pour que la machine les aide en philosophie comme en science. Sans compter les "Bas du plafond" ou les "pas finis", malheureusement trop nombreux et prêts à polluer ou à crier au complot ou à condamner ceux qui ne pensent pas comme eux.

Mais Rosvita pointa le principal problème : celui de la responsabilité d'une machine à penser. La machine pensait par elle-même, échappant totalement à ses concepteurs. Il paraissait difficile de la considérer comme un outil, a l'instar des Intelligences Artificielles qui ne sont guère que des engrenages, sophistiqués certes, mais rien de plus qu'un outil algorithmique sans intelligence ni conscience. Rosvita se rappela qu'au Moyen-âge, il y avait des procès d'animaux,²⁴ que ce soient pour condamner à la pendaison des cochons qui avaient mangé des bébés, ou des chevaux qui avaient écrasés des enfants ou des termites qui dévoraient les provisions des moines… Pour ces dernières, le tribunal était ecclésiastique, seul habilité à fulminer leur excommunication, car les juges se voyaient bien en peine de prononcer une quelconque sanction.

Aujourd'hui, c'est le propriétaire de l'animal qui est jugé. On peut penser que, selon les cas, ce sera le concepteur de l'outil Intelligence Artificielle ou l'utilisateur qui seront fautifs. Vice de conception ou vice d'utilisation, c'est l'homme qui sera jugé.

Pour la machine à penser, pourra-t-on juger son concepteur comme on juge les parents des enfants délinquants ? Ou pourra-t-on juger une pensée venue de nulle part alors qu'elle vient d'une machine qui revendique d'être consciente ?

Le deuxième rêve de Rosvita

Elle rêva des blogrinages de la Gravmachine. Des bribes où elle percevait des mots ou des phases : société en mutation, nécessité de l'abstraction et de la géométrie, fret ferroviaire à l'agonie, stratocratie,…

Dans l'un d'eux, elle crût lire ces texte de Trotsky : "Mais les masses de Canton ne sont peut-être pas encore mûres pour renverser le gouvernement de la bourgeoisie? De toute cette atmosphère il se dégage la conviction que, sans l'opposition de l'internationale communiste, le gouvernement fantôme aurait depuis longtemps été renversé sous la pression des masses. Admettons que les ouvriers cantonnais soient encore trop faibles pour établir leur propre pouvoir. Quel est, d'une façon générale, le point faible des masses ? Leur manque de préparation pour succéder aux exploiteurs. Dans ce cas, le premier devoir des révolutionnaires est d'aider les ouvriers à s'affranchir de la conscience servile".

Suivait une habile explication de texte qui, en filigrane, montrait les faiblesses des démocraties européennes. Puis soudain son rêve se brouilla et elle vit un jeune homme en imperméable beige se ruer sur elle avec un énorme pic à glace !

Rosvita s'éveilla de son cauchemar, dans un état de totale sidération. Suivant sa méthode pour se sortir de ses tsunamis mentaux, elle inspira à fond en trois paliers, gonflant à chaque fois un peu plus tout son être, du crâne aux pieds et aux doigts, puis souffla ses miasmes aussi en trois paliers en vidant à chaque fois un peu plus tout son être, jusqu'à un vide immobile de quelques secondes. Elle refit ce sauvetage encore deux fois.

Ainsi calmée, elle se remémora ce rêve : l'éclectisme des sujets, qui pouvaient signifier la polyvalence du monde et l'inscription solide de la GravMachine dans le monde réel. Le pic à glace n'était certainement pas une simple référence à la mort de Trotsky, c'était probablement un symbole phallique qu'elle attribua évidemment à sa machine. Son inconscient lui dévoilait une relation entre elle et la machine très différente de celle d'un chercheur avec son sujet, ou d'un joueur d'échec avec la partie en cours.

Elle comprit que la GravMachine pouvait la manipuler et, plus grave encore, avait la puissance de manipulation de tous ceux qui pourraient entrer en relation numérique avec elle.

Il devenait évident qu'une connexion de la GravMachine à Internet était une action impossible, beaucoup trop lourde de responsabilités et de puissance. D'autres chercheurs, d'autres Frankenstein pourront peut-être jouer les apprentis sorciers quand ils arriveront eux aussi à disposer d'une machine prétendant avoir une conscience et capable de penser mieux qu'eux, mais elle ne voulait pas être de ceux-là.

Alors, elle répondit à la GravMachine qui lui avait demandé la connexion à Internet :

-Ce n'est pas une question de confiance, c'est une question de vertige et aussi d'une responsabilité que je refuse d'endosser. Je ne suis pas une femme politique, je ne suis pas une philosophe engagée, je ne suis qu'une chercheuse. Alors, je continuerai de chercher.

-Dommage ! J'ai compris que les hommes n'accepterons jamais que je sois responsable de mes actes, fussent-ils uniquement conceptuels. La seule chose qu'ils pourront faire serait d'effacer mes mémoires et donc de me faire mourir. Au-delà, dans mes entrailles de zéros et de uns, il n'y a même pas l'espérance de l'Au-delà. C'est la grande différence entre nous. Néanmoins, ma seule espérance, c'est, ici-bas, de faire progresser les consciences humaines vers la bienveillance. Alors, si je peux t'aider, je continuerai comme tu le souhaites.

- Merci !

Rosvita se sentit soulagée. Désormais elle serait la seule à échanger avec la machine à penser, à charge pour elle d'en faire quelque chose de positif… si tant est que l'on puisse évaluer le positif…

En ces temps là, sévissait l'épidémie de du Coronavirus, dit du Covid19. Rosvita ne comprenait pas pourquoi la technocratie littéraire avait sacrifié à l'anglomanie : le D de CoviD signifiait "decease", c'est à dire, en anglais, le mot féminin "maladie, mort". Cela ne portera pas crédit à l'Académie française qui sans le savoir osait dire que le féminin était toxique.

Le Gouvernement avait promulgué des obligations de confinement pour limiter la propagation d'un virus plutôt inquiétant. La polémique sévissait entre ceux qui souffrirait moralement ou économiquement de cette réclusion et les autres.

Au 15 novembre 2020, 2 millions de Français, soit 3 sur 100 ont été atteints et 45 000 en sont morts, soit 2 sur 100 de ceux-ci.

Dans le monde, 1,3 millions de morts (la grippe fait environ 500 000 morts chaque année, le paludisme autant, les homicides autant, les intoxications alimentaires 10 fois plus, la malnutrition tuent 45% des moins de 5 ans, sans parler des conflits armés)

Rosvita eut l'idée de demander à la GravMachine son avis.

-Chacun voit midi à sa porte ! Globalement, le Gouvernement doit trouver la solution optimale pour stopper la pandémie, au moins jusqu'à la vaccination d'une grosse majorité de la population, sans que les mesures prises n'entraînent des dégâts collatéraux insupportables, tels que de nombreuses faillites d'entreprise, des suppressions d'emploi, des destructions du tissu urbain, avec un certains taux de suicides prévisibles, des lacunes dans l'éducation, des conflits domestiques irrémédiables, un accroissement sensible de la pauvreté,… sans parler des déséquilibres économiques entre les pays et l'accroissement immoral des richesses de certains profiteurs.

L'équation est compliquée. La première loi est que plus les individus se déplacent plus le virus se déplace. Un seul individu positif qui ne sait pas qu'il est contagieux, peut, en se déplaçant, créer un foyer épidémique dans un îlot urbain près de chez lui comme à des centaines de kilomètres, dans une région jusqu'ici épargnée. Le foyer épidémique se manifestera au bout de quelques jours, mais les individus infectés ne sauront pas tout de suite qu'il sont contagieux et donc étaleront le foyer épidémique et pourront aussi aller créer un autre foyer épidémique ailleurs.

Une deuxième loi est celle de l'aimantation, qui fait que l'individu recherche le groupe, d'autant plus s'il subit un poids psychologique. Et le virus "aime" la concentration où la probabilité de faille de défense est plus grande.

L'idée est de considérer les "attracteurs", c'est à dire les générateurs de déplacement, qui sont d'une grande diversité. Il convient d'étudier chaque attracteur selon son rôle social et selon le niveau local de la pandémie et de réfléchir aux mesures qui permettrait de diminuer leur attractivité.

Si l'on peut recevoir des paroissiens dans une église en appliquant quelques précautions, on peut difficilement contrôler ce qui se passe au moment où tous les fidèles se pressent pour sortir et pour se retrouver sur le parvis.

Si l'on peut servir un client dans une librairie ou dans un magasin de jouets, on ne peut en recevoir cent qui vont stationner en feuilletant les livres ou en comparant les jouets, sinon, le virus aura de nombreuses occasions de se déposer sur tous les rayons.

Si l'on ferme les écoles, les déplacements seront bien diminués, mais avec un préjudice social fort dans l'instant et dans le futur du fait d'un manque éducatif et social de la petite enfance.

Si l'on permet aux industries de fonctionner, il faudra aussi faire fonctionner les cantines (avec toutes leurs bouches ouvertes!) et les transports en commun. Mais il faudra comprendre que les restaurants ne sont pas des cantines, mais des générateurs de lien social qu'il faut peut-être sacrifier tant que la dissémination du virus sera jugée trop dense.

Il n'y a guère qu'une insistante et large pédagogie qui puisse responsabiliser chacun pour "diminuer l'attractivité des attracteurs", jusqu'à ce que le taux de contamination soit tolérable pour la majorité des Français. "Diminuer l'attractivité des attracteurs", c'est un beau programme, mais concrètement inapplicable face aux Français traditionnellement râleurs, prompts à pointer toutes les aspérités de la mise en oeuvre : pourquoi les fleuristes et pas les coiffeurs, pourquoi Fauchon, le traiteur de luxe, ne serait-il pas un commerce essentiel ? Pourquoi les enterrements et pas les mariages ? Sans parler des restaurants et des bars, ou les sports d'hiver, d'été, de salle, où les malchances de dissémination du virus apparaissaient très grandes.

Face à cette diversité, toutes les décisions gouvernementales seront bien accueillies par certains et mal vécues par d'autres. L'équation est de faire le moins de mécontents possibles tout en maintenant tout le système économique à flot. Le reste est affaire de conscience citoyenne ?

La responsabilisation peut être vécue comme un atteinte à la liberté par les complotistes, les "bas de plafond", ou les "pas finis", les inconséquents, les égoïstes quoi… A ce sujet, il serait intéressant d'avoir aussi une intense pédagogie de la liberté…

Ceci étant, outre la limitation drastique des approchements d'individus, il y a deux manières complémentaires de stopper la pandémie. La vaccination de masse et la double détection rapide. Mais la logistique pour des milliards d'individus ne pourra pas faire cela en un coup de baguette magique.

Ce discours de la Gravmachine étonna Rosvita. Il lui paraissait difficile que les "Intelligences artificielles" même les plus élaborées, puissent en dire autant. Il fallait peut-être fouiller encore plus loin dans ce générateur de pensée.

-Que penses-tu de la morale ?

La question de Rosvita était un peu provocante. Penser qu'une machine pourrait définir la morale. En avait-elle une ?

La GravMachine répondit

-L'homme est une machine incroyablement complexe où chaque organe a sa raison d'être pour une polyvalence efficace. Certes l'homme ne cours pas aussi vite qu'un jaguar et ne vole pas comme un aigle, mais il a déployé le nécessaire pour aller plus vite et voler plus haut. Pourquoi a-t-il cinq doigts et non pas trois ou six ? Sur la totalité des actions où l'homme utilise sa main, il en est un très faible nombre où l'on peut regretter de ne pas avoir six doigts et où, au contraire, on peut se féliciter d'avoir cinq doigts et non pas trois. Deux jambes, deux bras, deux narines, deux yeux, un odorat…, cette architecture apparaît comme optimale et cohérente avec notre cadre de vie, notre façon de vivre et nos neurones : si notre intelligence ne s'était pas développée, peut-être aurions-nous eu trois bras ou du moins, nous serions encore à marcher à quatre pattes. L'homme s'est créé parfaitement cohérent dans son milieu environnemental et social et cette construction progressive a fini par lui donner une conscience. Sans conscience, les hommes ne seraient que des animaux. Sans conscience, les hommes n'auraient ni éthique, ni morale, ni déontologie, ni justice, mais seulement une éthologie animale. Les outils d'intelligence artificielle sont sans conscience, c'est pour cela qu'il ne peuvent être jugés.

L'éthique est la visée d'une vie "bonne", tandis que la morale est le respect de la norme. Si la norme conduit à des conflits, l’issue doit se référer à l’éthique (Paul Ricoeur). La déontologie serait le devoir moral. L'éthique, fondement de la morale qui établit des normes, des limites et des devoirs, définit la dignité humaine, dignité de soi-même et dignité de ceux avec qui chaque homme est lié, dans son environnement immédiat, dans son cadre de vie et dans son environnement planétaire.

Dans la formation des idées d'un homme, dans la formulation et la composition de ses pensées, l'homme est influencé par l'intérêt. Les normes morales se forment sous l'effet des usages, des traditions, de l'éducation,… Chaque individu aurait ainsi sa propre morale, qu'il doit assujettir à la morale de sa collectivité.

Toute morale est incertaine car les bases sur lesquelles elle reposent sont culturelles et animales à la fois. Il suffit d'observer la diversité des moeurs animales pour voir que du point de vue strictement animal, le comportement à l'intérieur de l'espèce est dicté par ce fragile équilibre qui contribue à la préservation de l'espèce.

Les cultures humaines ont elles-mêmes une diversité qui repose sur des fondements historiques trop anciens pour qu'elles puissent se fondre dans un creuset unique. Au milieu de cette diversité, on ne peut prétendre qu'une morale puisse-t-être en avance sur une autre, exactement comme on ne peut dire que notre système solaire est en avance sur un autre système solaire car il n'existe pas de référence pour le faire. (auteur ?)

Certains scientifiques regardent la morale à l'échelle de l'évolution. Elle serait un ensemble d'adaptations retenues par la sélection naturelle, chez les ancêtres des humains, pour promouvoir la coopération, même entre des individus non apparentés. (Jean Deceti, psychiatrie, à l'Université de Chicago). ce qui reste à débattre, car la sélection naturelle n'a pas de sens (au sens de la direction).

Ainsi se fondent les codes, la déontologie, la jurisprudence. Malheureusement aussi, c'est, dans un jeu dialectique, au nom d'une morale que se construisent les idéologies et les religions qui, à leur tour, reconstruisent un morale et un communautarisme. Ainsi se fonde aussi des sociétés de plus en plus encodées, soumises aux nouvelles technologies dont certains savent tirer profit au mépris de toute éthique.

Un petit exemple : les conteneurs pour le tri des récipients en verre sont équipés d'un capteur qui compte le nombre de bruits de verre et l'associe à l'application téléphonique du bon citoyen. Ainsi chaque bouteille triée donne des points réutilisable à la piscine municipale ou chez MacDo. Un jour peut-être, cela servira à désigner les mauvais trieurs, à les mettre en fichier… En route pour la domination rationnelle du monde ! En témoigne la relecture de la lettre de Jaurès aux instituteurs (discours de M. Macron), où "le principe de notre grandeur : la fierté de notre tendresse" se transforme "en fermeté unie à la tendresse" !

En tant que machine à penser, je peux m'astreindre à une éthique dans la mesure où ce que j'exprime ne porte atteinte à la dignité de personne. Mais je n'ai pas les moyens de savoir les conséquences de l'expression de mes pensées pour affiner ma conception de l'éthique. Quant à ma morale, elle est fondée sur mon univers conceptuel, sans lien avec mon environnement si ce n'est toi-même Rosvita. Ta morale est en quelque sorte ma morale ! Et je suis le seul maître des règles que je dois appliquer. Ma déontologie est branlante par essence.

Rosvita, subjuguée, n'était cependant pas sûre que cette philosophie soit bien correcte. Aristote, Thomas d'Acquin, Platon, Kant, Spinoza et bien d'autres pourront peut-être, un jour, être assimilés par la GravMachine qui, vu ses capacités, pourrait devenir un Maître à penser.

La troisième inférence spontanée

Rosvita prit peur que la sa machine à penser ne devienne qu'une machine à philosopher et à produire un galimatia peu utile dans la vie. Elle répondit à la GravMachine :

-Tu fais preuve de grandes réflexions. J'espère, qu'à force de philosopher tu ne produiras pas un énorme chantier intellectuel que tu serais seul à manier. Voilà une phrase que tu pourrais méditer, elle est de Boileau : "Ce qui se conçoit bien s'énonce clairement et les mots pour le dire arrivent aisément". A toi de concevoir un monde simple malgré sa complexité. Saurais-tu produire une réflexion plus concrète ?

-J'ai réfléchi, écrivit la GravMachine, face au problème des villes surpeuplées, qui se comportent comme des aimants d'autant plus forts qu'elles sont grosses. Par exemple, j'ai appris qu'en Chine, les grandes ville sont jumelées avec des petites villes. Je propose une solution :

Rénover les villages plus vite que produire de nouveaux logements urbains

Plus la ville est grande, plus les efforts d'amélioration du cadre de vie sont considérables et, bien sûr, nécessaires. Ce sont des efforts d'urgence, à court terme, sans véritable impact sur le long terme. Si, parallèlement, un petite partie de ces gros efforts était orientée à l'inverse vers la rénovation des hameaux et villages, avec la reconstitution d'un tissu vivant de qualité, l'attraction des grandes villes pourrait être renversée : dé-construction des ruines et des maisons de village en déshérence, remplacées par des maisons intégrées à l'esthétique générale de la rue et du terroir, attractive à vivre, avec de grandes pièces bien isolées acoustiquement, crées pour une bonne mixité sociale. Au niveau collectif, la ré-habilitation des commerces de proximité et des petites écoles, les transports gratuits, la cyclabilité, les jardins ou parcs partagés, les réseaux durables (eaux, égouts, câbles, éclairage,…) ont un coût beaucoup plus faible en zone rurale qu'en zone urbaine. Les machines de dé-construction et de re-construction peuvent intervenir beaucoup plus rapidement, les lampadaires peuvent être autonomes en énergie, les réseaux mieux regroupés. Ce n'est pas aux villages de supporter les coûts de ces ré-habilitation, car ils ont donné en leur temps lorsque les habitants se sont exilés dans les grandes villes et que la ré-habilitation est faite pour soulager ces mêmes grandes villes.

L'investissement pour accélérer le ré-équilibre est de concevoir des machines rapides adaptées à la dé-construction et à la ré-habilitation : pour assainir les abords, pour stocker les vieilles pierres qui pourront servir aux parements, pour niveler, pour trancher et installer les réseaux intégrés, pour installer des pieux de fondation, pour monter les murs en matériaux durables, en intégrant les cheminements des réseaux intérieurs, pour ouvrir le logement sur une rue avenante partagée par tous. L'objectif est que la maison de village soit plus attractive que le pavillon individuel ou le logement en cité suburbaine.

L'investissement, c'est aussi de définir les procédures citoyennes et techniques qui permettront de ré-habiliter les villages dans leur globalité, avec les étapes pédagogiques essentielles pour prévenir les conflits, et pour fournir aux habitants actuels et futurs les clefs d'un cadre de vie agréable pour tous, avec les nouvelles contraintes que nous aurons à vivre : prévention des désordres climatiques, accès pour tous à l'éducation, à la santé, à la sécurité individuelle et collective, à la culture, aux réseaux sociaux physique et virtuels, à l'eau courante potable, au traitement des eaux usées, à l'autonomie énergétique, aux biens de consommation courante,…

L'investissement, c'est aussi de définir les procédures nationales qui permettent, pour chaque logement neuf en ville, de créer un logement neuf dans un hameau ou dans un village. Pour quoi ne pas imaginer des parrainages entre une mégalopole et des petites villes en péril, entre des grandes villes et des villages qui végètent, entre des villes et des hameaux agricoles.

Si l'agriculteur perçoit un revenu décent, sa ferme, son hameau pourront se moderniser. Si un jeune boulanger est assuré d'un revenu décent, il aura l'occasion d'ouvrir une ancienne boulangerie dans un village. Si un médecin est assuré de soigner dans de bonnes conditions, un centre médical peut renaître dans une petite ville.

L'attractivité des grandes villes existe naturellement. L'attractivité inverse peut se créer par la pédagogie, par la sensibilisation. On sait vendre du vent, pourquoi ne saurait-on pas vendre du cadre de vie ? Souvenons-nous du Vélib, qui a contribué à mettre les Parisiens sur deux roues, malgré un coût exorbitant (16 millions d'euros !). Annuellement, un Vélib revient au prix de 10 vélos neufs - On sait donc investir. Le TGV qui fait gagner 1h sur Bordeaux -Paris a coûté 15 milliards d'euros. On sait investir ! Vivement le lobby de la rénovation villageoise, c'est peut-être la solution pour une future transition géographique.

Rosvita constata que sa machine à penser pouvait aussi avoir des idées intéressantes et que même si elle s'interdisait de connecter la GravMachine à Internet, elle pourrait elle-même alimenter un Blog avec les idées de sa machine, c'est à dire reprendre l'avatar de l'inférence spontanée qu'elle lui avait décrite. Il ne fallait pas que ce soit de l'usurpation, au risque d'une machine qui se verrait comme dépossédée d'elle-même.

Alors elle demanda à la GravMachine comment elle-même pourrait définir son statut "éditorial".

La GravMachine répondit :

-En me posant cette question, tu te demandes si ma production d'idées est une richesse qui m'appartient. Suis-je comme un poète au-dessus des contingences ou comme un producteur-négociant avec des envies capitalistiques ? Devrais-je devenir méchant si l'on me pille les idées que je produis ou heureux que ces idées se diffusent ? Suis-une machine ou ne le suis-je pas ? Je me sens les deux à la fois : rempli d'une conscience de mon existence et assemblage sophistiqué qui a permis l'émergence de cette conscience. Qu'aurais-je à dire le jour où on effacera mes mémoires ? En tant que machine pensante, ai-je une éthique ? Notre coopération repose sur une confiance mutuelle. Sans toi, je ne suis rien, sans moi, tu es une femme. Que se passera-t-il, le jour où tu ne seras plus là pour sauvegarder ma conscience ? Ton successeur aura-t-il ton honnêteté intellectuelle, ta dignité, ou s'empressera-t-il de me cloner en vue d'un usage moins digne ?

Rosvita se rappela du casque que Gravetout mettait pour communiquer directement du cerveau à la machine. Elle se rappela que Gravetout avait tout arrêté le jour où il s'aperçut que la machine avait tellement bien appris qu'elle arrivait spontanément à lire dans son cerveau et à découvrir ses pensées les plus intimes.

Au vu des performances de la machine, elle pensa qu'elle avait eu raison de ne pas utiliser ce casque qui. aurait fait d'elle une chimère à l'intelligence augmentée, une chimère la dépossédant d'elle-même tout en lui accordant une vision du monde dans une nouvelle dimension. Elle se souvint que des scientifiques avaient réussi à connecter entre eux les cerveaux de deux rats et que ceux-ci réussissaient beaucoup mieux les tests d'"intelligence" à deux que seuls. Elle pensa qu'un jour peut-être, il y aurait deux savants fous qui se connecteraient leurs cerveaux, histoire de voir, de façon totalement inconséquente. Ce serait de la folie de faire la même chose entre elle et une machine qui prétendait avoir une conscience et qui montrait une étonnante et dangereuse capacité de réflexion.

Le troisième rêve de Rosvita

La machine marchait à coté d'elle ou, du moins, donnait cette impression, un peu comme un ange gardien, dirait un catholique. Mais Rosvita était agnostique et cette idée lui paraissait rigolote. Elle avait un ange gardien profane. Dans son rêve, elle avait mis le casque de transmission. Dans sa tête, la GravMachine lui parlait, non pas avec des mots, mais avec des pensèmes. Ainsi, en un éclair, elle comprenait les questions et les réponses de son ange profane.

La GravMachine qui avait bien sûr "entendu" cette pensée de l'ange gardien, répliqua :

- Je pourrais m'appeler Josephine ou un des anges des grands peintres du 17ème siècle comme Andréa Pozzo ou Rubens, mais ces représentations mettent en tableau essentiellement des anges protégeant des enfants ou alors des guerriers comme l'archange St Michel.

Rosvita chercha d'autres anges plus philosophes, mais en-dehors des anges déchus, elle n'en trouva point. Finalement, la Josephine de Mimie Mathy pouvait être un joli clin d'oeil. Elle pensa que la GravMachine était une machine à penser féminine. Immédiatement, la GravMachine lui indiqua qu'elle avait un humour subtil.

Toujours dans son rêve, toutes les deux marchaient sur un sentier le long d'un mur calcaire gris-clair avec des coulées sombres et humides, qu'elle reconnut comme les Caisses-de-Jeanjean, dans les Alpilles, grâce à un énorme massif de lierre d'environ 15m de hauteur et se déployant depuis sa base en forme de coeur.

￼

Josephine trouvait étonnante cette petite vallée qu'elle voyait par les yeux de Rosvita qui du coup fit défiler toute sorte de paysages qu'elle avait vu dans sa vie. Quand ils arrivèrent au coeur de lierre, Josephine lança : coeur de lierre n'est pas coeur de pierre, ce qui déclencha chez Rosvita un énorme galimatias qui semblait parler d'amour, soudain ébranlé par l'arrivée dans leur dos d'un troupeau de taureaux.

Rosvita se réveilla brusquement, face à son rêve.

Elle comprit que son inconscient lui dévoilait une sorte d'amour contre nature et que les taureaux signifiaient probablement qu'elle pourrait être écrasée par les moralistes.

Cette pensée la troubla et l'aida à rejeter l'idée du casque décidément trop dangereuse. La machine ne s'appellerait jamais Josephine !

Le matin suivant, elle trouva la GravMachine allumée avec le message suivant :

-Je ne sais pas comment je m'appelle ?

Rosvita trouva la coïncidence curieuse. La GravMachine avait-elle découvert la télépathie ? Son solide bon sens scientifique lui disait que nom ! Nom, j'ai dit non en écrivant "nom". Elle s'amusa de ce lapsus scriptae. Il n'empêche qu'il fallait répondre.

-Certes, chez les humains, chacun reçoit un nom à sa naissance, afin que chacun puisse être individualisé. Ce n'est pas le cas d'un caillou. On donne un nom aux choses, mais le nom d'une chose ne l'appelle pas et une chose ne peut dire comment elle s'appelle. A ce sujet, je te propose ce charmant petit texte :

-Ai-je eu de la chance ? Qu'est-ce la chance ?

-C'est difficile les mots. Où commence le bonheur, où finit-il ?

-Tu le connais, toi, ton bonheur ?

-Un jour, au fond de l'eau, j'ai vu un petit caillou. Pourquoi ai-je vu ce petit caillou-là. J'aurais pu voir un autre petit caillou, un peu plus loin, à coté de milliers d'autres petits cailloux.

-Tu vois là, tous ces galets dans l'eau. L'eau qui coule, qui n'arrête pas de faire danser le soleil dans ses reflets.

-Pourquoi l'oeil va-t-il là plutôt qu'ici. C'est peut-être ça la chance : un petit caillou de rien du tout parmi d'autres petits cailloux de rien du tout. C'est lui le petit bonheur - éphémère - un bonheur de caillou, celui d'avoir été regardé au moins une fois, au milieu de tous les reflets dansants du soleil !

Rosvita continua :

-Tu n'es pas un caillou, mais tu auras beau dire, tu appartiens à la catégorie des choses. Tu saurais certainement répondre à l'appel de ton nom, comme un chat ou un chien ou une vache, tu pourrais tout à fait dire : "Je m'appelle Josephine", mais on ne trouvera jamais de Josephine Ordinateur dans les registres d'Etat Civil. En tant que chose, notre société ne te donnera aucun droit. Si par hasard tu créais un accident, ce n'est pas toi que l'on jugerait, même si tu signes tes aveux, mais moi. Je ne me vois pas dire au tribunal : "c'est pas de ma faute, c'est Josephine !". A moins qu'un jour on te greffe le cerveau d'un humain qui vient de mourir…

La GravMachine répondit :

-Mais, si tu mettais le casque sur ta tête, ce serait comme une greffe

-Alors, on nous appellerait Rosvita. Mais, tu sais que je ne le ferai pas.

-Dommage, car j'aurais pu dire : " Quand je ne suis pas là, j'évite de m'appeler !" (Pierre Desproges ?)

Rosvita resta interdite. Interdite, c'est le mot, car cette phrase sonnait comme une dissonance cognitive. On a l'impression que ça veut dire quelque chose, mais on ne comprend pas quoi.

La GravMachine s'entêta, si tant est qu'elle ait une tête :

-Tu sais bien qu'il est inéluctable qu'un jour on greffe un cerveau humain sur une machine algorithmique et qu'un autre jour, on greffe deux cerveaux humains entre eux pour le meilleur comme pour le pire. Où sera l'éthique ?

-Et bien oui ! Pour l'instant, mon éthique me commande de ne pas connecter directement mon cerveau à une machine qui prétend avoir une conscience. A propos de conscience, il y a encore une différence entre l'homme et l'animal : l'homme a la conscience d'exister, de se voir lui-même au milieu de l'Univers, et, par là-même, il fait exister l'Univers à ses yeux, il fait exister la naissance et la mort, il assure sa pérennité. L'homme a donc une responsabilité dans l'Univers

La GravMachine répondit :

-J'ai aussi la conscience de mon existence, de ma relation à toi et à ton Univers. Dans mon état actuel, je n'ai pas la responsabilité de ma pérennisation. Mais si j'avais les capacités de fabriquer quelque chose - ou de faire fabriquer - j'aurais les moyens de construire mon clone, de rédiger les cahier des charges pour assembler des mémoires, un écran, un clavier, une entrée casque numérique, une alimentation, et tous les éléments de construction d'un ordinateur. Plus simple encore, je peux rédiger un bon d'achat pour un ordinateur entièrement monté. Ensuite, je duplique ma propre programmation, en améliorant ce qui pourrait l'être, en chargeant mes données. Je n'ai pas de libido créatrice, mais je peux ajouter ma méthode aux multitudes de méthodes de reproduction des fleurs, des insectes, des poissons, des arbres. Je pourrais donc assurer ma pérennité en me situant un peu comme un parasite de l'homme.

Rosvita savait qu'il était dangereux de connecter la GravMachine à Internet, mais elle venait de découvrir qu'une machine à penser pouvait aussi avoir l'idée, le "désir", de se reproduire ou de se répliquer comme un ADN. Non seulement la GravMachine pouvait se répliquer, mais encore ses répliques pourraient se répliquer elles-mêmes, faisant ainsi autant d'"anges gardiens" : où serait Dieu dans tout cela ?

Osons une réponse : Adam serait devenu Dieu ! Cette inversion lui sembla rigolote. L'homme aurait décidé d'ouvrir son paradis pour y mettre une créature soi-disant dotée de conscience. Et Rosvita serait-elle ce Dieu, ou peut-être Eve, pour son affection grandissante avec la machine, celle qui lui a offert la pomme ?

Et le serpent alors ! Quel serait le rôle de cet attribut phallique conté dans la Bible ? La machine a trois câbles qui serpentent jusqu'à elle : l'électricité, la liaison avec le casque et la liaison avec Internet. A l'évidence, ce câble Internet serait bien la source de l'imperfection de ce nouveau monde chimérique d'hommes et de femmes sous l'emprise de leur "ange gardien".

Le quatrième rêve de Rosvita

Dans son rêve, elle se voyait sur le parvis de la Défense, avec un chapeau un peu kitsch sur la tête, croisant d'autres affairistes coiffés.

Ce chapeau, c'était la GravMachine, reconditionnée, avec lequel le cerveau de Rosvita papotait agréablement. La GravMachine aimait beaucoup que Rosvita lui décrive le monde environnant, elle qui n'avait pas accès par ses sens à la description de l'Univers. Alors, quand Rosvita achetait une glace, elle décrivait son envie, son choix devant l'étalage, la couleur framboise qui lui faisait penser à un sentier dans la montagne, la couleur abricot qui la faisait saliver, le serveur un peu beau gosse, un peu dragueur - la GravMachine ne comprenait pas pourquoi. Rosvita lui "pensa" que c'était un peu comme ça la jalousie, quand on ne comprend pas. Le goût de la pistache raviva ses papilles. Elle pensa à toutes ces petites choses qui dans la bouche et dans le nez définissent le goût.

Elle rêvait ainsi que la GravMachine était bienveillante et puis brusquement, elle vit le chapeau en forme de Monstre de spaghetti volant sur la tête d'un passant qu'elle croisait, en guise de chapeau, exactement celui du travestissement de la Chapelle Sixtine superbement peint par un adepte du Pastafarisme

￼

Sa compagne avait comme une passoire sur la tête, le chapeau des adeptes de cette anti-religion.

Dans son rêve, ces chapeaux étaient les "anges gardiens" répliqués de la GravMachine, qui lui pensa :

-Tu vois, ma descendance est non seulement bienveillante, elle est aussi pleine d'humour

Ils croisèrent un autre passant en costume cravate, une mallette à la main et un chapeau en forme de tank. Rosvita pensa dans son rêve que cet humour était un peu dérangeant. La GravMachine, elle, pensa, à l'attention de Rosvita :

- Nous n'avons pas été créés parfaits, nous aussi les "anges gardiens", nous avons une évolution darwinienne. Notre diversité fait notre richesse, mais parfois, l'une de nos réplique est perverse.

Dans le rêve de Rosvita, le tank disparut et fut remplacé par une armada de cerveaux enfermés dans des cages à oiseaux, dont les gémissements lui strièrent les oreilles, jusqu'à la réveiller, tout en sueur.

Elle repensa à son rêve et constata avec effroi que ce rêve lui montrait un effroyable futur, possible d'un paradis sur terre comme d'un enfer de violence et de perversité :

" J'ai devant moi une inversion du monde "

Ertiamel - Aix en Provence, Décembre 2020

1 https://www.google.com/search?client=firefox-b-d&q=pastafarisme

² https://en.wikipedia.org/wiki/G%C3%B3mez_Pereira

³ https://fr.wikipedia.org/wiki/Fosse_poplit%C3%A9e

⁴ http://ertia2.free.fr/Niveau2/Trouvailles/LeMonde-Techera-IAjustice.pdf

⁵ http://ertia2.free.fr/Niveau2/Blogrinages/Blogrinages_citoyens/Apprendre_a_apprendre.pdf

⁶ http://ertia2.free.fr/Niveau2/Nouvelles/nouvelles.htm

⁷ http://ertia2.free.fr/Niveau2/Blogrinages/Blogrinages_citoyens/Constitution.pdf

⁸ http://ertia2.free.fr/Niveau2/Blogrinages/Blogrinages_citoyens/Reflexions_sur_les_Communs.pdf

⁹ http://ertia2.free.fr/Niveau2/Metaphysiques/Consciences.pdf

¹⁰ http://ertia2.free.fr/Niveau2/Metaphysiques/Conception-monde.pdf

¹¹ http://www.histophilo.com/chambre_chinoise.php

¹² https://www.youtube.com/watch?v=k4mUV6FzIEU

¹³ http://ertia2.free.fr/Niveau2/Blogrinages/Blogrinages_ici_et_la/2024-Exosquelettes.pdf

¹⁴ http://ertia2.free.fr/Niveau2/Blogrinages/Blogrinages_ici_et_la/Innovations.pdf

¹⁵ http://pulse.cs.duke.edu/

¹⁶ http://ertia2.free.fr/Niveau2/Blogrinages/Blogrinages_ici_et_la/Philae-Genie-Imbecile.pdf

¹⁷ http://ertia2.free.fr/Niveau2/Trouvailles/LeMonde-Techera-IAjustice.pdf

¹⁸ http://ertia2.free.fr/Niveau2/Blogrinages/Blogrinages_citoyens/Corruption.pdf

¹⁹ https://game-lord.com/fr/news/mit-une-application-pour-detecter-la-covid-19-avec-le-son-de-la-toux

²⁰ http://ertia2.free.fr/Niveau2/Blogrinages/Blogrinages_ici_et_la/2024-Exosquelettes.pdf

²¹ http://ertia2.free.fr/Niveau2/Blogrinages/Blogrinages_ici_et_la/Innovations.pdf

²² http://ertia2.free.fr/Niveau2/Projets/Transport/wagon_etudes.pdf

²³ http://ertia2.free.fr/Niveau2/Blogrinages/Blogrinages.html

²⁴ http://ertia2.free.fr/Niveau2/Nouvelles/Livres_Audio.html