Rêve d'immortalité par l'IAG? (1-2)

Troisième roman de J.R. DOS Santos que j'ai lu et apprécié pour son originalité, tournée vers le présent et le futur dans la saga "Tomás Noronha".

En 2014, "La clé de Salomon" qui parlait des arcanes de la physique quantique, que j'ai suivi par ce billet. 

En 2021, "Signe de vie" qui parlait de la conquête de l'espace, que j'ai suivi par ce billet.

Cette fois, dans "Immortel", il s'agit de l'Intelligence Artificielle Générale, d'un projet Vitruve et de Singularité.

Préface: Après avoir annoncé la naissance de deux bébés génétiquement modifiés, un savant chinois disparaît. La presse internationale commence à poser des questions, les services secrets tentent de trouver des réponses, un scientifique futurologue contacte l'historien cryptologue, Tomás Noronha. Travaillant pour la DARPA, l’agence pour les projets de recherche avancée de la Défense américaine, il a besoin de lui pour le retrouver. Tomás découvre alors les véritables enjeux du projet secret chinois sur l'Intelligence Artificielle et l’extraordinaire destin de l’humanité qui en découle".

...

Quand on est en vacances, à la recherche d'un délassement et de satisfaction, on fait des mots croisés, on lit des livres comiques avec des histoires drôles à toutes les pages, des histoires d'amour mais aussi, des thrillers...  

José Rodrigues dos Santos, un des plus grands auteurs de thrillers historiques et scientifiques en Europe et aux États-Unis, avertit d'amblée les lecteurs que toutes les informations scientifiques présentées dans son roman sont vraies.

Je ne suis pas sûr qu'il va rassurer avec ce récit, consacré à la recherche scientifique, à la philosophie et à l'éthique. 

Il peut heurter quelques lecteurs à l'âme sensible avec des préjugés tenaces qui ne seraient pas pragmatiques.

La première partie du roman "Immortel" est construite sous forme d'un dialogue entre l'historien Tomas Noronhas qui est plus intéressé au passé et Kurt Weilmann, un américain tourné vers le futur et qui va jouer à l'avocat du diable pour le convaincre.

La deuxième partie est un "thriller" dont les actions sont menées à un rythme effréné. 

Tous les chapitres du roman se passent en alternance avec les dialogues de Kurt et Tomas et la détention du savant scientifique chinois, Xian Lao qui coupé du monde, est forcé de poursuivre son projet appelé Pa-hsien, qui touche au secret de la nature et à l'élixir de la vie avec le nom global de "projet de Vitruve".

A l'origine, ce projet est le traité "De architectura" qui nous vient de l’essentiel des connaissances sur les techniques de construction de l'Antiquité classique qui date d'une centaine d'années avant notre ère, qui donne des idées sur les connaissances technologique de l'Empire romain par la description des différentes machines utilisées pour des ouvrages d'art ainsi que des machines de guerre.

Mais dans ce cas, il s'agit de démontrer que par l'union de la biologie de l'homme et de la technologie de la machine, il est possible de réaliser l'homme parfait relatif à l'essai de Léonard de Vinci avec la finalité d'améliorer l'homme proposé géométriquement l'homme parfait comme le diagramme d'un homme inscrit dans un carré symbolisé par son côté profane, et dans un cercle, pour symboliser le cosmos.

A la clé, l'enjeu majeur est la survie de l'Homme dans un monde où la Singularité correspondrait au moment où la machine le surpassera pour devenir un "Dieu immortel". 

La médecine a initié cette résistance contre la mort et l'apoptose programmé dans ses gènes d'ADN..

J'ai sélectionné quelques extraits du roman sous forme de copies du roman (sous les fichiers jpg à cliquer) alternées avec du texte.

 

Le lien entre la génétique et l'intelligence est dans le projet pour rehausser le statut social de l'intelligence et ainsi éradiquer le plus grand problème de l'inégalité.

- Si l'on pense que ce ne sont que des privilèges réservés aux élites, il faut se rappeler que tout ce qu'on invente dans les technologies est cher au début et baisse de prix ensuite pour devenir accessible dans les tranches inférieurs de la société. Les problèmes éthiques deviendront secondaires si la génétique permet d'améliorer sa condition. Tout le monde demandera alors le permis de devenir un surhomme, d'avoir un corps et un esprit saint pour eux et pour leurs enfants même si le bricolage de l'intelligence fait ressortir un relent d'eugénisme et de vieux rêve du nazisme à créer un surhomme. La boîte de Pandore est déjà ouverte en créant le lien entre l'homme et la machine. Les gouvernements finiront par ne plus pouvoir intervenir et réguler pour fixer des règles et des limites. Regarde ce casque..." , dit l'Américain.

- Aujourd'hui, ce tabou de l'eugénisme a changé son nom en "transhumanisme". L'Intelligence Artificielle est devenu véritable 'game changer" de l'histoire comme l'ont été l'écriture, l'électricité et la machine à vapeur. De plus, la croissance exponentielle de la technologie crée de plus en plus vite la Singularité dont on fixe les progrès vers 2055 d'après ces graphiques.

- Les prémices de l'évolution ont été rapportées et discutées dans des conférences mondiales. Des facteurs génétiques ont joué leur rôle dans l'intelligence pour casser le mythe de ces facteurs qui servent souvent à l'améliorer si pas à l'augmenter le bien-être corporel et psychique. L'intelligence et la conscience de soi sont les dernières limites et les plus grandes des inégalités entre les hommes.

- La question devient "Conscience qui es-tu? Comment fonctionnes-tu?"

- La conscience de soi ne se fait souvent qu'avec l'aide des relations que l'on peut avoir avec les autres humains qui vous interpellent, vous secouent parfois mais très peu devant son miroir le matin. 

- Bricoler l'intelligence serait-il un réflexe naturel avec des artéfacts et des artifices de calcul pour devenir plus intelligent? 

- Des implants, prothèses, orthèses pour corriger une perte de mobilité, de possibilité d'avoir une vie normale comme les autres aujourd'hui, y contribuent. Demain, des cyborgs, des implants dans le cerveau vont multiplier la capacité cognitive des neurones par la fusion entre homme et machine par les technologies.

- Comment une machine peut-elle avoir une conscience d'elle-même, de son intelligence si elle n'éprouve aucune joie, aucun remord, aucun affect?

- Question presque bancale. La nature l'a réalisé sans magie mais de façon très naturelle. Les dernières techniques utilisées dans ces domaines dans lesquels les plus avancés se trouvent en Chine et aux Etats-Unis.

- Et cela mène à quoi?

- The sky's limit. Après le stade de la recherche, ce sera la révolution capable par le calcul et l'intelligence de réaliser du jour au lendemain, un surhomme. Après la cyborgisation, la biologie et la technologie fusionnent. La full technologie, cela peut devenir l'uberisation de la société et le début du chômage de masse. 

- L'avenir n'est plus ce qu'il était...

 

- Faire des choses simples pour les androïdes est le plus difficile. Il faut créer des algorithmes coordonnés et ordonnés dans la complexité des réalités humaines. Prévoir. Certaines tâches sont tellement simples qu'elles en deviennent imprévisibles. C'est par l'apprentissage profond, le 'machine learning' et par l'imitation comme le font les réseaux neuronaux humains en interactions avec la reconnaissance des images et des sons. Google et Facebook l'ont très bien compris. Ce sont des systèmes qui s'autoalimentent dans les mégadonnées, en donnant-donnant, avec ce que les utilisateurs fournissent de leur vie privée. Nous sommes le produit qu'ils vendent. L'appât du gain alimente l'innovation et le progrès. Avec l'Internet total, le monde virtuel envahit et transforme le monde réel en collectant des informations sur nous dans les moindres détails. Internet saura plus sur nous que nous-mêmes. Il sait déjà pour qui nous allons voter. A quoi bon aller voter si Internet est beaucoup plus compétent pour nous gouverner?  

...

Epilogue du roman

Une fois le thriller résolu, les deux interlocuteurs se retrouvent devant des représentant de l'ONU.

- Personne n'est plus heureux que nous de ce dénouement, vous pouvez en être sûr. On a attribué la responsabilité des événements aux djihadistes. Tout est bien et finit donc bien, mais il ne faut pas nous leurrer, nous n'avons pas réglé le problème de l'IAG, dit le secrétaire général de l'ONU.

Kurt : "D'accord, mais bien que très violent et cruel, le mécanisme de l'évolution biologique est efficace pour augmenter les capacités des être vivants dont les humains, chaque fois qu'une cellule se reproduit, elle copie son ADN en faisant de rares erreurs dans ses mutations pour permettre l'évolution. Ce sont des anomalies, parfois négatives ou avantageuses qui surviennent en bout de chaîne par le gène MecP2. Cela conduit à une augmentation ou à une diminution du volume du cerveau et des capacités intellectuelles qui se transmet ensuite au génome de l'espace. La civilisation est apparue pour mettre fin à cette violence et cette cruauté par le contribution de la morale et de la religion en protégeant les plus fragiles. Cela a été possible grâce au développement de la médecine et de la technologie alors que la nature implacable aurait éliminé sans pitié. Mais cela a un prix: la dégénérescence du génome humain. La conscience et l'intelligence dépendent d'une structure très fragile du système nerveux central et d'un réseau génétique très complexe. L'intelligence d'Homo sapiens est fragile qui dans des cas extrêmement minimes, peuvent se révéler catastrophiques sous forme de maladies mentales. La civilisation a interrompu l'évolution par la sélection naturelle en introduisant sa dégénérescence avec des effets cumulatifs de génération en génération. Les découvertes de la science biologique sont indépendantes des idéologies et des politiciens. Darwin a influencé les idéologues marxistes et national-socialiste. Le génome humain a commencé à se dégrader et la seule issue est la manipulation génétique pour éviter une vie végétative. C'est le prix à payer, même si c'est de l'eugénisme. La distinction entre médecine réparatrice et médecine eugénique est très ténue. Bien sûr que cela peut rappeler le nazisme, mais le jour viendra où la maladie et la mort deviendront injustes et inacceptables dès que l'on disposera de technologie par la manipulation de leur ADN pour les empêcher. La vie privilégie la reproduction. Quand un être vivant termine son cycle de reproduction, il cesse d'être utile et meurt".  

Thomas, bien préparé au discours de l'Américain, ajoute "A moins que nous ne soyons disposés à mettre fin aux réseaux neuronaux, aux algorithmes évolutionnaires et aux programmes évolutifs qui sont à la base des grands progrès récents en intelligence artificielle, ce problème n'a pas de solution. Les ordinateurs les plus avancés sont devenus des boîtes noires. Comme il est impensable de se passer des ordinateurs, nous ne contrôlons plus la situation. L'humanité n'est pas un produit fini. L'humanité se transformera avec la Singularité dans le sens d'une fusion avec l'intelligence artificielle. Nous ne devons pas la craindre mais l'accepter malgré la menace existentielle pour l'humanité car elle offre une possibilité étonnante. Nous sommes le passé et l'IA est un avenir plus grand pour échapper à la fin de l'univers. L'existence est un voyage, en transcendant un processus avec la conscience en nous réinventant pour devenir meilleur, un surhomme et non un produit". 

...

Références du livre

La machine de Turing qui a décrypté Enigma et rendu automatique l'exploitation de l'homme par l'homme a des fins utiles.

IG Good a ressenti l'explosion des intelligences comme dernière invention de l'humanité.

Hans Moravec a écrit "Mind Children" au sujet de l'apprentissage profond.

Vernor Vinge d'une IA incontrôlable.

Nick Bostrom et Roy Kurzweil mettent en avant les risques existentiels.

Les différences idéologiques entre hommes est déjà un problème colossal à résoudre s'ils n'essayent pas de se comprendre entre eux.   

...

Conclusions et questions

    Comme je l'écrivais dès le début, non pragmatiques, s'abstenir. 
De toutes façons, ce roman ne laisse pas indifférent.

De bout en bout, le roman reste passionnant par sa vulgarisation scientifique et ses questions posées qui poussent au débat.

Il peut faire frémir car tous ces bouleversements vont intervenir dans l'espace d'une génération avec la Singularité prévue vers le milieu de ce siècle.

La Chine donne l'impression parfois de jouer avec le feu et d'avoir des responsabilités à venir mais qu'elle a toujours caché jusqu'ici.

- Dans deux décennies, l'ectogénèse se fera par la fécondation in vitro dans des incubateurs. Les relations amoureuses en êtres humains condamnés ou exister avec des androïdes, dit Kurt. 

A la fin de l'année, la population mondiale toujours en augmentation attendra 8 milliards d'individus mais répartie différemment.

La fertilité des humains est en baisse constante et pousse de plus en plus à recourir à la PMA dans les pays développés tandis que la population est toujours en explosion constante dans d'autres.

Une première remarque: L'immortalité recherchée alors que la population mondiale explose exponentiellement, est ce le bon chemin?

Une seconde: l'IA dont on parle aujourd'hui est peut-être artificielle dans sa forme, mais pas dans le fond. Tout ce qui en fait partie est une copie de l'intelligence humaine. L'IA forte quand elle inventera par elle-même, deviendra vraiment artificielle.

D'où la question: "Faut-il arrêter de faire des bébés?" était débattu ce 12 juillet: 

1. l'Intelligence Artificielle, médecine, génétique avec des humains qui réclameront de bénéficier de la course aux bébés "parfaits", la voie vers le "surhomme" avec la Chine n'accordant pas la même place que l'Occident aux libertés individuelles?
2. les rapports entre les humains augmentés, fusion de l'homme et de la machine et les humains restés à l'état de Homo Sapiens seront-ils considérés comme plus faibles, parce que plus bêtes. Vu comment cela se passe dans l'histoire, les plus forts auront tendance à descendre de plusieurs crans, voir de les éliminer, de les soumettre, de les exterminer. Ce ne serait plus une question de différence de races, de couleurs, mais d'intelligence. 
3. les machines performantes auront-elles une forme de conscience?
4. le transfert de la conscience humaine vers un ordinateur sera-t-il possible?
5. y aura-t-il un autre avenir possible pour l'Homme sans la machine?
6. la course vers l'immortalité qui implique de renoncer à notre forme biologique, aura-t-elle comme conséquence de renoncer à la reproduction?
7. L'intelligence non universellement réparties chez les humains créant la plus grande inégalité, une injustice et une discrimination, n'est-ce pas justement un avantage de l'Homme sur ma machine d'avoir une diversité d'intelligences géniales mais aussi des candides et des farfelus imaginatifs?
8. Faudra-t-il chercher des algorithmes sur les algorithmes pour les contredire? 

Tout ces questions se retrouvent dans le fond du livre de Dos Santos avec les craintes et les espoirs que peuvent donner l'intelligence artificielle...

...

L'algèbre de Boole adaptée à la relation entre l'homme et la machine.

La relation "ET" (conjonctive, a ET b est VRAI si et seulement si a est VRAI et b est VRAI), l'IA pourrait apporter un avenir radieux.

La relation OU (disjonctive, a OU b est VRAI si et seulement si a est VRAI ou b est VRAI), pourrait mener à l'extermination de l'humanité.

La relation NON (négative, a est VRAIE si et seulement si a est FAUX) ce serait la plus grande tromperie du siècle. L'homme n'aurait rien compris de l'intérêt et des risques de l'IA.

L'Amérique invente, la Chine copie et l'Europe régule... 

Le 20 juillet 1822 naissait Gregor Mendel.

Sa vie en bandes dessinées (clic) 

 Le Régime chinois en première dictature totalitaire utilise déjà l'IA et pousse la population chinoise à adhérer à cette direction politiques "correcte" en renforçant par la propagande, le travail idéologique de l'unification des esprits en sanctionnant toutes digressions de la ligne de parti considérée comme la voie d'une société harmonieuse jusqu'à la prédiction de la criminalité.

L'agression de l'Ukraine par la Russie, le livre n'en parle pas puisqu'il est postérieur à sa sa publication.

Une opposition plus marquée pourrait exister entre la Chine et l'Occident. 

L'idée occidentale de ce transhumanisme est d'en faire un instrument de libération et de démocratisation.

L'idée de la Chine est d'en faire une suite au livre de Orwell comme outil de maintenance d'une population dans un Etat contrôlé.  

Le Crime Dpt de Minority Report est prévu en 2054.

C'est loin et proche à la fois quand on surveille les citoyens.

"Au royaume des aveugles, le borgne peut être roi" est-il dit dans le film.

Il suffit de quelques fichiers, d'une bonne logique et de bien interpréter les apparences pour comprendre des réalités cachées. 

Quelques technologies du film de la reconnaissance faciale existent déjà.

Cherchez pas trop Docteur, tout est toujours dans la tête.

Si vous ne voulez pas être trop secoué avec le futur, Nicolas a d'autres lectures à vous proposer.

Allusion

PS: Préversion sur Agoravox

Mais on en reparle la semaine prochaine...

...

15/7/2022: Concept de Tomorrowland: la techno