L’humanité travaille depuis déjà fort longemps à simuler au moyen de machines les comportements du vivant. Pensons à Vaucanson au XVIIIe siècle, mais aussi à Héron d’Alexandrie dès le 1er siècle de notre ère. Depuis la deuxième moitié du siècle dernier, on est parvenu à reproduire aussi les mécanismes de la pensée abrstraite : il y a déjà longtemps que les ordinateurs battent aux échecs les meilleurs joueurs, peuvent démontrer des théorèmes et résoudre les problèmes techniques les plus complexes. Sans ces machines, il ne serait évidemment pas possible de mettre au point, par exemple, un processeur plus complexe que les précédents. Le plus difficile à simuler, paradoxalement, ce ne sont pas les fonctions intellectuelle rationnelles, mais tout ce qui concerne la perception sensorielle. Ca a quand même beaucoup progressé.
Ce qu’on a appelé intelligence artificielle dans les années 80, c’est-à-dire les moteurs d’inférence des systèmes experts, n’avait qu’un très lointain rapport avec l’intelligence. Certains doutaient encore qu’on pût jamais parvenir à une parité entre l’intelligence des machines et celle d’un cerveau humain. Il est vrai que la capacité de calcul des processeurs de l’époque et celle des mémoires, étaient rudimentaires en comparaison de la capacité d’un cerveau biologique à traiter l’information.
On n’en est plus là. De deux choses l’une : ou bien on n’arrivera jamais à construire des machines capables comme nous d’avoir une conscience et de prendre librement des décisions, et ce sera un échec tout à fait désastreux pour l’orgueil humain, ou bien on y parviendra. De bons esprits considèrent que c’est l’affaire de quelques dizaines d’années seulement.
Ce qu’on appelle conscience, cela n’a rien de métaphysique, ça émerge de la complexité comme émergent, dans une colonie de robots rudimentaires mais capables d’enregistrer et de comparer leurs performances successives, des comportements collectifs qui n’ont jamais été prévus ni définis par les programmeurs.
Une machine intelligente devrait pouvoir comprendre le langage naturel. Sa mémoire existe, elle est planétaire et déjà gigantesque, c’est l’Internet. Munie de cette masse de données gigantesque et qui s’accroît depuis déjà pas mal de temps d’une manière exponentielle, et d’une capacité de traitement de l’information beaucoup plus rapide que la nôtre, elle nous sera vite très supérieure.
Le cerveau humain, en quatre millions d’années, a quelque peu évolué, mais à une échelle de temps plus réduite, l’amélioration est imperceptible : si tous nos contemporains avaient déjà dépassé les capacités intellectuelles d’un homme du IVe siècle, de Platon par exemple, on l’aurait remarqué !
L’intelligence biologique évolue donc très lentement. Celle d’une machine intelligente qui consacrerait une partie de son temps de calcul à se complexifier elle-même serait infiniment plus rapide, quand bien même sa vitesse de complexification ne dépasserait pas le centième de celle que prévoit, pour les processeurs, la loi de Moore (doublement tous les 18 mois du nombre de transistors). Autrement dit, la parité entre l’intelligence humaine et celle d’une machine d’intelligence égale ne dure qu’un instant. C’est ça la singularité. Quand cette étape est franchie, on n’est plus du tout dans le même monde, on est dans un monde qu’on ne pourra plus jamais comprendre, on sera dans la même éternelle perplexité qu’un chimpanzé devant un programme d’ordinateur en langage machine ou en assembleur ou les oeuvres de Shakespeare.

Nos contemporains, quand on évoque ces perspectives, voient tout de suite surgir LES très méchants robots de la science-fiction, DES machines malveillantes, mais ce pluriel est parfaitement idiot : ce qui devrait bientôt surgir, c’est UNE machine planétaire, et des millions de machines interconnectées qui en seront les prolongements et pour ainsi dire les organes perceptifs ou effecteurs.
Et l’homme, dans tout ça ? Eh bien, il deviendra peu à peu l’animal de compagnie de LA machine. J’ai infiniment plus de force qu’il n’en faut pour étrangler mes deux perruches, ça ne prendrait certes pas longtemps, mais je ne le ferai jamais, dussent-elles éternellement me casser les pieds et les oreilles comme en ce moment. Un chat le ferait sans doute, mais je suis quand même un peu plus intelligent qu’un chat. Cela me fait penser qu’il ne faudrait surtout pas que j’oublie d’aller demain dimanche dans la Cité leur acheter des graines au marché aux oiseaux.