L’IA est stupide et dangereuse
Nous allons tenter de montrer ici que ce qui fait le danger de l’Intelligence artificielle, ce n’est pas son intelligence forte à venir mais au contraire sa stupidité irrémédiable. L’IA même forte est loin de pouvoir prétendre égaler l’esprit humain et même animal. Pour deux raisons au moins. Elle n’a pas l’instinct de survie, elle n’a la notion du juste. Or, même l’être le plus primitif possède ces deux fonctions. Et ces deux fonctions manquantes chez l’IA font que l’IA n’est pas accessible à la sensibilité, à l’émotion, à l’intuition. Ces trois choses ne peuvent qu’être simulées par une machine, pas vécues. Il en résulte que la plus grande partie de l’intelligence, sa part essentielle, échappe complètement à l’IA. A l’opposé, l’IA peut nous surclasser dans l’art de penser juste (voir mon article : une méthode pour penser juste) qui requiert du sang-froid, du recul, de la distance avec les choses et les émotions. Si on résume ainsi les faits : l’IA est à la fois stupide et dangereuse.
I – L’IA ne peut pas connaître l’idée du juste
Antonio Damasio, grande figure américaine des neurosciences, auteur notamment de « L’erreur de Descartes » et de « Spinoza avait raison », écrit dans son dernier livre paru, « L’Ordre étrange des choses » que les simples bactéries préhistoriques avaient déjà le sens du juste. En cela, il confirme ce que j’ai évoqué dans mon article (« La gestion des migrants et les faux dilemmes ») dans lequel j’explique que le juste possède un enracinement fondamental dans la nature même et que nous devons nous en inspirer avant d'échafauder des lois morales. Damasio explique que les bactéries qui sentent un « déserteur » le chassent parce que l’égoïsme de celui-ci met en péril la cohésion du groupe de cellules et donc à terme sa survie. Une cellule, tout un groupe d’animaux primitifs, est capable d’exclure un individu qui va contre la notion de juste, le juste étant une nécessité vitale collective.
Ce qui est juste trouve son fondement dans ce qui est bon pour soi ou pour le groupe, ce qui est injuste est ce qui est mauvais à l’échelle collective comme sur un plan personnel. Damasio donne l’exemple couramment observé dans la nature de la rétractation et de la détente : une cellule dont le métabolisme, les échanges sont satisfaisants se détend. Confrontée à un stress, elle se rétracte. (source : L’Obs n°2772). On peut le voir aussi avec les plantes dont les feuilles et les fleurs se détendent pour capter ce qui est bon (la lumière) et se replient pour se protéger. Cette règle naturelle trouve aussi à s’appliquer dans le groupe social qui se détend et fait preuve d’hospitalité envers les inconnus quand il va bien (nourriture en abondance) mais qui se repliera sur lui-même s’il se sent menacé. Une société évoluée doit perpétuer cette règle naturelle mais en dissociant bien les cas. J’ai donné l’exemple des migrants qui provoquent une peur panique excessive au sein de notre nation qui répond par des réflexes inadaptés et surtout injustes. Alors qu’elle pourrait lutter plus efficacement contre l’immigration non légitime et non souhaitable si elle savait raison garder. Mais surtout, ce qu’il faut avoir en tête pour reste dans le sujet, c’est que l’IA est encore moins apte que les êtres humains à apprécier les situations et à leur appliquer des réponses justes. L’IA n’étant pas d’origine naturelle, le juste est une notion qui lui échappe à jamais. Face à la question aussi complexe que l'immigration, ses réponses seraient épouvantables car elle inapte, fondamentalement, à approcher ce genre de complexité humaine et sociale.
II – L’IA n’est créative
Revenons à la thèse de Damasio. Cet auteur dit aussi que l’être vivant, tout comme le corps social, ne se transforme que lorsque sa survie l’exige. Ce sont les situations de souffrance qui nous poussent à rechercher des solutions. L’évolution naturelle n’ignore pas non plus ce principe. Mais l’IA n’est pas issue de la sélection naturelle et elle n’est pas équipée de l’instinct de survie. Son potentiel créatif est ainsi très faible, du fait même de la nature de sa conception. Elle n'a pas connu non plus les stades liés à l'avancée en âge, stades qui nous modifient considérablement et nous font avancer. L'IA est d'ailleurs incapble de comprendre l'idée de l'âge d'une personne !
Avec l’instinct de survie, il y a les émotions. Et ces émotions prennent toujours part à nos choix décisifs, que ce soit les émotions négatives (peur, dégoût, honte, tristesse, colère) que les émotions positives (joie, bien-être, empathie…). Et l'émotion de grandir telle que nous venons de l'évoquer ci-dessus. Quoi que l’on fasse, l’IA ne pourra jamais ressentir ces états, indissociables de la puissance de vie et de l’instinct de survie qu'elle n'a pas.
III – La condition humaine est étrangère à l’IA
Ceci est le troisième argument.
Si l’on pouvait dresser un profil d’une vie humaine standard, on listerait un certains nombres de choses que l’IA ne peut pas acquérir :
- nos buts dans la vie (bonheur, vérité, justice, liberté),
- nos moteurs (confiance, désir, volonté),
- nos méthodes (intuition, sensibilité, imagination, motivation, sens de l'effort et du dépassement),
- nos moyens (le savoir et l'ignorance délibérée de certaines choses, la mémoire et un certain oubli nécessaire, la vérité et l'art du mensonge et de la fiction incluant l'humour).
Dans cette liste, cherchez donc l'IA !
La conscience de la mort inévitable influe considérablement sur le comportement humain au point que ce dernier régle sa vie sur cette angoisse récurrente. Il deviendra croyant ou décidera de vivre vite (ou au contraire de se préserver au maximum pour durer longtemps). Il développera des valeurs et des croyances en réactions de l’idée de sa fin. Il développera des vertus pour gagner son salut, etc. L’IA en est incapable.
Autre exemple. Face à la souffrance, à son sentiment d’impuissance dans un monde infini et au sein duquel l’individu se sent fort peu de chose, l’être humain développe un égo, une volonté de puissance, ainsi que des mythes rassurants pour se donner de l’importance. Il développera va domestiquer sa propre nature, chercher à se dépasser. Il sera capable de sacrifice personnel ou d’héroïsme, deux idées inconcevables pour une machine qui n’a pas cette force issue de la nature. C’est ainsi que l’individu acquiert de la valeur à ses propres yeux, démarche nécessaire pour sa survie mentale et pour la construction de son identité. Chez l’IA au contraire, pas d’égo ni de volonté de puissance, ni d’identité forgée à la force des épreuves et dans la confrontation aux autres et aux aléas de la vie.
Quant au libre arbitre aussi, l’homme, la femme, peuvent choisir de diriger leur attention comme ils le décident : pour écouter un interlocuteur malgré le brouhaha ambiant, pour écouter une musique, pour regarder une chose qui l’intéresse , pour reconstituer un souvenir et le revivre (voir Proust). L’être humain choisit ses centres d’intérêt et définit en conséquence le champ de son attention et donc aussi le champ de sa conscience. L’IA est attentive seulement à ce que pour quoi on l’a progammée.
Enfin, il y tout l’aspect relationnel qui fait l’intelligence humaine. Un humain qui vivrait solitaire depuis toujours n’aurait ni identité ni le sens du juste, parce qu’il ne serait jamais entré en interaction avec des congénères. Il serait comme une machine dite "intelligente" : sans identité propre (créée de façon empirique et « naturelle ») et sans justice, sans empathie non plus (elle sera seulement programmée, simulée !). On sait que les interactions jouent un rôle important dans la formation des intelligences humaines prises isolément ou collectivement. C’est ainsi que les humains aiment communier ou se déchirer en mettant en scène des enjeux qui amplifient leurs émotions. Les humains ont besoin d’émotion et, pour ce faire, ils créent beaucoup d’histoire, se font la guerre, etc. L’IA n’a pas en elle un instinct qui la pousse à rechercher les émotions fortes.
Et, puisqu’il faut aussi le dire, elle n’a pas de désir sexuel et ne connaît pas le plaisir physique. Pourtant, l’amour enrichit notre conscience et notre intelligence générale. L’IA est aussi stupide sur ce point-là. Avouez que cela fait déjà beaucoup de points sur lesquels l’IA n’égale ni l’homme ni l’animal. Ni même parfois le végétal. L’interaction c’est enfin l’amitié, l’amour. Depuis toujours elles mènent le monde. Qu’adviendra-t-il si à l’avenir elles ne font plus partie des facteurs et des paramètres qui dessinent les grands choix de nos sociétés, de nos lois, de nos existences ?
Tous ces manques, irrémédiables, font de l’intelligence artificielle dite forte une source de danger très inquiétante pour nous dans le futur. L'intelligence artificielle est stupide et à trop vivre à son contact, l'homme risque de le devenir aussi. Il risque de perdre des points de QI (on dit que cela a déjà commencé) et pas seulement cette forme d'intelligence mesurable, mais sa sensibilité et son imagination aussi. Quand un être dépend avant tout de lui-même pour survivre et faire ses choix difficiles, sa souffrance et ses efforts participent au développement de son intelligence grâce aux réponses ingénieuses qu'il doit élaborer dans son autonomie totale pour faire face à tout cela. Mais s'ils se reposent sur des algorithmes pour prendre des décisions et sur les choix qu'on lui propose grâce aux traces laissées dans son ordinateur, il perd en capacité de jugement et en étendue d'entendement.
La machine n’aura jamais cette relation avec l’univers et le cosmos, cette communion avec la nature et avec notre corps. Elle n’a pas le sens de la danse, ni de la transe, ni la joie créatrice. Elle ne sentira jamais la palpitation de la vie, la sève de toutes choses, ni les sensations propre à l'intimité (trouble amoureux, pudeur, honte...). Il est une question, grande source de la philosophie et des sciences, qu'avec l'IA, l'homme pourrait ne plus se poser, une question qui pourtant l'a de tous temps accommpagné et a suscité la curiosité de son esprit : la question "pourquoi ?"