Intelligence Artificielle : à quel taux de probabilité d’une extinction possible de l’humanité Frankenstein va-t-il s’arrêter ?

Le chercheur britannique en intelligence artificielle Jacob Coxon âgé de 27 ans, tout juste démissionnaire d’Anthropic qu’il jugeait plus prudent après avoir pendant trois ans collaboré chez son concurrent direct Open AI, vient de démissionner de façon spectaculaire à la veille de l’entrée en bourse de son employeur. Travaillant sur le pré-entrainement, étape durant laquelle les IA absorbent d’immenses quantités de données, il accuse les deux grands laboratoires américains de jouer avec nos vies.

« Les gens qui construisent l’IA croient sincèrement qu’elle pourrait tous nous tuer d’ici à la fin de la décennie. Ce n’est pas un coup marketing », écrit-il sur X. « Aucune des deux entreprises n’agit de manière responsable. Elles foncent tout droit vers une superintelligence capable de s’améliorer elle-même et jouent avec nos vies ».

Un responsable de la sûreté d’Anthropic, Evan Hubinger, lui a donné raison : « Nous croyons vraiment, sincèrement, que l’IA pourrait tuer tous les humains », a-t-il affirmé, évaluant le risque à « plus de 10 % » dans la décennie. Hubinger ajoute qu’Anthropic faisait « de son mieux » mais n’avait « pas encore de plan » pour s’assurer qu’une IA surpassant des capacités humaines obéisse encore à ses concepteurs, tout en jugeant « faible » le risque posé par les modèles actuels.

En février, Anthropic a retiré de sa charte de sûreté l’engagement de suspendre le développement de ses modèles si elle ne parvenait pas à en maîtriser les risques, sous prétexte qu’une pause unilatérale laisserait les acteurs les moins prudents dominer la compétition, sans contre-pouvoirs.

On le voit, l’esprit de compétition comme la perspective de levées de fonds suite à l’entrée en bourse lèvent tout principe de précaution. On s’aligne pour limiter le pouvoir de sa créature sur ce que le savant fou d’à côté pourrait lui-même tenter avec pour variable d’ajustement la possibilité d’une extinction pure et simple de l’humanité. Laquelle est pensée en termes de probabilité : en l’occurrence 10% à horizon 10 ans.

On en déduit que pour les stratèges court termistes d’Anthropic cette probabilité est jugée comme état acceptable étant donné que la manière dont ils raisonnent est : cela vaut le coup de continuer et de prendre ce risque puisque nous avons neuf chances sur dix d’y échapper.

Une société privée (deux en l’occurrence) s’arroge donc le droit de jouer à la roulette russe avec le sort de l’humanité, le regard rivé sur une entrée en bourse. On peut se demander, à supposer que l’on laisse en vase clos ces Docteur Frankenstein, ce qui pourrait les motiver à réintroduire dans la charte de sûreté l’engagement de suspendre le développement de ses modèles si elle ne parvient pas à en maîtriser les risques. Serait-ce au taux de probabilité de 20% ? 30% ? A quelle échelle de risques encourus cette bande de fous furieux laissés libres estiment-ils que leur jeu n’en vaut plus la chandelle et qu’il convient (étant donné que leur critère est celui-là) de laisser leur concurrent Open AI les dépasser ?

Parce que c’est bien de cela, au-delà de la dimension financière, laquelle m’apparait secondaire dans cette équation folle, qu’il s’agit : de concurrence. De compétition. Cette fameuse compétition censée être d’après nos dirigeants et leurs entrepreneurs de pacotille à la Musk et consorts un moteur.

Parlons donc de cela, de ce qui fut la cause de la démission du jeune chercheur britannique, lequel fait la tournée des médias avec ses révélations, lesquels médias réagissent comme vous et moi, en étant médusés : l’esprit de compétition qui détruit tout. Celui qui est à la racine de la création de l’IA, des drônes, des armes nucléaires, des virus informatiques, des projets hyper-toxiques développés par Musk dans Starlink. De toutes ces choses qu’ILS créent, dont nous n’avons nullement besoin, et qui nous détruisent alors même que notre planète brûle.

Se prenant pour des dieux, ces nains de jardin libertariens de l’ultra capitalisme, qu’ils soient chinois, américains ou saoudiens, sont tels des Cronos qui s’étant unilatéralement arrogés la privatisation de la planète, de ses ressources et de ses êtres, jouent au jeu des probabilités en comparant la taille de leur sexe avec celui du voisin.

« Si je le dépasse de 5 centimètres alors j’arrête le jeu, mais tant que je n’y serai pas parvenu je continue  ». C’est la roulette russe de Voyage au bout de l’enfer où on rajoute une balle dans le barillet à chaque match.

Disons-le : l’absurdité n’est pas que ces vieux enfants émasculés jouent à cela mais bien qu’on les laisse continuer en connaissance de cause. « On », ce sont ces guignols qui osent se qualifier de dirigeants et qui ne contrôlent ni ne dirigent personne si ce n’est leur carrière. Nous flirtons dans cette course poursuite vers la surpuissance avec le mythe de Prométhée.