Intelligence Artificielle : à quel taux de probabilité d’une extinction possible de l’humanité Frankenstein va-t-il s’arrêter ?
Le chercheur britannique en intelligence artificielle Jacob Coxon âgé de 27 ans, tout juste démissionnaire d’Anthropic qu’il jugeait plus prudent après avoir pendant trois ans collaboré chez son concurrent direct Open AI, vient de démissionner de façon spectaculaire à la veille de l’entrée en bourse de son employeur. Travaillant sur le pré-entrainement, étape durant laquelle les IA absorbent d’immenses quantités de données, il accuse les deux grands laboratoires américains de jouer avec nos vies.
« Les gens qui construisent l’IA croient sincèrement qu’elle pourrait tous nous tuer d’ici à la fin de la décennie. Ce n’est pas un coup marketing », écrit-il sur X. « Aucune des deux entreprises n’agit de manière responsable. Elles foncent tout droit vers une superintelligence capable de s’améliorer elle-même et jouent avec nos vies ».
Un responsable de la sûreté d’Anthropic, Evan Hubinger, lui a donné raison : « Nous croyons vraiment, sincèrement, que l’IA pourrait tuer tous les humains », a-t-il affirmé, évaluant le risque à « plus de 10 % » dans la décennie. Hubinger ajoute qu’Anthropic faisait « de son mieux » mais n’avait « pas encore de plan » pour s’assurer qu’une IA surpassant des capacités humaines obéisse encore à ses concepteurs, tout en jugeant « faible » le risque posé par les modèles actuels.
En février, Anthropic a retiré de sa charte de sûreté l’engagement de suspendre le développement de ses modèles si elle ne parvenait pas à en maîtriser les risques, sous prétexte qu’une pause unilatérale laisserait les acteurs les moins prudents dominer la compétition, sans contre-pouvoirs.
On le voit, l’esprit de compétition comme la perspective de levées de fonds suite à l’entrée en bourse lèvent tout principe de précaution. On s’aligne pour limiter le pouvoir de sa créature sur ce que le savant fou d’à côté pourrait lui-même tenter avec pour variable d’ajustement la possibilité d’une extinction pure et simple de l’humanité. Laquelle est pensée en termes de probabilité : en l’occurrence 10% à horizon 10 ans.
On en déduit que pour les stratèges court termistes d’Anthropic cette probabilité est jugée comme état acceptable étant donné que la manière dont ils raisonnent est : cela vaut le coup de continuer et de prendre ce risque puisque nous avons neuf chances sur dix d’y échapper.
Une société privée (deux en l’occurrence) s’arroge donc le droit de jouer à la roulette russe avec le sort de l’humanité, le regard rivé sur une entrée en bourse. On peut se demander, à supposer que l’on laisse en vase clos ces Docteur Frankenstein, ce qui pourrait les motiver à réintroduire dans la charte de sûreté l’engagement de suspendre le développement de ses modèles si elle ne parvient pas à en maîtriser les risques. Serait-ce au taux de probabilité de 20% ? 30% ? A quelle échelle de risques encourus cette bande de fous furieux laissés libres estiment-ils que leur jeu n’en vaut plus la chandelle et qu’il convient (étant donné que leur critère est celui-là) de laisser leur concurrent Open AI les dépasser ?
Parce que c’est bien de cela, au-delà de la dimension financière, laquelle m’apparait secondaire dans cette équation folle, qu’il s’agit : de concurrence. De compétition. Cette fameuse compétition censée être d’après nos dirigeants et leurs entrepreneurs de pacotille à la Musk et consorts un moteur.
Parlons donc de cela, de ce qui fut la cause de la démission du jeune chercheur britannique, lequel fait la tournée des médias avec ses révélations, lesquels médias réagissent comme vous et moi, en étant médusés : l’esprit de compétition qui détruit tout. Celui qui est à la racine de la création de l’IA, des drônes, des armes nucléaires, des virus informatiques, des projets hyper-toxiques développés par Musk dans Starlink. De toutes ces choses qu’ILS créent, dont nous n’avons nullement besoin, et qui nous détruisent alors même que notre planète brûle.
Se prenant pour des dieux, ces nains de jardin libertariens de l’ultra capitalisme, qu’ils soient chinois, américains ou saoudiens, sont tels des Cronos qui s’étant unilatéralement arrogés la privatisation de la planète, de ses ressources et de ses êtres, jouent au jeu des probabilités en comparant la taille de leur sexe avec celui du voisin.
« Si je le dépasse de 5 centimètres alors j’arrête le jeu, mais tant que je n’y serai pas parvenu je continue ». C’est la roulette russe de Voyage au bout de l’enfer où on rajoute une balle dans le barillet à chaque match.
Disons-le : l’absurdité n’est pas que ces vieux enfants émasculés jouent à cela mais bien qu’on les laisse continuer en connaissance de cause. « On », ce sont ces guignols qui osent se qualifier de dirigeants et qui ne contrôlent ni ne dirigent personne si ce n’est leur carrière. Nous flirtons dans cette course poursuite vers la surpuissance avec le mythe de Prométhée.
121 réactions
-
lecoindubonsens
16 septembre 10:02
@Zolko
puisque l’auteur vous invite à vous documenter, je vous proposehttps://fr.wikipedia.org/wiki/Intelligence_artificielle
les nombreux auteurs de wikipédia ont un avis assez différent de celui de l’auteur
et au moins, eux, ils argumentent de lieu de maintenant se contenter d’insulter les contradicteurs
Que chacun se fasse son opinion.
-
lecoindubonsens
16 septembre 10:09
@pemile
il y a bien d’autres dangers liés à la communication :- la pub qui nous abrutit et nous coûte cher (doublement maso)
- les influenceurs de tous poils (quelle prétention de se dire influenceur)
- la propagande, la bien pensance et les fausses évidences, ce qui est présenté comme normal alors qu’un peu de réflexion et d’esprit critique remet cela totalement en question
- etc.
Effectivement « Comment nos sociétés dont l’organisation est entièrement numérisée pourrait résister à une perte de toute l’infrastructure numérique ? »
car l’informatique est partout. Mais c’est une question sur l’informatique, pas spécifiquement sur l’IA.
-
pemile
16 septembre 10:23
@lecoindubonsens « Mais c’est une question sur l’informatique, pas spécifiquement sur l’IA »
Hors robots pouvant agir dans le monde physique (armés ou pas), les IA foutent déjà la merde dans les réseaux informatiques et leurs nouvelles capacités d’auto-réplications ont pour but de les transformer en nouvelle génération de virus ? -
jjwaDal
16 septembre 13:15
@Eric F
Oui, le classique « Garbage in garbage out » qui plaidera en faveur de la gestion par l’I.A des moyens d’observations. Ce qui doit préoccuper est l’évolution des matériels militaires qui va rendre l’I.A quasiment incontournable pour les gérer. Or quand elle aura l’essentiel des cartes en main au niveau de l’observation du champ de bataille et la gestion des matériels impliqués, comment pourra t’on être sûrs que ces moyens vont être mis en œuvre pour servir des objectifs décidés uniquement par des humains et pas de manière autonome, voire avec des intentions non conformes aux volontés des utilisateurs ? Déjà l’accès à l’internet va donner à ces I.A la dimension d’un cerveau planétaire pour le recueil de données. Je suis de l’avis que nous sommes en train de jouer avec le feu. Pour info sinon rappel, il y a déjà eu des cas antérieurs à l’arrivée de l’informatique et l’I.A où des systèmes de lancements de missiles nucléaires ont été inactivés ici et mis en conditions de lancement là, sans aucune intervention humaine. La question n’est pas de savoir qui l’a fait, on a eu la preuve concrète que cela pouvait se faire. Or, au lieu de favoriser les systèmes manuels de déclenchement on a glissé de plus en plus vers des systèmes électroniques et informatiques pour gérer cette situation. Et une I.A évoluée serait incapable de rééditer ces performances passées ? On ne peut se contenter d’une faible probabilité que cela arrive. -
lecoindubonsens
16 septembre 15:49
@pemile
« foutent déjà la merde dans les réseaux informatiques »L’IA n’a rien inventé sur ce point
Statistiques vers l’an 2000 dans une grande banque française = environ 98% des emails adressés aux agents de la banque sont des spams, et filtrés sans jamais être remis au destinataire indiqué.Et cela ne perturbait rien mais coutait un fric fou en réseaux (98% gaspillé !) et en filtrage.Comme déjà dit et répété, les outils sont souvent géniaux, mais l’utilisation qui en est faite par les humains est également souvent nuisible. Il faut agir sur ces humains et ces utilisations nocives, sans critiquer l’outil.
-
pemile
16 septembre 16:41
@lecoindubonsens « L’IA n’a rien inventé sur ce point »
Si, des petits serveurs anonymes qui subissent des milliers de connexions c’est nouveau (aucune commune mesure avec les crawlers des moteurs de recherche)
« Il faut agir sur ces humains et ces utilisations nocives, sans critiquer l’outil. »
Les deux, quand l’outil est critiquable ! -
Zolko
17 septembre 08:17
@jjwaDal : que l’IA pourrait nous embêter, j’en suis convaincu. Qu’elle pourrait inciter des hommes à tuer d’autres hommes, aussi. Mais dire qu’elle pourrait décimer l’Humanité entière, c’est stupide.
C’est le même discours que pour le covid ou la guerre en Ukraine : ON VA TOUS MOURIR !!! -
Zolko
17 septembre 08:24
@pemile :
Comment nos sociétés dont l’organisation est entièrement numérisée pourrait résister à une perte de toute l’infrastructure numérique ?
d’où sortez-vous ce délire ? Internet n’existait pas il y a 30 ans (ou à peine), pensez-vous réellement qu’on ne serait pas capables de fonctionner sans ordinateurs ? Certes, nous n’aurions plus de videos de chatons ou de deltaplane à nous mettre sous la dent, et on serait obligé de réellement voler en deltaplane au lieu d’en parler, mais est-ce que ça serait une perte ? -
pemile
17 septembre 08:57
@Zolko « d’où sortez-vous ce délire ? »
Il serait délirant de poser une question à laquelle tu ne réponds pas ?
Donne moi quelques exemples de services vitaux pour nos sociétés qui n’utilisent pas d’outils numériques ?
-
Zolko
17 septembre 09:35
@pemile : le marché de ma petite ville. Le camion des éboueurs qui ramassent les poubelles. Les écoles maternelles et primaires.
-
pemile
17 septembre 11:25
@Zolko
Reste donc pas grand chose, et ces services ont quand même besoin d’un réseau électrique fonctionnel, d’un réseau de transports fonctionnel, d’un réseau de banques fonctionnel, de services administratifs fonctionnels, etc, etc !
-
eresse
16 septembre 10:33
Bonjour,
Je vous conseille de lire un excellent article de ZeroHedge ( https://www.zerohedge.com/ai/ai-leaders-cunning-plan-exposed ) qui vous donnera une autre analyse ( un peu plus fine ). Le résultat reste le même, le contrôle étendu de la population par les gouvernements sous un faux prétexte ( vous vous souvenez du Covid ? )
-
pemile
16 septembre 10:47
@eresse « Je vous conseille de lire un excellent article de ZeroHedge »
Illisible et trop bordélique, non ?
Que pense Trump de ce discours sur un site d’extrême droite ami avec la Russie ?
-
eresse
16 septembre 11:30
@pemile
Concentrez vous et commencez a lire plutôt que de réagir épidermiquement.
Faites travailler votre cerveau. -
jjwaDal
16 septembre 13:32
@pemile
Savez vous seulement de quoi vous parlez ? Le site a correctement jugé le « Russiagate » quand tout le monde accusait Trump de "coucher avec Poutine’, correctement interprété l’affaire du portable du fils de Joe Biden quand les services de renseignement US colportait le ragot que c’était un article de propagande russe (repris en cœur par les médias de masse), correctement soupçonné que le virus était une création de laboratoire quand tout le monde privilégiait la piste de l’émergence naturelle et trainait le professeur luc Montagnier dans la boue qui détaillait les anomalies du virus pointant vers une expérience de laboratoire.
Qu’il se trompe de temps en temps, soit, mais vous repasserez pour ses relations amicales envers la Russie. Tout individu, tout média prenant en défaut le narratif des USA et de l’Occident en général est l’ami de la Russie voire des Ayatollahs iraniens de préférence.
Zerohedge, que je consulte quotidiennement depuis des années est parfois à prendre avec des pincettes, mais leur sympathie pour la Russie n’existe que dans votre imagination. -
Christophe Cros Houplon
16 septembre 14:21
@jjwaDal
Montagné qui étudie sur des données informatiques démenties par leur auteur indien un virus que n’importe quel scientifique sérieux étudie en laboratoire
Encore un expert du web wish.
Faites des études, merde ! -
pemile
16 septembre 15:27
@jjwaDal « Savez vous seulement de quoi vous parlez ? »
A propos de ton historique des âneries publiées par zeohedge et du fait qu’on pourrait penser à une filiale de RT ou Sputnik ?Sinon, le fait que Trump refuse tout contrôle des IA et que cet article de zerohedge nous annonce la fin du monde, il va finir en dissonance cognitive ?
-
jjwaDal
16 septembre 17:39
@Christophe Cros Houplon
D’où vient ce besoin de traiter implicitement de connard toute personne ignorant ce que vous savez ? Des soucis dans la petite enfance ? Je pensais en citant Montagnier au fait qu’avec les moyens du bord dont il disposait à l’époque il a indiqué voir une séquence probablement artificielle dans le Covid-19, hypothèse qui s’est avérée exacte s’il y est parvenu par des moyens invalides. Vous avez le droit de critiquer un homme très âgé à l’époque parvenu à la bonne solution en se trompant mais pas de quoi prendre la mouche.
Puisque nous en sommes là, vous imputez trop de responsabilités aux acteurs privés alors qu’on ne peut passer sous silence toute la démarche scientifique derrière pour faire de l’I.A ce qu’elle est devenue et la pression des gouvernements pour la faire évoluer car ils y voient une aide précieuse sur le champ de bataille et dans la surveillance du citoyen. Au début d’année il y a eu un gros clash entre Anthropic et le ministère de la Guerre des USA sur l’utilisation qu’il pensait faire d’un de leur modèle d’I.A sur le champ de bataille. Le politique et les militaires sont demandeurs de l’I.A autant que l’appétit immodéré pour le profit de très grandes entreprises (par la capitalisation boursière).
Au demeurant jamais ces entreprises n’auraient pu lever des fonds colossaux avec de maigres résultats tangibles pour les justifier sans la volonté publique de relancer l’économie US en se servant de ce secteur, quels que soient les risques. Où sont les interdits de la puissance publique pour prendre le temps de réfléchir avant de faire face à des problèmes sérieux potentiellement planétaires ? Les entreprises sont prêtes (Anthropic et OpenAI déjà) à lever le pied, c’est l’exécutif qui les exhorte à avancer à marche forcée.
Le fait de craindre de se faire dépasser (qui se voit dans tous les secteurs, la défense en premier lieu) , d’avoir peur de ce que vont faire les autres, de vouloir être les premiers sur un marché potentiellement juteux explique bien mieux que tout complotisme ce qu’on observe.
Voyez pour le climat. Si les prévisions du GIEC étaient incontestables pour tous, le risque avéré sans échappatoire possible, nous serions incapables de nous mettre d’accord au niveau planétaire pour agir, alors l’I.A... -
jjwaDal
16 septembre 17:47
@pemile
Il y a du factuel et de l’interprétation. En début d’article nous pouvons lire : «
What follows is all speculation : the facts are real, the conclusion is interpretation. ».
On peut se fâcher avec une interprétation, se fâcher avec les faits est plus riche de conséquences. Trump est manifestement atteint de troubles majeurs liés à l’âge et à son profil psychologique antérieur. On ne l’écoute que parce qu’à son poste il a un pouvoir de nuisance, mais ce qu’il pense n’a aucune valeur -
Christophe Cros Houplon
17 septembre 13:43
@jjwaDal
Montagnier a eu raison ? Il a à partir de données informatiques FAUSSES dit que le SARS-COV 2 contenait des germes de SIDA, et vus osez encore écrire qu’il est arrivé à la bonne solution ?
Ne vous plaignez pas que je me moque de vous tellement les balivernes que vous véhiculez sont énormes. Vous vous exprimeriez devant un parterre de scientifiques indépendants qu’ils vous décerneraient un bonnet d’âne.
Pas de mon fait si vous maquillez vos graves lacunes par un vernis de supériorité de façade.
Je passe sur le restant de vos élucubrations. Vous êtes shooté aux fake news et j’ai mieux à faire que de nettoyer votre disque dur. -
Christophe Cros Houplon
17 septembre 13:46
@jjwaDal
« D’où vient ce besoin de traiter implicitement de connard toute personne ignorant ce que vous savez ? »
Ne prenez pas votre cas pour une généralité. Je ne vous ai pas traité de connard mais si vous l’avez entendu ainsi c’est qu’en vous il y a une raison.
Le message traduit toujours le récepteur, pas l’émetteur (cours de communication niveau 1)
-
