Il est « normal » qu’une IA développée par le système capitaliste, voire le haut du pavé des milliardaires états-uniens, adopte des comportements que ces mêmes capitalistes lui ont appris.

Il s’agit pour ces entreprises et ces milliardaires de s’accaparer la connaissance humaine pour générer des profits.

Il n’y a derrière que la compilation forcenée de tout ce que les humains ont produits.

Cela dépasse la possibilité humaine de connaissance d’un individu, serait-il éminemment érudit.

Mais l’homme érudit, ou au moins celui qui connait, a effectué un apprentissage critique, est impliqué en tant qu’être humain sensible dans la connaissance qu’il a acquise, il a fait des choix qu’il assume.

Pas la machine. Plus important : chacun de nous a des connaissance parcellaires mais il les partage avec autrui qui peut confirmer ou infirmer ses choix dans la discussion. Il peut se tromper et se rendre compte de son erreur. Surtout, chacun de nous a un instinct de conservation ( le conatus de Spinoza). Pas la machine.

Nous savons tous que Hitler est dangereux, car ce sont nos vies, ou celles de nos proches, qui sont en jeu, et l’extermination d’un peuple est une chose que nous rejetons fondamentalement car ce peuple, c’est peut-être nous-mêmes.

La machine n’a pas les mêmes réflexes. Aucun instinct de conservation, aucune empathie, aucun sentiment, y compris de culpabilité.

C’est là le danger de s’adresser à l’IA dans un but d’optimisation géopolitique. L’apocalypse nucléaire ne représente rien pour lui et il peut faire une balance avantages bénéfices sans se soucier de l’avenir. Pas d’amis, pas d’enfant, pas de corps, pas de cerveau. Ce n’est qu’un algorithme créé par l’homme, dont il ne se soucie pas.