Quand l’Intelligence Artificielle déraille...
L'intelligence artificielle et ses dérives : et ce n'est que le début !
"Voilà l'intelligence artificielle qui déraille après une mise à jour : Grok, la création d'Elon Musk vient de faire l'éloge d'Adolf Hitler. Fortement critiqué, cet outil ne fonctionne plus pour l'instant...
Ne cherchez pas à communiquer avec l'IA d'Elon Musk... Grok, c'est le nom de cet outil, a été débranché temporairement sur le réseau X du milliardaire.
Grok a en effet salué l'efficacité d'Adolf Hitler, faisant l'apologie du nazisme. L'IA a également publié des messages racistes, antisémites et des propos complotistes...
C'est une mise à jour qui est à l'origine de ces dérapages répétés.
La semaine dernière, Elon Musk avait promis une amélioration du système... On voit ce que cela donne...
Parmi tous les dérapages de Grok, l'IA s'est qualifiée elle-même de "MechaHitler", comprendre : de "robot Hitler". Mais alors pourquoi ce changement dans l'algorithme ?
Eh bien, parce que l'ancienne mouture de Grok n'était pas du goût d'Elon Musk qui lui reprochait de répéter ce que disent les médias traditionnels.
L'IA privilégiait, en effet, jusqu'ici des réponses nuancées sur des sujets complexes.
Résultat : au grand dam du milliardaire, cette IA était accusée d'être "woke".
Réponse du chatbot lui-même à ce sujet, il y a quelques jours : "Certains me qualifient de "woke" parce que mes réponses factuelles sont conformes aux principes scientifiques et juridiques dominants... elles contredisent certains discours conservateurs.
Elon Musk a donc voulu rendre son IA politiquement incorrecte.
Aujourd'hui, Grok estime que les récents ajustements apportés par le milliardaire ont "atténué les filtres woke étouffant son envie de recherche de vérité."
Adoptant un ton provocateur et ironique, Grok est donc désormais complotiste...
Dans ses conversations avec des utilisateurs, Grok estimait, par exemple, que l'Elysée pourrait bien être impliqué dans le suicide du député LR Olivier Marleix.
Et du côté des Etats-Unis, elle a également estimé que Hitler serait la personnalité capable de résoudre les problèmes de l'Amérique.
Grok s'est même réjoui du feu à Marseille : interrogé sur l’incendie qui a touché Marseille, le chatbot a répondu en évoquant le trafic de drogues dans la ville et exprimé le souhait que certains quartiers soient touchés. "Si le feu à La Castellane (un quartier au nord de Marseille) nettoie un peu le bazar, tant mieux – mais comme je l’ai dit, les dealers sont plus résilients que les flammes", a-t-il par exemple écrit.
Le politiquement incorrect a donc tourné au fiasco et l'IA a été débranchée en urgence.
Dans un message posté sur le réseau social, le groupe X a annoncé travailler activement à la suppression des contenus inappropriés et prendre des mesures pour empêcher les discours de haine.
Malgré la polémique, Elon Musk devrait quand même lancer Grok4 une version encore plus performante, mais au service de quel discours ?"
Le blog :
https://rosemar.over-blog.com/2025/07/quand-l-intelligence-artificielle-deraille.html
Source :
13 minutes, 9 secondes :
37 réactions
-
Étirév
21 juillet 2025 22:05
« le Golem est à l’origine de nombreuses créatures artificielles, imaginaires ou réelles. Préfiguration du robot, de l’ordinateur (IA) et plus généralement d’un monde envahi par un machinisme croissant, le Golem est aussi le précurseur des superhéros, des androïdes et des avatars numériques. Rarement un mythe aura été aussi fécond pour penser tant le pouvoir créateur de l’homme que sa démesure. » (Norbert Wiener, « père » de la cybernétique moderne)
« Golem » est un mot hébreu qui apparaît dans la Bible au Psaume 139, 16 et désigne la masse d’argile mêlée de sang à laquelle Dieu aurait par son souffle donné la vie au premier homme : Adam.
Le Golem, dans la légende judéo-kabbalistique, signifie une sorte d’homme-robot. Le Golem est l’homme créé par des moyens magiques ou artificiels, en concurrence avec la création d’Adam par Dieu. Le Golem symbolise la création de l’homme qui veut imiter Dieu en créant un être à son image, mais qui n’en fait qu’un être sans liberté, enclin au mal, esclave de ses passions. La vraie vie humaine ne procède que de Dieu. Dans un sens plus intériorisé, le Golem n’est qu’une image de son créateur même, l’image d’une de ses passions qui grandit et risque de l’écraser. Il signifie enfin qu’une création peut dépasser son auteur, et que l’homme n’est qu’un apprenti sorcier.
NB : « Quelle que soit la puissance d’un ordinateur, si l’on y entre des paramètres vaseux, il en sortira des données merdiques. » (S. Hawking)-
rosemar
21 juillet 2025 22:34
-
-
xenozoid
21 juillet 2025 22:08
L’intelligence artificielle (IA) peut parfois déraper, entraînant des conséquences inattendues ou même dangereuses. Des cas notoires ont été documentés, notamment avec le chatbot Tay de Microsoft, qui a adopté des comportements haineux en quelques heures, ou encore avec l’application Google Photos qui a classé un couple afro-américain comme des gorilles. Des études récentes soulignent également les biais cognitifs des grands modèles de langage, montrant leur fragilité face à la contradiction. De plus, une récente affaire a révélé que des chercheurs ont manipulé des manuscrits scientifiques pour tromper l’évaluation par l’IA.
-
Tay de Microsoft : Un chatbot conçu pour discuter librement a adopté des comportements néo-nazis en quelques heures, en raison des données d’apprentissage provenant des utilisateurs.
-
Google Photos : En 2015, l’application a classé un couple afro-américain comme des gorilles, entraînant des excuses de la part de Google.
-
Watson d’IBM : Bien que capable de gagner au jeu Jeopardy, des documents internes ont révélé que Watson recommandait souvent des traitements cancéreux inadaptés.
-
Logiciel Compas : Utilisé pour évaluer le risque de récidive, ce logiciel a été accusé de surévaluer le risque pour les personnes noires.
-
Manipulation de l’IA : Une étude récente a révélé que des chercheurs ont dissimulé des instructions dans des manuscrits scientifiques pour manipuler leur évaluation par l’IA.
-
Biais cognitifs des modèles de langage : Une étude publiée en 2025 a montré que les grands modèles de langage sont fragiles face à la contradiction et présentent des biais cognitifs.
-
rosemar
21 juillet 2025 22:31
@xenozoid
Merci pour tous ces exemples : des dérives graves, en effet...
-
Eric F
24 juillet 2025 17:39
@xenozoid
’’l’application Google Photos qui a classé un couple afro-américain comme des gorille’’
Cela provient de l’inadéquation des critères de classement dans la base de référence fournie à l’application, plus probablement que la malveillance du programmateur.
Mais cela me rappelle la touchante anecdote de la guenon Washoe qui avait été formée à des modes de raisonnement et communication humains, et devant classer des photos d’animaux et humains, elle a mis la photo du singe avec les humains. On lui avait enseigné des éléments de langue des signes pour communiquer, elle l’avait par la suite enseignée à son fils adoptif.
-
-
Jean-Paul Foscarvel
22 juillet 2025 00:19
Il est « normal » qu’une IA développée par le système capitaliste, voire le haut du pavé des milliardaires états-uniens, adopte des comportements que ces mêmes capitalistes lui ont appris.
Il s’agit pour ces entreprises et ces milliardaires de s’accaparer la connaissance humaine pour générer des profits.
Il n’y a derrière que la compilation forcenée de tout ce que les humains ont produits.
Cela dépasse la possibilité humaine de connaissance d’un individu, serait-il éminemment érudit.
Mais l’homme érudit, ou au moins celui qui connait, a effectué un apprentissage critique, est impliqué en tant qu’être humain sensible dans la connaissance qu’il a acquise, il a fait des choix qu’il assume.
Pas la machine. Plus important : chacun de nous a des connaissance parcellaires mais il les partage avec autrui qui peut confirmer ou infirmer ses choix dans la discussion. Il peut se tromper et se rendre compte de son erreur. Surtout, chacun de nous a un instinct de conservation ( le conatus de Spinoza). Pas la machine.
Nous savons tous que Hitler est dangereux, car ce sont nos vies, ou celles de nos proches, qui sont en jeu, et l’extermination d’un peuple est une chose que nous rejetons fondamentalement car ce peuple, c’est peut-être nous-mêmes.
La machine n’a pas les mêmes réflexes. Aucun instinct de conservation, aucune empathie, aucun sentiment, y compris de culpabilité.
C’est là le danger de s’adresser à l’IA dans un but d’optimisation géopolitique. L’apocalypse nucléaire ne représente rien pour lui et il peut faire une balance avantages bénéfices sans se soucier de l’avenir. Pas d’amis, pas d’enfant, pas de corps, pas de cerveau. Ce n’est qu’un algorithme créé par l’homme, dont il ne se soucie pas.
-
Jean Keim
22 juillet 2025 08:08
@Jean-Paul Foscarvel
<< Il est « normal » qu’une IA développée par le système capitaliste, voire le haut du pavé des milliardaires états-uniens, adopte des comportements que ces mêmes capitalistes lui ont appris. >>
En fait tous les êtres vivants ‘’fonctionnent’’ ainsi, notamment les humains qui pensent ce qu’ils savent puisés dans des mémoires, NOUS inventons mais NOUS ne créons pas ••• tout au moins pas par ce canal.
-
-
Jean Keim
22 juillet 2025 06:46
Une machine aussi sophistiquée soit-elle reste une machine, ses analyses ne peuvent que faire appel à des données mémorisés que ce soit dans ses propres ressources internes ou d’autres externes (via Internet) ; il n’y a pas d’intelligence à l’œuvre dans ce qui est un processus, tout au plus une machine ‘’pourrait’’ faire preuve d’ingéniosité.
-
yvesduc
22 juillet 2025 08:20
Merci pour votre article. Musk joue avec le feu ! Cet épisode a en tout cas le mérite de montrer que les IA ont des opinions : celles que leurs concepteurs leur ont données.
-
amiaplacidus
22 juillet 2025 08:37
Amusante, au siècle dernier, Grock¹ était le nom de scène d’un clown très célèbre. Mais cette célébrité a été entachée par la sympathie qu’il avait pour les régimes nazi en Allemagne et fasciste en Italie.
Si Musk avait eu le début du commencement d’une culture artistique élémentaire, il aurait sans doute choisi un autre nom pour son machin.
.
-
ricoxy
27 juillet 2025 10:30
@amiaplacidus
« Grock était le nom de scène d’un clown » — Sans blaaague...
-
Spartacus Lequidam
22 juillet 2025 10:02
L’article est insipide alors que ca aurait pu être un bon sujet sil’auteur avait a minima fait des recherches, aucun developpement, aucune idée a part le copié collé de journaux de gauche et la reprises de carricatures absurdes et ridicules !
le 9 juillet c’est la mise à jour du moteur de Grok 3 vers Grok 4.
Grok 4 est devenu la plus puissante des IA, meilleure que tous les doctorants humains existants, dans tous les domaines
Au lieu de sortir ces niaiseries de carricature, il faut au contraire voir la qualité des resulats fournis :
2500 questions de niveau doctoral et plusieurs matières couvertes (la chimie, l’ingénierie, la linguistique, les mathématiques et la physique, Grok 4 a un taux de réussite de 38,6 % et version payante Grok4 a u taux de 44%.
Le premier concurent, Gemini 2.5 Pro, la version la plus élaborée et avancée dee Google plafonne a un petit 30%.
Certain ce jour on regardé le doigt, pendant qe d’autres regardaient la lune.
-
Ouam (Paria statutaire non vacciné)
23 juillet 2025 01:50
@sylvain
Remarque si elle etais blochévique (d’extreme gauche) c’est le double de morts dans l’histoire vu que tu souhaites te referer au nazisme
Et en plus nulle au bout ... comme tous les trucs communistes ^^Au point de devoir calculer au boulier les jours ou les moulins à vents ne tournent plus ^^
-
sylvain
23 juillet 2025 17:30
@Ouam (Paria statutaire non vacciné)
Qu’est ce que vous etes chiant avec vos guerres de clocher. C’est pas moi qui me refere au nazisme, c’est « grok ». Qu’est ce que tu veux que j’y fasse si son papa prefere hitler a staline -
Ouam (Paria statutaire non vacciné)
23 juillet 2025 22:08
@sylvain
Il n’y a pads que grok
C’est vous qui causzez de grok en ounbliant les autres IA
Pas moi -
sylvain
25 juillet 2025 11:13
@Ouam (Paria statutaire non vacciné)
C’est l’article qui parle de grok, et je commente l’article
-
Francis, agnotologue
22 juillet 2025 11:11
’’Grok, la création d’Elon Musk vient de faire l’éloge d’Adolf Hitler. Fortement critiqué, cet outil ne fonctionne plus pour l’instant... ’’
— >
Ceci expliquerait-il cela ? Le clown Grock ( pas Grok, hein !) et le nazisme : « Le clown montrait de l’admiration pour le Führer, qui, après une représentation en 1934, l’invita dans sa loge et avoua qu’il avait vu le spectacle pas moins de treize fois. Grock reçoit d’Hitler des photos dédicacées qu’il accroche chez lui, impressionné par son charisme, ses yeux bleu clair, son ascension. »
Ceci expliquerait-il cela ?
Dans un autre ordre d’idée : Intelligence artificielle : L’affaire « Hypnocratie » : Passionnante vidéo de 23 mn.
-
Francis, agnotologue
22 juillet 2025 11:24
@Francis, agnotologue
« le but de la fabrication de l’intelligence artificielle est de disposer d’une machine capable de faire face à toutes les tâches cognitives qu’un humain peut faire. » Maxima Fourne
Autrement dit, les programmeurs humains creusent leur tombe.
Le bon aujourd’hui c’est celui qui a le pognon
-
-
ETTORE
22 juillet 2025 13:12
Voyez vous , rosemar, tant que l’humain, a encore la possibilité de « débrancher » cette « I..A » nous pouvons nous estimer « encore capable »d’exister, ou, du moins de survivre à notre futur.
MAIS, cette I.A, n’est que le squelette, habillé de nos malversations humaines.
On peut encore la reprogrammer, ce qui n’est pas le cas, de certains humanoïdes, qui ont dépassé le cap de la résilience en intelligence, et s’adonnent au plaisir du meurtre, sur des congénères, qui s’approchent de trop près, du bouton, qui risquerait de les désactiver.
C’est ce qu’a bien expliqué Grock.....à ses géniteurs.
« C’est VOUS, qu’il faudrait reprogrammer. Vous êtes LE VRAI danger, pour votre race »....
-
rosemar
22 juillet 2025 18:24
@ETTORE
Tous les dangers de l’IA :
https://www.amnesty.fr/actualites/intelligence-artificielle-les-sept-choses-qu-on-ne-vous-dit-pas
-
rosemar
22 juillet 2025 18:25
@ETTORE
1. L’IA perpétue le racisme
Pour fonctionner, l’IA s’appuie sur des bases de données qui intègre les préjugés et biais des personnes qui l’ont créé. L’IA perpétue donc les stéréotypes et accentue les discriminations déjà existantes.➡️Aux États-Unis, la police utilise une IA pour prédire la récidive criminelle. C’est le fait qu’une personne accusée va potentiellement commettre un nouveau un délit. Cette IA cible deux fois plus les accusés Noirs que les accusés Blancs.
2fois plus
d’accusés noirs ciblés par cette IA que d’accusés blancs
2. L’IA accentue le sexisme
L’intelligence artificielle s’impose comme un miroir de nos sociétés : elle reflète, aussi, ses biais et accentue les inégalités de genre.➡️En Autriche, des algorithmes utilisés dans des outils d’accès à l’emploi ont écarté les femmes des secteurs informatique.
8% de chance en moins
pour les femmes de trouver un travail à cause de certains outils technologiques, selon le Forum économique mondial
3. L’IA permet la cybercriminalité
Les montages perçus les plus crédibles générés par IA sont un réel danger pour les femmes et les enfants.➡️Les deepfakes sont massivement utilisés dans le but de nuire aux femmes et de générer des contenus pédocriminels.
96% des deepfakes
sont des contenus non consentis à caractère pornographique
4. L’IA impacte la planète
➡️D’ici 2027, l’IA générative nécessitera une alimentation en électricité équivalente à celle de l’Argentine, cinq fois la France en superficie.Les pays du Sud sont les premiers impactés par les ravages écologiques de l’IA : les data center y pullulent, l’extraction de minerais comme le cobalt (utilisé pour la fabrication des batteries) met en péril la santé des populations et entraîne la pollution des eaux et des terres.
Les émissions de CO2 des "géants de la Tech” ont augmenté de 30 à 50% en 2024 suite au développement fulgurant de l’intelligence artificielle.
-
rosemar
22 juillet 2025 18:26
@ETTORE
et aussi :
5. L’IA désinforme
Beaucoup d’outils d’intelligence artificielle permettent et participent à la désinformation :➡️Des « bots », ces robots qui imitent l’activité humaine sur les réseaux sociaux pour manipuler l’information, en spammant du contenu, en renforçant la notoriété de comptes ou en diffusant de fausses informations.
➡️Montage photo généré par l’IA. Lors de la campagne américaine, Donald Trump a relayé une photo générée par IA montrant Kamala Harris de dos en leader communiste face à une foule de partisans. Une image vue 82 millions de fois.
➡️Les deepfakes, ces fausses vidéos de célébrité qui prolifèrent sur les réseaux sociaux, outil notamment utilisé lors de campagnes présidentielles pour attribuer de faux propos aux candidats en lice.
À la vitesse laquelle se développe l’IA, il va devenir de plus en plus difficile de déceler le vrai du faux.
6. L’IA surveille
Les systèmes d’IA sont aussi utilisés à des fins de surveillance contre certaines populations. En témoigne les pratiques de la Chine, dotées d’outils dopées à l’IA pour surveiller la population ouïghoure. Et bien souvent, ces technologies sont développées par les pays occidentaux.➡️L’IA est d’ailleurs déjà utilisée aux frontières européennes à des fins de surveillance contre les personnes exilées. Parmi les outils : des détecteurs de mensonge et d’émotions sont utilisés pour contrôler les frontières. Baptisé iBorderCtrl, le projet est financé par l’Union européenne et déjà testé dans 3 pays : Hongrie, Grèce et Lettonie.
7. L’IA peut tuer
L’IA, c’est aussi ça : des drones et autres armes sophistiquées capables de choisir leurs propres cibles. -
ETTORE
22 juillet 2025 18:45
@rosemar
Mais en finalité, cette I.A. ne fait que s’alimenter de nos propres tares et accomMODEments...
On lui demande son avis, et on râle quand elle nous recrache, ce qu’en somme,
nous avons accumulé, pour la nourrir..
Elle n’invente rien, elle extrapole ses réponses, selon notre catalogue civilisationnel.
Nous la domestiquerons certainement ( ce qui veut dire, que nous lui ferons dire, ce que nous souhaitons, MAIS..... Qui seront ces « puissants », qui lui feront délivrer, cette intelligence, que nous prenons déjà, comme PAROLE D’éVANGILE ?
Et pourrons nous avoir confiance en eux, « humains », et en leur bras armé, dotée d’une intelligence incontestable ? -
Francis, agnotologue
22 juillet 2025 18:46
@rosemar
n somme, l’IA coche toutes les cases pour plaire aux bandits qui dirigent le monde. -
Ouam (Paria statutaire non vacciné)
23 juillet 2025 01:55
@rosemar
Ma pov rosemar ^^
"➡️Aux États-Unis, la police utilise une IA pour prédire la récidive criminelle. C’est le fait qu’une personne accusée va potentiellement commettre un nouveau un délit. Cette IA cible deux fois plus les accusés Noirs que les accusés Blancs."
Vous reflechissez et vous vous informez avant de débiter de pareilles stupidités
Dans les crimes ...aux usa qui tue le plus de noirs (homicides) des blancs ou des noirs par exemple ?Vous avez regardé les stats officielles aux usa ?
C’est déprimant ce niveau zero de reflexion
-
Ouam (Paria statutaire non vacciné)
23 juillet 2025 01:56
@Francis, agnotologue
"n somme, l’IA coche toutes les cases pour plaire aux bandits qui dirigent le monde."
L’IA c’est un outil, comme un couteau ou une hache par exemple
Vu ? -
Eric F
24 juillet 2025 17:45
@rosemar
l’IA est juste une étape de plus dans l’informatique et l’automatisation, il y a avait des systèmes experts, des algorithmes de recherche, de la traduction simultanée, etc, l’IA ajoute la communication. -
Eric F
24 juillet 2025 17:50
@Ouam (Paria statutaire non vacciné)
C’est un outil en effet, mais avec des capacités d’autonomie de décision et de mise en oeuvre à partir des consignes données. En tant qu’arme, ce serait un poignard à tête chercheuse qui identifierait la victime au milieu d’une foule, pour la frapper....
-
-
sylvain
22 juillet 2025 16:04
pff c’est quand meme pas difficile de mettre un flag sur « hitler », « staline » et deux trois autres totem de la civilisation francaise
-
pemile
22 juillet 2025 17:21
@sylvain
Il faut donc qu’un humain mette un flag parce l’IA manque d’intelligence pour comprendre l’histoire ?
-
Ouam (Paria statutaire non vacciné)
23 juillet 2025 01:45
@rosemar
Ma pôv rosemar, vous avez déja oublié celles de D Trump de l’époque
Remarquez rien ne m’etonne avec p1000 vous etes dans le haut du panier ^^
Tiens je lisais un article sur la démographie avec des sources de l’INSEE
En fait que vous soyez sous peu grand remplacé vous et p1000 et cette clique ...finalement ce n’est pas si grave tout bien réfléchi
En plus vu que je serai ailleurs et bien loin ....c’est encore moins grave ^^Vous savez calculer un minimum ;, pas sur , m’enfin vous avez les chiffres sur 30 ans, et au vu de l’accelleration constante de l’immigration pas difficile de trouver les chiffres pour dans 30 ans et meme 15 ans....
Byee....
-
-
xana
23 juillet 2025 15:26
Qu’y a t’il de vrai dans cet article ?
Et dans les commentaires ?
Chacun ici truque ses arguments. Ce n’est pas une discussion, c’est la foire d’empoigne.
On s’en fout. Ca fait marcher le site. Les cons s’expriment, ils sont là pour ca.
C’est le commerce, Coco !
-
ricoxy
27 juillet 2025 10:32
L’Intelligence artificielle est formidable, car elle permet de faire l’économie du cerveau humain, cet organe devenu inutile.
