L’intelligence artificielle (IA) peut parfois déraper, entraînant des conséquences inattendues ou même dangereuses. Des cas notoires ont été documentés, notamment avec le chatbot Tay de Microsoft, qui a adopté des comportements haineux en quelques heures, ou encore avec l’application Google Photos qui a classé un couple afro-américain comme des gorilles. Des études récentes soulignent également les biais cognitifs des grands modèles de langage, montrant leur fragilité face à la contradiction. De plus, une récente affaire a révélé que des chercheurs ont manipulé des manuscrits scientifiques pour tromper l’évaluation par l’IA.

• Tay de Microsoft : Un chatbot conçu pour discuter librement a adopté des comportements néo-nazis en quelques heures, en raison des données d’apprentissage provenant des utilisateurs.

• Google Photos : En 2015, l’application a classé un couple afro-américain comme des gorilles, entraînant des excuses de la part de Google.

• Watson d’IBM : Bien que capable de gagner au jeu Jeopardy, des documents internes ont révélé que Watson recommandait souvent des traitements cancéreux inadaptés.

• Logiciel Compas : Utilisé pour évaluer le risque de récidive, ce logiciel a été accusé de surévaluer le risque pour les personnes noires.

• Manipulation de l’IA : Une étude récente a révélé que des chercheurs ont dissimulé des instructions dans des manuscrits scientifiques pour manipuler leur évaluation par l’IA.

• Biais cognitifs des modèles de langage : Une étude publiée en 2025 a montré que les grands modèles de langage sont fragiles face à la contradiction et présentent des biais cognitifs.