trevize trevize 31 mars 2014 13:55

Mais ça va pas bien ou quoi ??

« Ayez confiance, c’est tout ce qu’on vous demande » smiley smiley vous êtes en train de me demander de me comporter en mouton bêlant ? Vous savez tout mieux que tout le monde, merci de nous instruire smiley smiley

"Les humains sont faillibles, certainement pas la machine« Savez-vous d’où vient la machine ? Vous croyez qu’elle tombe du ciel ? Ce sont les humains qui créent la machine. Ce sont les humains qui écrivent l’algorithme. Les humains sont faillibles, donc tout ce qu’ils créent est faillible... L’erreur de l’humain se retransmet dans les machines et les programmes qu’il crée. Pas besoin de sortir de polytechnique pour comprendre ça. Redescendez sur Terre par pitié ! Essayez de comprendre qu’il y a forcément une différence entre l’intention des concepteurs du système ( »écrire un algo qui rend une justice impartiale« ) et l’algorithme final. Il y a une différence entre ce que l’on veut que la machine fasse, ce qu’on lui demande de faire, et ce qu’elle fait effectivement. Car on ne demande pas textuellement à la machine de »rendre une justice impartiale«  ; l’humain traduit cet objectif en langage machine, et lors de cette traduction il y a forcément erreur (sauf si on considère que l’équipe de développement est surhumaine). En soi, ce n’est pas dramatique, nous sommes imparfaits. Mais la grosse erreur que nous faisons souvent, que nous pourrions chaque fois éviter, et qui nous coûte toujours très cher, c’est que nous nous aveuglons, nous oublions que la machine contient notre erreur, nous faisons comme si ce que nous avons créé est parfait, laissons la machine aux commandes, et c’est là que son oeuvre destructrice commence.

Le film matrix est un mythe moderne, et il y a infiniment plus de choses à en apprendre que tous les articles de votre blog. Entre autres, il contient une mise en garde simple : si nous donnons trop de pouvoir à nos créations (machines, institutions, religions...), si nous les considérons parfaites, infaillibles, et les plaçons au-dessus de nous, alors nos créations nous écraseront, la situation s’inverse, le système devient le maître et l’humain l’esclave ; nous servons la machine, nous devenons des pions, des variables du système ; nous sommes piégés dans la matrice.

A la limite, je pourrai concevoir l’idée d’un système qui vérifie les jugements rendus par les juges, compare à la jurisprudence pour éviter que certains accusés soient trop lourdement ou trop légèrement condamnés (normalement c’est le boulot de l’avocat, mais bon...) ; mais pas une machine qui prend la décision d’elle-même : ça c’est une abomination.

Autre chose, vous nous assénez des affirmations genre »Dans un très proche avenir, ce logiciel devra être mis en place dans tous les tribunaux" vous avez une source d’information pour ça, ou alors c’est juste l’expression de votre délire personnel ?


Ajouter une réaction

Pour réagir, identifiez-vous avec votre login / mot de passe