Bonjour, Mr. Laferier.
Je vous cite : "Ce logiciel analyse les données suivantes : casier judiciaire, situation familiale, études suivies, ambitions professionnelles, appartenance à un gang...« 

Il est clair que ce qui est jugé n’est pas l’acte qui a suscité une condamnation mais le profil de l’accusé. Ce qui résulte de cette analyse de données sera, j’imagine, une probabilité ou une distribution de probabilités que l’accusé ait un profil qui correspond au coupable recherché.
-> Ce n’est pas une justice si ce ne sont pas les faits qui sont étudiés, mais seulement une reconnaissance légale d’une présomption de culpabilité.
-> En étendant le raisonnement, puisque les faits deviennent secondaires, il est envisageable d’arrêter des personnes »en prévision« puisque leur profil révèle des potentiels coupables.
-> Les définitions des termes »innocent« et »coupable« , dans le cas où les faits ne comptent plus, sont laissées à la liberté du programmeur de l’algorithme de décision, et le jour où les machines seront capables de donner eux même des définitions aux mots, s’il arrive, elles auront la même sensibilité que les humains et seront exposées aux même faiblesses.

Avez vous vu le film »12 hommes en colère" ? C’est un bon rappel de ce que la justice devrait être : en présence du moindre doute, le jugement est reporté ; et d’autre part, tous les a priori sur l’accusé, c’est à dire finalement les données que devraient traiter vos algorithmes, ne doivent pas être pris en compte.