Le logiciel Compas (pour Correctional Offender Management Profiling for Alternative Sanctions, littéralement « profilage de la gestion des délinquants correctionnels pour les sanctions alternatives ») a défrayé la chronique aux États-Unis. Cette solution, commercialisée par la société Equivent, mesure le risque de récidive d’un détenu sur une échelle de 1 à 10 à partir de plus d’une centaine de questions. Un site d’investigation américain, Propublica, a cependant révélé que les algorithmes utilisés par Compas étaient bourrés de biais raciaux défavorisant les minorités ethniques, notamment les personnes noires, et au contraire avantageant les personnes blanches. Maryse Artiguelong, vice-présidente de la Ligue des droits de l’homme, se souvient « d’une personne noire qui a été maintenue en prison pour un risque élevé de récidive, mais qui a démontré que son profil avait…
You're reading a preview of
01net (Digital) - 1 Issue, No.960