«Les algorithmes créent leur propre réalité»


algorithmes

 

 

Dans son dernier ouvrage, qui vient d’être traduit en français, la mathématicienne dénonce l’emprise des systèmes informatiques toxiques sur notre quotidien. Une influence qui s’exerce en dehors de tout contrôle et le plus souvent dans l’irrationalité la plus complète. Elle appelle à beaucoup plus de transparence et à une prise en compte de l’éthique dans la science des données.

 


Cathy O’Neil est une lanceuse d’alerte. Mais le scandale qu’elle dénonce est global et presque invisible, tout en se déroulant sous nos yeux. Aujourd’hui, les modèles mathématiques et les algorithmes prennent des décisions majeures, servent à classer et catégoriser les personnes et les institutions, influent en profondeur sur le fonctionnement des Etats sans le moindre contrôle extérieur. Et avec des effets de bords incontrôlables.

Votre livre parle de notre rapport aux mathématiques et de la place centrale qu’elles ont acquise avec le numérique. Elles font peur et on eur fait en même temps une confiance aveugle. C’est paradoxal, non ?

Oui, c’est aussi la façon dont nous abordons Dieu. Quand une de mes amies a demandé des détails sur le modèle appelé «modèle de la valeur ajoutée» utilisé pour la notation des enseignants, on lui a répondu : «Ce sont des maths, vous ne pourrez pas comprendre.» On le lui a dit quatre fois, quatre personnes différentes. Pourquoi ces quatre personnes lui ont-elles dit exactement la même chose ? Parce que, la plupart du temps, ça marche. C’est un bouclier très puissant pour se protéger de la curiosité de la population. Ayez confiance, ne posez pas de questions et, surtout, sentez-vous honteux car vous n’êtes pas à la hauteur pour poser des questions.

Ce système d’évaluation des profs est assez emblématique…

Oui. Cette amie, qui travaille dans un lycée à New York, m’a expliqué qu’elle ne comprenait pas ce système de points. Je me suis donc renseignée et plus je m’y intéressais, plus je réalisais que c’était n’importe quoi au niveau mathématique. Dans les faits, ça ressemblait surtout à un générateur de nombres au hasard. Alors, de quoi s’agit-il, si c’est aléatoire ? De politique. Il s’agit d’un pouvoir utilisé contre les gens. Et pourquoi ça marche ? Parce que les gens ne connaissent pas les maths, parce qu’ils sont intimidés. C’est cette notion de pouvoir et de politique qui m’a fait réaliser que j’avais déjà vu ça quelque part. La seule différence entre les modèles de risque en finances et ce modèle de plus-value en science des données, c’est que, dans le premier cas, en 2008, tout le monde a vu la catastrophe liée à la crise financière. Mais, dans le cas des profs, personne ne voit l’échec. Ça se passe à un niveau individuel. Des gens se font virer en silence, ils se font humilier, ils ont honte d’eux.

La suite ici :  https://www.liberation.fr/debats/2018/11/16/cathy-o-neil-les-algorithmes-creent-leur-propre-realite_1692515

22.11.18

Istacec

Laissez un commentaire

You must be connecté pour laisser un commentaire.