Gouverner les algorithmes pour éviter qu’ils nous gouvernent


algorithmes

Mais une question plus générale se pose : celle de l’autonomie des décideurs humains et de la maîtrise qu’ils peuvent garder sur leurs décisions. Comment le médecin, l’assureur, le juge ou le simple citoyen pourront-ils éviter de suivre aveuglément les recommandations fournies par des algorithmes réputés fiables et fonctionnant de manière opaque ? De quels recours pourront disposer les personnes concernées par des décisions qui leur seraient défavorables ?


De plus en plus de décisions qui ont des implications sur nos vies dépendent du résultat de systèmes algorithmiques. On peut s’en rendre compte avec les informations affichées sur nos réseaux sociaux ou lors d’achats effectués après avoir reçu des recommandations ciblées, mais les algorithmes influencent de fait bien d’autres moments de nos existences : demandes de prêt ou d’assurance, diagnostics médicaux, et peut-être, demain, décisions de justice. S’ils permettent d’harmoniser certains traitements ou d’exploiter, avec profit, de grandes masses de données, leur conception n’est pas neutre, et leurs résultats ne sont pas forcément corrects.

Ces algorithmes mettent en œuvre, le plus souvent de manière opaque, des critères de priorité, de préférence, de classement qui ne sont généralement pas connus des personnes concernées. Cette opacité inquiète, à juste titre, car elle peut masquer toutes sortes de dérives : discriminations, traitements déloyaux, manipulation, etc.


La suite ici : http://www.liberation.fr/debats/2017/11/26/gouverner-les-algorithmes-pour-eviter-qu-ils-nous-gouvernent_1612661?refresh=973780

28.11.17

Istacec

Laissez un commentaire

You must be connecté pour laisser un commentaire.