Algorithmes et démocratie

Dernières semaines principalement prises par des jeux d'organisation - cycles de formation donnés à l'ESTP, avec la numérisation des ateliers & enseignements et les passages à la BnF. Il y a là-bas un ouvrage qui m'a tenue en alerte : Algorithmes, la bombe à retardement de Catherine Helen O'Neil. 

 

Elle y dépeint son parcours (mathématicienne, puis son rôle dans des structures de la finance et sa prise de conscience des répercussions de son activité) et explicite les risques qu'engendrent les algorithmes dans le fonctionnement des sociétés libérales. Elle met l'accent sur le danger majeur qui accompagne la numérisation des activités humaines ; le systématique que permet le code engendre un changement d'échelle. La nature même du code informatique, l'usage fait des capacités de calcul amènent un tropisme de quantification et une valeur démesurée accordée aux modèles prédictifs.

 

 "La tendance consiste à remplacer les gens par des flux de données et à en faire des acheteurs, des électeurs ou des employés plus efficaces afin de remplir de manière optimale un objectif quelconque" (p.80)

 

Le tableau fait est déprimant et il faut garder en tête qu'il s'agit d'un constat partiel. A la lire, l'individu, à sa naissance même, devient, dans l'ère qu'ouvrent les algorithmes, traçable, identifiable et assigné à une trajectoire donnée dans la toile sociale. 

 

Reprenons le raisonnement : il y a des étapes clés aux yeux de Cathy O'Neil : l'éducation, la capacité à contracter des prêts, l'emploi. Et pour ces passages, qu'elle juge décisifs, le recours croissant aux algorithmes amène des situations très préoccupantes en termes d'accentuation des inégalités et de perte des repères. Elle détaille ainsi la façon dont le classement des établissements d'enseignement s'est vu complètement bousculé, du fait de statistiques peu étayées et d'affiliations trompeuses. Dans ce domaine, le danger particulier des algorithmes est la rapidité de la transformation des réputations de ces établissements, en se basant sur des données massivement collectées et peu questionnées.

 

L'étude est très documentée ; l'auteure relève également le sensé du logiciel PredPol utilisé par la police dans l’État de Californie et conçu par un anthropologue ; c'est avant tout un signal d'alarme quant aux répercussions qu’entrainent les classements et architectures des données collectées et sur l'accessibilité à des données personnelles. 

 

L'ouvrage, alors que la France entame un tournant marqué et nécessaire vers une société plus numérisée, pointe bien les dangers de ces outils et services ; la gageure actuelle : que les démocraties puissent, grâce au numérique, préserver un état de droit, ouvert à la diversité culturelle.