Le flic ultime : l’algorithme

Sois riche, jeune et productif, mais surtout, pas pauvre, vieux et précaire, sinon les algorithmes vont te traquer afin de bien contrôler que tu n’es pas un « profiteur » qui abuse de la « bonté » du pays et de son administration redistributrice. Ainsi va la France, qui de plus en plus fait la chasse aux nombreux pauvres, tant ceux-ci abuseraient d’un système construit pour ne laisser en théorie personne sur le bord de la route… Qui, pourtant, ce « bord de route » déborde de jeunes précaires sans diplôme, de SDF, de mères élevant seules des enfants, de seniors à quelques années de la retraite mis hors service par les entreprises et enfin, les anciens vivants avec des retraites à hauteur d’un RSA ad vitam. Ce sont des millions de personnes soumises à vivre une vie de misère, sous les radars d’une administration tatillonne qui a créé le flic ultime, l’algorithme.

Qu’est-ce donc qu'un algorithme ? Le terme algorithme vient du nom du mathématicien perse du IXᵉ siècle Al-Khwarizmi puis déformé d’après le grec ancien arithmós qui signifie nombre. Un algorithme, c'est une chaine d’instructions précises qui doivent être suivies dans l’ordre pour obtenir un résultat donné. L’objectif d’un algorithme est donc d’arriver à un résultat déterminé, soit pour tout simplement atteindre un résultat, soit pour résoudre un problème. Jusqu’à là, tout était clair, cependant : L’intelligence artificielle est venue chapeauter, ou plutôt « doper » ces processus en créant les algorithmes auto-apprenants (Machine Learning) qui modifient eux-mêmes leurs instructions au cours de leur utilisation, sans avoir besoin d’intervention humaine extérieure. Ce qui a pour conséquence que l’utilisation de machine Learning dans les décisions administratives soulève des interrogations concernant le respect du principe de légalité et le renouvellement de la responsabilité des personnes publiques qui développent ou utilisent ces instruments. Le recours aux algorithmes influence la gestion des ressources et des méthodes par l’administration, ainsi que la relation avec les usagers. Le risque est celui d’une déshumanisation de la gestion publique, qui, sous couvert d’efficacité et d’économies, aurait tendance à omettre les exigences de transparence des décisions ou d’égalité face au service public, et surtout les difficultés de demande de recours…[i]

Conséquence sur la protection sociale : ce « miracle technologique » nous est présenté comme une solution miraculeuse qui va rendre plus facile le contrôle des allocataires ou leur accompagnement… Ce serait en fait l’éclosion de risques majeurs, d’une surveillance généralisée et particulièrement d'une stigmatisation et d'une précarisation des plus démunis. Cette catégorie de personnes, est traquée par des algorithmes de notation dotés d’un score de suspicion et ainsi, plus cette note est élevée et plus les contrôles vont être effectués. Un exemple, l’algorithme des CAF qui brassent les données de presque 50% de la population française, c'est-à-dire toute personne dans un foyer recevant une allocation de cette administration et selon une enquête de La Quadrature Du Net, cet algorithme vise particulièrement les personnes précaires, les femmes seules, les personnes percevant le RSA ou l’allocation handicapée. Il y a aussi des algorithmes à France Travail qui estiment des scores d’employabilité et qui, sous couvert d’accompagnement, poussent les allocataires à accepter des conditions de travail toujours plus dégradées et mal payées. Pour en terminer avec la fièvre algorithmique administrative, il y a l’assurance maladie qui, elle aussi, est dans une logique de surcontrole sur les plus précaires.

Algorithmes hors-contrôle : Logiquement, les associations ont le droit de demander le code de ces algorithmes, ce qui est rarement accordé. L’administration cultive une opacité sur le sujet, car elle ne veut pas que ces associations de défense des populations fragiles mettent le nez dans ce qui est une stratégie de chasse contre les plus pauvres, qui a pour aboutissement toujours plus de contrôles, de justifications paperassières et de pointages dématérialisés incompréhensibles, parce que la plupart de ces pauvres gens sont souvent analphabètes informatiques et vivent dans des zones de désert internet où il faut un véhicule pour aller à plusieurs km dans l’agence pôle emploi la plus proche se faire aider pour remplir les dossiers. Combien de personnes ayant des droits dans ce pays ne demandent plus rien, par découragement devant cette montagne informatique inhumaine ? Des millions ! 

Messages aux populations : « ils » nous concoctent un monde ou pas beaucoup n'auront leur place. L’énorme masse sera parquée dans des enclos à bestiaux, avec comme horizon, une mangeoire et un abreuvoir, des algorithmes gérés par des Learning machines alimenteront juste assez pour ne pas crever. Voilà ce qui guette nos enfants : le licol sur le râble, les œillères et le mors et, en cas de cabrage, le garrot ! Dans la Métamorphose Franz Kafka ne nous confiait-il pas : « Est-ce que je ne ferais pas mieux de dormir encore un peu et d'oublier toute cette bouffonnerie ? » A méditer.

C’est un monde de déquadrature du cercle où ceux qui pensent en rond n’ont plus les idées courbes...

Georges ZETER/ décembre 2024

Merci à la vidéo de La Quadrature du Net qui a inspiré grandement cet article.

Vidéo : Un ALGORITHME c'est QUOI ?