Critique : Ce livre en cinq parties décortique les mensonges que mettent en avant dans différents secteurs les vendeurs de solutions algorithmiques pour placer leurs produits. Les services publics, comme la Caisse d’allocations familiales, l’Éducation nationale ou encore France Travail, utilisent des algorithmes pour gérer leur dossier et les calculs des droits, l’accessibilité aux études supérieures, ou encore les contrôles à exercer sur les citoyens. Mais ces logiciels ne sont pas neutres. Leurs opérations mathématiques sont influencées par les données qu’on leur apporte et la manière dont elles sont présentées.
La Caf utilise une intelligence artificielle pour recouper les informations personnelles avec d’autres services, comme la Direction générale des Finances publiques, et définir qui est fraudeur, ou potentiellement fraudeur. Saviez-vous que si vous avez perçu trop d’argent suite à une erreur de calcul, qu’on vous demande de rembourser ce montant et que vous vous exécutez, vous passez malgré tout dans la liste des fraudeurs potentiels ?
Au-delà de ce genre d’aberrations informatiques, Hubert Guillaud pointe aussi la volonté politique et économique qui se cache derrière ces outils censés aider la société : la collecte des données et leur revente à des sociétés privées.
Les services de recrutement, de marketing ou encore les applications des grandes enseignes utilisent ces éléments pour définir en ligne un prix variable aux produits qu’ils nous vendent, en fonction de nos revenus, nos modes de vie, de tout ce que les algorithmes ont pu collecter sur le net. Le but n’est pas tant d’ajuster les prix sur nos revenus, que de nous pousser à la consommation et d’augmenter les prix pour ceux qui consomment le plus.
Les algorithmes ne sont pas utilisés pour le bien des citoyens, mais pour que les plus grosses sociétés puissent faire plus de profits et moins de coûts. Un autre exemple réside dans ces moteurs de planning dont le principal critère n’est pas une bonne gestion des salariés et de leur emploi du temps, mais bien l’optimisation des coûts : peu importe les conséquences sur les travailleurs, qui doivent se montrer de plus en plus flexibles pour garder leur poste.
Hubert Guillaud explique également que ces algorithmes n’apportent pas une solution efficace prouvée. Au contraire, parfois, ces résultats sont aussi pertinents que si l’on choisissait une réponse au hasard. L’auteur pointe l’absence de transparence, l’effet piège de l’accumulation de données qui finit par trancher entre deux personnes sur des éléments tellement éloignés des critères clés que le résultat devient absurde.
On en apprend ainsi beaucoup sur la révolution numérique et les investisseurs de l’intelligence artificielle. En plus, dans de nombreuses notes de bas de page, Hubert Guillaud renvoie à d’autres livres, en anglais ou français, pour celles et ceux qui voudraient en savoir plus. Une grande place est aussi accordée aux articles de l’auteur.
La dernière partie présente des solutions pour sortir de ce piège, mais ces dernières doivent être décidées au niveau gouvernemental, ce qui risque de prendre du temps, vu les collusions pouvant exister entre politique et économie.

Les algorithmes contre la société analyse le fonctionnement des intelligences artificielles utilisées dans des logiciels des services publics et privés. Ce livre confirme le vieil adage "Quand le service est gratuit, ça signifie que le produit, c’est nous !", ou plutôt nos données personnelles...