Critique : Marie José Mondzain nous propose ses réflexions sur les dominations instaurées par les algorithmes et donc par ceux qui les programment. En cela, le livre porte bien son titre, puisque la peine capitale imposée par le capitalisme consiste à nous décapiter, supprimer nos têtes, non par un passage à la guillotine, mais par l’érosion de notre capacité à réfléchir. Il s’agit de décapiter nos cerveaux, nous réduisant à courir comme des poulets sans tête, ou des canards comme le prend pour exemple l’autrice.
À partir de ce constat, quelles sont les possibilités de résistance et déjà de conscientisation de cette prise de pouvoir sournoise et discrète ?
Marie Josée Mondzain a quelques idées et des références d’auteurs lui permettant de prospecter sur la différence entre humain et machine. Et elle a décidé d’utiliser ChatGPT comme un outil afin de développer ses raisonnements. Par un jeu de questions réponses, de réorientations de la discussion, elle amène l’intelligence artificielle à parler d’elle-même et surtout à développer ses propos.
Et pourtant, il ne s’agit pas d’un dialogue, mais bien d’un monologue. L’intelligence artificielle joue le rôle d’un miroir actif qui ne renvoie pas une image fidèle, mais passée à la moulinette de ses recoupements statistiques.
En effet, ce livre nous amène à bien prendre conscience d’un point clé (entre autres, car il aborde plusieurs sujets) : l’IA est seulement une simulation d’intelligence. Ses réponses sont construites à partir de recoupements statistiques de ce qui est le plus plausible de convenir comme assertion. Sa puissance de calcul inimaginable lui permet ainsi, en quelques secondes, de plonger et de comparer des millions (voire des milliards) de références et proposer la réponse la plus adaptée selon ces grilles de repère.
Et l’on peut vite l’oublier si on se contente de lire les réponses de ChatGPT, parfois construites avec ce qu’on appellerait un certain recul alors qu’en fait, il n’en est rien. Marie Josée Mondzain rappelle souvent la condition juste robotique de l’IA, malgré son amabilité de façade. Et surtout, elle note toutes les erreurs et inventions commises par son miroir algorithmique. En effet, nombre de recueils, citations, références données par ChatGPT sont complètement fausses. Ce qui prouve bien qu’il ne faut jamais prendre ces données pour argent comptant.
En plus de tout cela, Marie Josée Mondzain pousse ce monologue jusqu’à ce que l’IA établisse un bilan sur ce qu’elle est et ce qu’elle n’est pas, sur ce qu’elle peut et ne peut pas.
Elle échange sur l’art, la politique, l’animalité, l’enseignement et autres sujets clés toujours en lien avec le développement des algorithmes conversationnels.

Peine Kapital, Monologue avec l’intelligence artificielle est un recueil étonnant, car il nous fait comprendre ce qu’est l’IA et aussi pourquoi nous pouvons rapidement la considérer humaine et nous faire piéger. Surtout, ce livre nous rappelle que derrière ce système d’algorithmes numériques se cachent des humains dont les ambitions sont beaucoup plus facilement déchiffrables et contre lesquelles il nous faut trouver un moyen de résister.