Dans Bifrost 110, on trouve toutes les rubriques habituelles et un très complet dossier consacré à Alastair 'Inhibiteurs' Reynolds.
On y trouve aussi une inquiétante nouvelle d'Olivier Caruso intitulée L'Avertissement.
Futur proche. Giorno est un brave homme. Un bon père, un bon conjoint, un bon infirmier. Entre sa compagne Karine et sa fille Anna il mène une vie paisible, celle d'un citoyen ordinaire et respectueux des lois. Puis tout bascule.
Clémentine est une adolescente un peu en déshérence. De ces personnages qu'on croise dans les romans de Nicolas Mathieu. Elle travaille à la piscine en plus de ses études, cette piscine dans laquelle Anna s'entraine. Elle fait, aussi, une sorte de fixette sur Anna. Pour elle également, tout va basculer.
Giorno, Clémentine et les autres vivent dans ce monde proche du notre où a été mis en œuvre le programme ACP. Dans cette France future, une IA calcule en permanence, à l'aide d'un algorithme aussi public qu'incompréhensible, la probabilité qu'un individu commette un homicide. Dès qu'un meurtrier potentiel est détecté, l'ACP l'avertit par courrier et lui verse dorénavant une somme mensuelle pour s'abstenir de commettre son crime. En cas d'échec, le meurtrier est repéré et remis à la justice par l'intermédiaire de drones qui font partie du programme. L'incitation à ne pas commettre est forte financièrement, la probabilité de survenue de la peine est maximale en cas d'infraction. S'il est admis qu'un meurtre coute quatre millions d'euros à la collectivité, alors toute somme inférieure à quatre millions d'euros versée au meurtrier potentiel est gagnante économiquement parlant - c'est un peu plus que les trois millions de la vie évaluée en 2018, estimation sur laquelle on se base pour calculer, selon la même logique, s'il est pertinent ou pas de réaliser une infrastructure réduisant la mortalité dans un monde de ressources contraintes.
Bienvenue dans le monde des incitations. Les incitations sont au cœur de la science économique. Si, comme le pensait par exemple Gary Becker ou toute l'école des anticipations rationnelles, les individus sont rationnels, alors il est logique, inévitable même, qu'ils réagissent aux incitations positives ou négatives, aux incitations à faire ou ne pas faire . C'est sur ce principe d'intérêt calculé et pas sur un hypothétique principe moral qu'est fondée l'application des taxes pigouviennes telles que la taxe carbone ou le principe pollueur/payeur : le pollueur réduit sa pollution pour faire baisser le montant de la taxe qu'il paie. C'est aussi sur cette base qu'on subventionne les voitures électriques. Dans les deux cas, il s'agit de ce qu'on appelle un signal-prix censé affecter les choix rationnels des individus.
Dans notre histoire c'est d'une subvention qu'il s'agit. Une subvention qui, bien calculée, est rentable pour la société. Distribuée mensuellement, donc sur des périodes de court terme et ainsi, d'après les expériences réelles, efficace, elle peut changer significativement les comportements dans le sens souhaité, comme le montrent les expériences analysées par Levitt et Dubner dans Freakonomics. Mais elles peuvent aussi décourager, auto-stigmatiser, voire mal orienter, et c'est ce qui arrive ici aux deux protagonistes principaux du récit.
Car, comme le montre Caruso dans un texte qui n'oublie pas de faire référence à notre propre monde (et à ses Amish), il y a un risque énorme à laisser la justice entre les mains virtuelles d'algorithmes si complexes qu'on n'en comprend plus le raisonnement. Les banques d'affaire en ont fourni la preuve en 2008, et pourtant, si Minority Report n'est pas pour demain, un juge colombien a déjà utilisé une IA pour trancher un litige, et certaines polices utilisent des IA prédictives pour cibler des zones ou des personnalités criminogènes.
Commentaires