Les Furtifs ou l'enfer des "pig data"

J'ai dévoré "Les Furtifs" cet été. Un roman d'anticipation d'Alain Damasio paru au printemps absolument superbe dans sa forme comme dans le fond et dont certains messages ne sont pas sans intérêt pour nos métiers.

La forme: plusieurs narrateurs avec des points de vue et des styles différents repérables par leur style de ponctuation! Entre Boris Vian, Barjavel, Queneau et Kundera, l'écriture est parfois très dense et philosophique, parfois légère et très poétique.

Hyperpersonnalisation à tous les niveaux

Le fond: nous sommes en France en 2040. Le monde est devenu ultra libéral et le digital, les drones, le "pig data" et l'IA sont partout. L'État est quasiment en faillite tout comme les villes rachetées par des marques (Paris par LVMH, Lille par Auchan, Orange par ... Orange). Tout le monde ou presque porte une bague à la fois smartphone, ID, porte-monnaie et traceur. Elle permet notamment de personnaliser l'ensemble des interactions avec le monde extérieur et la Réalité Ultime (réalité virtuelle ultra-personnalisée). C'est de l'hyperpersonnalisation à tous les niveaux!!

A côté de ce monde sous contrôle consenti, des bandes de pirates et de hackers font front et prennent d'assaut des tours privées réservées aux nantis, des îles sur le Rhône et même Porquerolles. Enfin, et c'est le plus important, de nouveaux êtres vivants ont été identifiés: les Furtifs. Au croisement du minéral, du végétal et de l'humain, ils possèdent des dons exceptionnels: ils mutent sans cesse, savent se glisser dans l'angle mort des humains, génèrent des sons singuliers et créent des graphes que l'on retrouve à certains endroits. Véritable métaphore de la liberté énergique, vivante et créative, ils sont traqués par l'armée pour être étudiés, capturés et/ou tués.

Voilà pour le contexte. L'histoire: un couple part à la recherche de leur fille de 4 ans disparue bizarrement un soir de sa chambre. Persuadé qu'elle a été enlevée par les Furtifs, Lorca, le père, se fait engager par l'armée pour tenter de la retrouver... Je n'en dirai pas plus !

Bulles hyper-personnalisées mais closes sur elles-mêmes

Inspiré par les philosophies de Bergson, Deleuze ou encore Foucault, l'auteur décrit un monde possible dans lequel la liberté, la recherche paresseuse du confort et la surveillance jouent un jeu terriblement dangereux: "Les paramètres sont à l'art du contrôle ce que les maîtres ont été à l'art de gouverner. Nous paramétrons nos conforts et nous sécurisons nos mondes pour qu'à l'intérieur rien ne nous arrive de plus que ce que nous voulons qu'il nous arrive: rien.". La multiplication des dispositifs digitaux et autres assistants personnels automatisés emprisonnent les individus dans des bulles hyper-personnalisées et hyper-sécurisées mais closes sur elles-mêmes, peu propices à la rencontre, à la créativité et en définitive à la vie.

Si je ne partage pas certaines convictions politiques de Damasio, il faut reconnaître que l'analyse philosophique sous-jacente à ce texte fait réfléchir. En hypertrophiant le présent, Damasio explore jusqu'à l'absurde des signaux faibles plus qu'inquiétants. La société de contrôle qu'il expose est horizontale et automatisée à l'inverse de celle du Orwell de 1984. Il n'y a pas de Big Brother, mais un enfermement consenti et une surveillance en mode peer to peer. La bague permet un "bouclage enfin féroce de l'individu sur lui-même".

L'hyper-personnalisation est un procédé extraordinaire et très efficace. Nous le savons bien en marketing digital. Mais comme toute technologie, elle a un côté sombre et porte en elle des conséquences qui peuvent être dangereuses. C'est la "bulle de filtres" décrit par Elie Pariser. Les filtres et autres algorithmes nous enferment dans une bulle informationnelle qui décide pour nous et qui restreint progressivement à notre insu notre liberté.

"C'est la tech pour la tech qui nous enferme"

Pour l'éviter, il faut que les algorithmes et la data soient exploités de manière transparente. Il faut que les consommateurs soient informés et donnent leur consentement. Il faut surtout apporter du sens à ces dispositifs qui en manquent trop souvent encore. C'est la tech pour la tech qui nous enferme. Les concepteurs doivent prendre un peu de recul et apporter sens et pertinence aux dispositifs qu'ils mettent en place. C'est tout l'enjeu de l'éthique de l'I.A. d'un côté et du design data driven responsable de l'autre.
Dans cet avenir emprisonné par les algorithmes, les furtifs symbolisent merveilleusement bien l'énergie libre et créative qui est sensée nous animer naturellement. Une énergie que l'humanité risque de perdre si elle tombe dans l'addiction digitale globale sans prendre un minimum de recul. Le furtif, c'est la vie anarchique, enfantine, ingénue et insouciante qu'aucune IA ne peut simuler et encore moins remplacer. C'est la part de créativité, de risque, de sérendipité et de folie qu'il faut conserver et qui fait notre singularité. L'auteur donne cette définition de FURTIF: "Fuir Un Réseau Trop Intrusif, Fuir!" A méditer !