Avant-dernier article de notre série qui mélange science fiction et objets connectés. Rappel : nous avons déjà traité de Bienvenue à Gattaca, de Deus Ex et de Wall-e pour expliquer les dérives possibles d’une « technologisation » à outrance du corps humain. Aujourd’hui, nous verrons comment ces trois crises s’imbriquent dans une trilogie de science-fiction : le cycle de Takeshi Kovacs, de Richard Morgan (lisez-le, c’est genre très très bon).

Synopsis : Au 26e siècle, l’humanité s’est répandue à travers la galaxie, emportant ses religions et ses conflits raciaux dans la froide arène de l’espace. Tandis que ces tensions font rage et que de sales petites guerres éclatent tous les quatre matins, le Protectorat des Nations unies maintient une poigne de fer sur les nouveaux mondes, avec l’aide de ses troupes de choc d’élite : les Corps Diplomatiques.
En outre, la technologie a apporté ce que la religion ne pouvait garantir ; quand votre conscience peut être stockée dans une pile corticale et téléchargée dans un nouveau corps, même la mort n’est plus qu’un dérangement mineur. Tant que vous pouvez vous offrir un nouveau corps…
L’ex-Corps Diplomatique Takeshi Kovacs avait déjà été tué, avant ; c’étaient les risques du métier, mais sa dernière mort en date a été particulièrement brutale. Injecté à travers des années-lumières, réenveloppé dans un corps à San Francisco, sur la Vieille Terre, et balancé au centre d’une conspiration vicieuse (même selon les critères d’une société qui a oublié la valeur d’une vie humaine), il réalise bientôt que la cartouche qui a troué sa poitrine sur Harlan n’était que le début de ses problèmes… 
Un riche magnat demande à Takeshi de l’aider à élucider sa propre mort. La police a conclu à un suicide. Mais pourquoi se serait-il suicidé alors qu’il sauvegardait son esprit tous les jours, certain de revenir parmi les vivants ?…

(Source : Carbone Modifié, Bragelonne)

Cette trilogie s’appuie sur une technologie de rupture : la numérisation de l’esprit humain à grande échelle. Dans l’univers créé par Richard Morgan, la totalité de la population possède dans la colonne vertébrale une puce qui enregistre la conscience. On peut la récupérer en cas de mort du corps, pour la réimplanter dans une autre « enveloppe ». De là l’expression « carbone modifié » : il s’agit de corps humains cultivés en cuve, et augmentés cybernétiquement.

Cette technologie pourrait être l’un des aboutissements possibles du quantified self : pouvoir déterminer toute l’activité du cerveau humain pour la reproduire dans un nouveau corps en cas de besoin. Le processus mesure/feedback poussé à son paroxysme. Et l’auteur est bon car en trois tomes, il réussit à fouiller les conséquences de cette technologie, tant au plan moral que politique. Ce qui nous donne de quoi écrire.

A] Du totalitarisme

Dans le second tome, Anges Déchus, on rencontre un personnage nommé Sémétaire. C’est un vendeur d’âmes : il récupère sur les champs de bataille les puces des soldats morts au combat, puis les revend au poids à des acheteurs corporatistes. Sémétaire n’a aucune considération pour les personnes qu’il vend, c’est un marchand de morts qui ne savent même pas qu’ils le sont. Peu à peu, il devient pour Takeshi Kovacs un avatar de sa propre dégradation, en même temps qu’une allégorie de la stupidité de la guerre.

De la même manière que dans Bienvenue à Gattaca, la technologie de mesure devient technologie de choix. Les hommes sélectionnés par Sémétaire pour ses clients sont des rescapés, les autres n’ont pas autant de chance. Leurs puces disparaîtront dans la masse des victimes, sans espoir de retrouver un nouveau corps, tout comme les « invalidés » de Gattaca sont mis à l’écart de la société. La situation est bien sûr plus violente, sur un théâtre de guerre, mais la logique reste la même : à force de transformer l’humain en simple corpus de données brutes, on en fait une quantité négligeable.

B] De la décorporation

Dans Carbone modifié, premier tome, nous rencontrons Laurens Bancroft. Il s’agit d’un Math’, de Mathusalem, car il a vécu plusieurs centaines d’années. Ce qui le pousse à avoir une vision de l’humanité qu’on pourra qualifier de « détachée ». Difficile de prendre des gens de 30 ans au sérieux quand on a vu passer trois crises économiques et l’effondrement de plusieurs nations, comme il l’explique lui-même dans le livre. Avant le début, Bancroft se suicide pour échapper à une menace inconnue (en réalité un souvenir intolérable), et sa sauvegarde se réveille en ayant oublié les dernières 48 heures. Il appelle donc Kovacs pour élucider ce suicide qu’il ne comprend pas.

Bancroft est l’exemple d’une technologie qui consume l’humain, jusqu’à celui-ci perde contact avec ses semblables. Comme Adam Jensen, Bancroft perd sa condition d’être humain par le haut, en surpassant ses capacités. Il devient absent à sa propre espèce, totalement détaché. Ce faisant, il n’est plus poussé que par ses pulsions les plus primaires : sexe et instinct de conservation. La technologie qui devait le libérer du poids de la mort le renvoie finalement à l’état primitif de son espèce.

C] De l’assistanat

L’une des âmes recueillies par Sémétaire est celle de Sun Liping, une militaire qui s’est suicidé face à une attaque virale. Il s’agissait d’un virus nommé Rawling, qui cause des hallucinations et corrompt immédiatement la puce du porteur, la rendant inutilisable (ce qui correspond donc à une vraie mort). Sun Liping se suicidera à nouveau dans le livre quand l’équipe fera face à une technologie extra-terrestre qui menace à la fois leur corps et leur esprit.

On voit là l’effet de la facilitation à outrance de la vie par la technologie, tout comme la vie des humains était facilitée dans Wall-e. Face au danger, ce personnage ne cherche pas à trouver une solution pour faire face, elle se contente de se faire sauter la cervelle pour s’échapper. Littéralement. La technologie lui facilite l’existence (terme discutable mais valable dans ce contexte) au point qu’elle s’oppose à son instinct de conservation primaire, comme une béquille trop envahissante.

D] Contre-exemple

Il y a quand même un personnage qui nie totalement toutes ces dangereuses évolutions : Takeshi Kovacs lui-même.

Kovacs est un ex-membre des Corps Diplomatiques. à ce titre il subit une discrimination, il suscite la méfiance, tout comme Vincent Freeman de Gattaca. Cela ne l’empêche pas d’utiliser ses talents et le système lui-même contre lui. De la même manière que le prouve Vincent, il est possible de tromper un système même absolutiste en utilisant ses méthodes.

Puisqu’il y a stockage de l’esprit en données, il peut y avoir copie. Et c’est le cas pour Kovacs, qui se retrouve à deux reprises face à un autre lui-même, une fois allié, une fois opposé. Mais dans les deux cas, il se crée immédiatement dans le récit une différenciation entre les deux identités. Celle-ci annihile l’effet de perte d’identité, celui que subit Adam Jensen par sa transformation progressive en machine.

Il suit enfin une doctrine qui lui a été enseignée par son instructrice des Diplo’, « Définir la nature de la tâches avant de choisir ses outils ». Le succès de ses opérations, dans les différents livres, est essentiellement dû à sa détermination et surtout à sa capacité d’analyse. Kovacs fait avec ce dont il dispose, il travaille selon les situations présentes. Pourtant, il utilise exactement le même matériel augmentant que ses collègues. La différence est qu’il n’en fait pas une fin en soit. Il n’est pas esclave annexe comme les humains de Wall-e.

Cet article Quantified Self, objets connectés et science-fiction : Takeshi Kovacs est apparu en premier sur TuttiQuanti - Tout sur le Quantified Self : applis, objets connectés, sport, cigarette, régime, ....

Troisième partie de notre série de la semaine, consacrée aux objets connectés et à la science-fiction. Après Bienvenue à Gattaca, où l’on imaginait les données personnelles au service d’une institution totalitaire ; après Deus Ex, où l’on s’interrogeait sur la servitude de l’homme face à la technologie ; voici venir la technologie comme fin en soi, avec le film d’animation WALL-E.

Synopsis : Faites la connaissance de WALL-E (prononcez « Walli ») : WALL-E est le dernier être sur Terre et s’avère être un… petit robot ! 700 ans plus tôt, l’humanité a déserté notre planète laissant à cette incroyable petite machine le soin de nettoyer la Terre. Mais au bout de ces longues années, WALL-E a développé un petit défaut technique : une forte personnalité. Extrêmement curieux, très indiscret, il est surtout un peu trop seul…
Cependant, sa vie s’apprête à être bouleversée avec l’arrivée d’une petite « robote », bien carénée et prénommée EVE. Tombant instantanément et éperdument amoureux d’elle, WALL-E va tout mettre en oeuvre pour la séduire. Et lorsqu’EVE est rappelée dans l’espace pour y terminer sa mission, WALL-E n’hésite pas un seul instant : il se lance à sa poursuite… Hors de question pour lui de laisser passer le seul amour de sa vie… Pour être à ses côtés, il est prêt à aller au bout de l’univers et vivre la plus fantastique des aventures !

(Source : Allociné)

WALL-E Est tout d’abord l’histoire d’une planète Terre ravagée par l’être humain, qui a décidé de s’enfuir dans l’espace, le temps que la vie revienne au sol. On peut considérer qu’il s’agit d’un « conte écologique » : Wall-e est un robot nettoyeur qui développe une conscience en même temps qu’il comprend sa propre solitude. Celle-ci va être brisée par l’arrivée d’EVE, un nouveau robot envoyé pour vérifier le retour de la vie (sous la forme d’une plante). EVE va ensuite retourner au vaisseau humain pour rapporter sa découverte, suivie par Wall-e.

Il n’y a que peu d’enseignement, dans notre cas, à tirer de cette partie. Le problème des déchets s’applique autant à l’emballage d’un yaourt qu’à celui d’un capteur. Et puis comment parler de l’usage de la technologie par l’humain… Quand il n’y a pas d’humain ?

La partie qui nous intéresse est la seconde moitié du film. Wall-e arrive dans un immense vaisseau spatial où la plupart des besoins des résidents sont remplis par une armée de robots. Ils sont obèses, vivent en permanence dans des fauteuils antigrav’ qui les mènent d’un point à un autre, et ne sont même plus capables de se lever. Même leur capitaine en est réduit à faire un discours le « matin » (évidemment, dans l’espace, le cycle jour-nuit est artificiel) à ses administrés, avant de se laisser porter le reste de la journée. En réalité, la plupart des tâches sont assurées par l’ordinateur central, Auto, une sorte de version pervertie du HAL 9000. Celui-ci prend en compte en permanence les besoins des habitants et les satisfait.

C’est ici que les choses se gâtent.

Un monde parfait ?

Le vaisseau Axiom est en quelque sorte devenue un unique organisme au service des humains. Il quantifie les besoins en direct, ce qui le pousse à les standardiser pour plus d’efficacité. Il arrive même qu’il les suggère, lorsqu’il propose aux habitants, tous habillés en rouge, de passer au bleu. Ceux-ci s’exécutent immédiatement : la boucle est bouclée.

Paradoxalement, ce système gère la vie des humains sans pour autant s’assurer de leur santé, alors qu’il en a les moyens. C’est là que se trouve la dérive : le corps quantifié devient simple entité productrice de données, qui appellent des réponses du système, parce que c’est la fonction de ce système. Mais le système n’a pas besoin de l’humain pour survivre.

On peut faire une analogie avec les différents capteurs que nous utilisons. Le principe est le même : une demande > un feedback. Pour le moment, le feedback intervient seulement sous forme de données personnelles, éventuellement partageables. Mais après ?

La domotique prend de l’ampleur, les capteurs se portent de plus en plus près du corps (voir même à l’intérieur, comme on l’a vu hier). Ils communiquent avec nos professionnels de santé, nos proches. Nous avons des frigos qui remplissent eux-mêmes la liste des courses, des machines à laver qui s’adaptent au vêtements placés à l’intérieur. Ces évolutions sont indépendantes pour l’instant, et sans conteste, elles facilitent la vie de leurs utilisateurs.

Le problème survient lors de l’interconnexion des technologies. Par exemple, allier la Hapiforks, la Smart Food Scale, le frigo intelligent et une application comme Poidscible. Toute votre alimentation sera monitorée du début à la fin par une machine qui vous dira quoi acheter, comment le cuisiner et comment le manger. Toute sortie du processus sera sanctionnée par l’un ou l’autre des services, car moins performant.

L’homme du futur, sans sa béquille lui apportant les réponses.

L’humain n’est plus assisté par la technique, c’est la technique qui devient prioritaire et l’humain secondaire. Le « pourquoi » est peu à peu cannibalisé par le « comment » (on rappellera que le mot « technique » vient du grec technè, qui à l’époque désignait « la manière dont les choses sont conçues »). Il faut voir ce problème comme étant d’ordre ontologique, qui a trait à la nature même de l’homme* : de sujets, nous devenons objets.

C’est le troisième et dernier risque que l’on pourrait imputer à l’évolution des objets connectés que nous traitons ici, le troisième « dépassement ». La profusion des données peut être utilisée à l’usage d’un totalitarisme soft, qui ne dirait pas son nom. Elle peut être si liée à l’homme qu’on ne voit plus la différence ni physique ni morale entre les deux. Ou elle peut dépasser l’homme, qui devient donc une simple composante du système. Une composante annexe au final, puisque l’interconnexion prend les décisions d’elle-même, selon sa logique.

Pas besoin d’imaginer une intelligence artificielle pour ça.

*et au passage, le rédacteur comprendrait très bien que ça ne vous intéresse pas.

Cet article Quantified self, objets connectés et science-fiction : WALL-E est apparu en premier sur TuttiQuanti - Tout sur le Quantified Self : applis, objets connectés, sport, cigarette, régime, ....