Futurologie : faut-il s’inquiéter de l’impact des technologies sur l’avenir de l’humanité ?

Une des conférences les plus intéressantes de l’édition 2018 du web2day était celle donnée par Jean-Christophe Bonis, « Homo Deus ou le syndrome de Peter Pan. » Ce futuriste, dirigeant de la société Oxymore, abordait le thème des conséquences que la technologie peut avoir sur notre vie quotidienne, aujourd’hui et dans le futur. A une époque où la science-fiction est devenue réalité, et sans parler de bien ou de mal, jusqu’où peut-on aller dans le développement de technologies aux contours moraux flous ? Quelle est notre responsabilité face au futur que cela peut engendrer ? Quels contrôles existent pour ne pas tomber dans un futur dystopique ? Cette conférence nous a donné envie d’aller plus loin dans l’échange. Dans cette interview, Jean-Christophe Bonis revient sur l’importance de se poser les bonnes questions sur la technologie, d’avoir des penseurs qui s’emparent du sujet et sur les risques et opportunités qui s’offrent à nous.

Peux-tu présenter ton parcours ?

J’ai eu deux parties de carrière. Pendant 8 ans, j’ai travaillé pour des fonds d’investissement en tant que prospectiviste. La crise de la trentaine a fini par me faire me questionner sur le sens de mon travail. Pourquoi fais-je ce job ? Quel est mon apport à la société ? Je n’ai pas été capable d’y répondre, c’était un problème pour moi. J’ai donc décidé de tout stopper, j’ai tout vendu et je suis parti faire un tour du monde. J’ai rencontré des gens, je suis parti à la quête de réponses. J’ai créé ma société Oxymore dans cette logique.

Aujourd’hui, je suis futuriste, dans le sens anglo-saxon du terme. Je ne suis pas un spécialiste de la technologie, même si je la connais bien, je suis un spécialiste de l’usage. Je scanne tout ce qu’il se passe à travers le monde, j’intègre des données (culturelles, historiques…) pour tenter de comprendre en quoi la technologie impacte le comportement des consommateurs et trouver un lien entre ce qu’il s’est passé dans l’histoire ancienne ou récente et ce qu’il se passe aujourd’hui, de manière à anticiper les 15, 20 prochaines années. Quelles seront les conséquences futures des technologies que l’on développe actuellement ?

Tu insistes beaucoup sur l’importance de se poser les bonnes questions sur l’évolution de la technologie…

L’introduction de l’imprimerie au quinzième siècle a créé une rupture majeure de l’évolution humaine. Elle a permis de mettre à la disposition de monsieur et madame tout le monde la possibilité de transmettre ses idées, il était donc désormais possible de diffuser des idées autres que la pensée étatique ou religieuse imposée. C’est l’origine de ce qu’il s’est passé au siècle des Lumières, qui a eu des implications très importantes dans le futur de l’humanité, notamment avec les théories émises par Descartes. Sa pensée se basait sur le fait que nous ne sommes plus une unité, mais chacun de nous est un élément autonome qui peut penser. Pendant ce siècle, la France était le leader intellectuel et culturel du monde. De grands penseurs ont alors émergé et ont donné leur vision du monde. Il est très important qu’au vingt-et-unième siècle, des hommes et des femmes se posent de nouveau les bonnes questions. Non pas pour y répondre de manière péremptoire, mais pour éviter de toujours faire les mêmes erreurs. Parmi ces questions, il y a celle de l’évolution des technologies et de leur contrôle par le privé. Il n’y a aucune coordination mondiale, aucun organe de contrôle qui peut juger l’éthique ou le bien-fondé des innovations en cours. Il faut revenir sur des schémas de béotiens, se poser les vraies questions, nourrir les gens pour qu’ils puissent développer leurs propres réflexions. Interroger et transmettre !

Qui guide actuellement les évolutions technologiques, entre public et privé ?

Les Etats-Unis ont inventé le concept de fonds d’investissement étatique qui investit dans les technologies du futur pendant la deuxième guerre mondiale : la DARPA. La DARPA (mais aussi la NASA) sont à la base de la plupart des innovations qui nous entourent. Elle a son équivalent en Russie, qui est à l’origine du fameux robot « Terminator » qui a défrayé la chronique il y a quelques mois (F.E.D.O.R. – Final Experimental Demonstration Object Research).

Ce dernier pose des problèmes éthiques profonds, car il se repose sur une intelligence artificielle à apprentissage non supervisé. C’est à ce robot et à son intelligence artificielle de définir ses cibles. On parle d’une arme autonome qui possède sa propre intelligence, nous sommes à l’opposé de tout ce que nous souhaitons bâtir. Les Russes ne sont évidemment pas les seuls à travailler sur ce genre de projet, d’autres pays comme les Etats-Unis ou Israël sont probablement occupés sur le sujet. Les Etats sont derrière ces projets, que ce soit de manière directe ou indirecte, en demandant au privé de les financer. En Chine, le système est plus pyramidal. Personne ne se pose de question, ou les questions sont réduites au silence. En Europe, on se pose peu de questions, on n’existe pas sur la carte du monde sur ces sujets. Comme aux Etats-Unis, les structures privées ont pris le pas sur les Etats.

Si on regarde les 20 sociétés qui disposent des plus fortes capitalisations au monde, le nombre d’entreprises chinoises présentes explose. La Chine est numéro 1 au monde en matière d’investissement sur l’intelligence artificielle, mais aussi sur le séquençage ADN. Ces technologies ne sont pas neutres. On peut très bien imaginer les utiliser demain pour disposer de la possibilité d’avoir un bébé éprouvette en choisissant la génétique associée : dextérité, force, traits physiques… On parle ici de modification génétique, de rupture génétique. Cela pose des questions, il faut faire attention aux réponses proposées.

Nous répétons à travers le temps les mêmes erreurs, mais les technologies évoluent de plus en plus vite. Les erreurs sont donc sources de conséquences de plus en plus lourdes ?

On ne regarde pas plus loin que le bout de notre nez. On va se dire « chouette, on a trouvé une techno capable de faire ça ! ». On ne va pas se poser les questions associées à la tectonique des plaques que cela va engendrer. Pour prendre une image, beaucoup de scientifiques sont comme un coureur cycliste qui grimpe l’Alpe d’Huez. C’est tellement dur qu’il ne regarde que les quelques mètres qui sont devant lui. Il est important que des personnes lui permettent de lever la tête du guidon, d’anticiper, de voir les obstacles potentiels, la bonne trajectoire, sans pour autant l’empêcher de pédaler. C’est le travail que doivent réaliser les journalistes et les personnes comme moi. Nous assistons à une augmentation drastique de la vitesse actuellement entre le réel et l’annoncé. Il y a également un caractère exponentiel de l’innovation et de ses retombées. Les spécialistes parlent d’un point de singularité pour 2034. Mais techniquement, on voit passer des choses aujourd’hui qui indiquent que cela s’accélère. C’est la problématique majeure, et la raison pour laquelle il faut que des gens réfléchissent différemment, prennent du recul et analysent ce qu’il se passe.

 

#Web2Day Conférence Homo Deus by le futuriste JC Bonis : « L’enjeu pour Google et Amazon est de développer une IA aussi puissante que celle du film « Her ». Le graal en #IA ? L’apprentissage non supervisé. » pic.twitter.com/h44hGsLPUR

— Patrice Lemonnier (@PatLemon) June 13, 2018

On ne peut parler d’évolution technologique sans parler de responsabilité sociétale…

Certains utilisent Schumpeter et sa théorie de la destruction créatrice pour parler d’une compensation des effets que la technologie pourrait avoir sur nos vies. Mais Schumpeter n’avait pas prévu un paramètre dans son équation : cette fameuse vitesse. Un exemple pragmatique est Tesla Truck. Quand les camions autonomes seront sur la route, et cela devrait arriver très vite, il s’agira de rentabilité immédiate pour les entreprises. Les parts de marché seront rapidement gigantesques. Rien qu’aux Etats-Unis, on compte 1,5 million de conducteurs de camions, qui pourraient se retrouver au chômage du jour au lendemain. Il est donc primordial d’ajouter au schéma technologique un schéma humain, social, sociétal, pour éviter une instabilité sociale trop forte. Un rééquilibrage est nécessaire.

Ce sujet de la responsabilité sociétale va très loin. Dans toute technologie, la question du bien et du mal se pose. Or nous ne sommes personne pour imposer ce qu’est le bien ou le mal à une autre nation et réciproquement. C’est une question d’éducation, de religion, d’environnement, de culture… C’est très subjectif ! Que va-t-on apprendre aux robots demain s’ils sont autonomes ? Dans le cas de robots utilisés par l’armée, par exemple ? La seule voie de passage n’est pas d’expliquer le bien et le mal, mais de donner une éducation ou des codes d’éducation à ces machines qui sont dans l’auto-appréhension de leur entourage. Cela leur donnera des bases pour comprendre en autonomie ce qui est bien et ce qui est mal. Plus globalement, il est urgent d’avoir une coordination mondiale sur ce qui doit et ne doit pas être fait.

C’est une vision très négative du monde, quelles sont les solutions ? Est-on condamnés à subir la technologie ?

Dans l’univers des start-ups, la logique de l’obstacle est pluri-quotidienne. Quand on rencontre un obstacle, il y a deux possibilités : on est capable de répondre à la problématique, ou non. Sur un schéma de ce type, a-t-on la possibilité de répondre à la problématique ? Non, car les intérêts ne sont pas convergents à court terme. Un deal réussi commence toujours par trouver les éléments sur lesquels les deux partis se rapprochent. Dans le cas des technologies, nous sommes tous d’accord pour dire qu’à terme, il y a un problème environnemental et sur l’impact que la technologie peut avoir sur nous en tant que société, en tant qu’humain. Si nous sommes d’accord là-dessus, mais pas sur la route à emprunter pour solutionner ces problèmes, il va falloir trouver des solutions sur la manière d’avancer ensemble, étape par étape. C’est un enjeu politique, stratégique, diplomatique, mais la société civile et économique a également son rôle à jouer. Il faut réorganiser les écosystèmes. J’aime beaucoup comparer cela à ce qu’il se passe dans les pays émergents. On ne fait pas confiance aux hommes, mais aux femmes, pour diriger les écosystèmes. C’est le cas en Inde sur les micropaiements, au Brésil sur l’éducation, ce sont toujours aux femmes, aux mères, que l’on va confier les clés du temple car ce sont elles qui sont à la manœuvre. C’est une démarche intéressante. Identifions dans les écosystèmes, quels que soient leurs tailles, des points de passage, des clés qui vont réussir à faire bouger les lignes, qui seront différentes selon le pays, la religion, la culture…

Black mirror bientôt une réalité en Chine ? C’est pour 2020, ne paniquons pas ! Le #Web2day démarre fort avec cette conférence « Homo Deus ou le syndrome peter pan » par @jcboxymore #Web2day pic.twitter.com/dO9IRkxPye

— Pauline Lebrun (@pauline_lebrun3) June 13, 2018

Une solution plus globale n’est pas possible ?

C’est un enjeu de timing. Quel est l’organe qui a actuellement la légitimité de faire quelque chose ? L’ONU. C’est la seule organisation qui est capable de réunir des représentants de quasiment tous les pays du monde autour d’un même sujet. D’un point de vue politique, c’est donc par l’ONU que les choses peuvent avancer. Mais je pense qu’il ne faut surtout pas donner les rênes aux politiques, il faut qu’ils soient dans l’état d’esprit de donner de la légitimité, de la crédibilité à un mouvement sociétal. Cet enjeu, en termes de timing, est compliqué.

Les technologies ne sont pas nécessairement négatives… Comment faire la distinction entre risques et opportunités ?

La technologie est neutre. Ce sont les gens qui l’utilisent parfois de la mauvaise manière. Tout l’enjeu est là. Nous avons des pouvoirs forts dans nos mains, mais nous n’avons pas, collectivement, la maturité nécessaire pour répondre aux hautes responsabilités que de grands pouvoirs réclament.

Des chaires de psychologie ont été montées depuis des années dans de grandes universités partout dans le monde pour étudier l’impact psychologique et psychiatrique chez l’homme de son rapport sentimental avec la machine. Pour prendre un exemple simple, de nombreuses personnes âgées se sentent désespérément seules. On va pouvoir mettre à leur disposition des machines qui vont leur redonner de l’autonomie, de la sécurité, qui leur permet potentiellement de rester indépendantes. Quand ces machines seront capables d’avoir une conversation, ce qui sera le cas très prochainement, cela va nécessairement créer des liens affectifs, elles deviendront comme un membre de la famille. C’est une évolution de la société qui est liée à la technologie.

Le problème se pose ailleurs pour moi : si de tels robots existent demain, ce bon usage pourrait être dévié par d’autres individus ou organisations, qui s’en serviraient dans des buts autrement plus inavouables ou pervers. Robots sexuels, robots que l’on peut tuer pour le plaisir… Jusqu’où peut-on aller avec une machine qui peut avoir un commencement de conscience de soi ? Actuellement, les machines sont très efficientes, mais elles ne comprennent pas. Que se passera-t-il quand elles commenceront à le faire ? La science-fiction est en train de devenir réelle, nous vivrons ces problématiques dans les décennies qui arrivent.

Autre point important : à chaque fois que l’homme a rencontré une nouvelle espèce, il y a eu des tueries à grande échelle. Que va-t-il se passer quand on verra apparaitre des humains « augmentés », que ce soit de manière génétique ou technologique ? Comment réagiront-ils face aux humains aux capacités normales ? Ce sont des problématiques majeures, aux enjeux titanesques. On ne se pose pas assez ces questions.

@jcboxymore : « sur toutes les scènes #tech actuelles, pas une fois on se pose la question de l’#ethique de notre responsabilité d’Homo Deus , or c’est la question de notre humanité qui en dépend ! » #web2day cc #FlashTweetTeam pic.twitter.com/m63eECUWvP

— Kalaapa (@kalaapa) June 13, 2018

Mais ne faut-il pas tout bonnement interdire certaines innovations ou développements ?

Si ce n’est pas toi qui le fait, quelqu’un d’autre le fera à ta place. Je ne dis pas qu’il ne faut pas faire, mais plutôt qu’il faut faire en se posant les bonnes questions. L’intelligence artificielle est l’arme nucléaire du 21ème siècle. Celui qui la maitrisera, de manière politique, économique ou militaire, aura une avance incroyable sur les autres.

Tout cela n’est pas très réjouissant…

Mais il ne faut pas oublier l’autre face, qui est somptueuse ! L’autre face, c’est par exemple la capacité que cette technologie va nous donner à répondre au mal du siècle qui est le cancer. Nous avons actuellement une médecine de masse. Nous utilisons des médicaments, des molécules qui ont des effets dévastateurs sur de nombreuses personnes. Demain, en connaissant l’ADN des patients, nous serons capables de programmer des cellules pour chaque individu. Ces cellules vont réagir de la manière que l’on souhaite en fonction de divers facteurs : cholestérol, alcoolémie, … Nous allons arriver à une médecine personnalisée, facilitée par les biotechnologies. C’est une perspective réjouissante pour l’homme ! Un autre point très positif concerne les nanotechnologies. Elles s’attaquent à des problèmes environnementaux que nous ne sommes pas capables de solutionner depuis des centaines d’années, comme celui du plastique.

Pour moi, il n’y a pas de notion de bien et de mal dans la technologie. Le fait que nous ayons sur la table, pour la première fois de notre existence, toutes les options, de la pire à la meilleure, est cependant un problème. Des options qui étaient de l’ordre du fantasme à un moment pas si lointain de notre histoire sont passées à l’ordre de la réalité. C’est pour cela que nous avons besoin de penseurs, de personnes capables de comprendre les enjeux et de proposer des règles. Il faut des leaders d’opinion dont l’objectif n’est pas politique, mais plutôt social et sociétal. Et il faut que chacun prenne conscience des enjeux, que chacun fasse sa part à son niveau, avec ses moyens.

> Crédit photo de une : Kalaapa