Jusqu’où ira l’intelligence artificielle?

Un dossier publié dans Paris Match Belgique le jeudi 22 septembre 2016.

Pepper est déjà une star au Japon, où il est devenu un membre à part entière de nombreux foyers. En Belgique, c’est dans des hôpitaux et des établissements commerciaux que ce robot humanoïde qui nous veut du bien va bientôt faire ses premiers pas. Si la réalité ne rejoint pas encore la fiction, un nouveau monde est toutefois en train de naître où l’homme et les machines – toujours plus intelligentes – seront de plus en plus interdépendants. Un monde porteur d’espoir mais aussi d’interrogations, voire de dangers. Au regard des recherches qui sont menées dans certains laboratoires privés, Pepper est en effet un mignon petit robot relativement primitif. Les évolutions possibles de l’intelligence artificielle posent bien des questions, dont la plus cruciale n’est autre que celle de l’avenir de l’espèce humaine. C’est ce qui ressort notamment d’un passionnant entretien avec le professeur Damien Ernst, chercheur en intelligence artificielle à l’Université de Liège. Il nous parle de ces recherches qui pourraient déboucher sur la création d’une « machine qui sera la même chose que nous, (qui) pensera, au sens littéral du terme. » Une machine « consciente » de son existence et potentiellement très dangereuse pour l’homme…

C’est aussi une histoire belge

Présenté au Japon en juin 2014, le jeune Pepper a des origines françaises. C’est le dernier né de la famille de robots imaginés par Aldebaran Robotics, rebaptisée SoftBank Robotics depuis que cette société parisienne a été rachetée par des capitaux asiatiques. Ses parents décrivent le petit rejeton tel une machine humanoïde « bienveillante, attachante et surprenante ». Mesurant 121 cm pour un poids de 28 kilos, Pepper se déplace très facilement, sur 360°, à l’aide de trois petites roues omnidirectionnelles. Personnage se voulant relax, il ne dépasse pas les 3 km/h. Disposant de nombreux capteurs, il évite les collisions, détecte les mouvements des personnes qui se trouvent près de lui et, cela intrigue, les suit du regard. Quelque vingt moteurs lui permettent de bouger tête, bras et dos avec beaucoup de précision pendant la dizaine d’heures de vie artificielle que lui garantissent ses batteries au lithium. Selon SoftBank, « Pepper a été conçu pour devenir un véritable compagnon du quotidien, avec pour qualité première la perception des émotions. Pepper est le premier robot humanoïde capable de reconnaître les principales émotions humaines et d’adapter son comportement en fonction de l’humeur de son interlocuteur. De nombreux magasins japonais utilisent Pepper pour accueillir, informer et divertir les clients et, depuis peu, il est aussi le premier robot humanoïde à avoir rejoint les foyers japonais » !

En Belgique aussi, Pepper est en train de prendre ses quartiers dans plusieurs hôpitaux, hôtels et commerces, où il interagira bientôt avec les patients/clients pour les informer et les guider. Programmé par d’autres pionniers de la robotique, la société ostendaise Zora Bots, le « Pepper » belge ne prétend pas, quant à lui, décoder les émotions de ses interlocuteurs. A l’inverse, il en créera certainement par ses attitudes calquées sur celles de l’homme, ses yeux expressifs et sa mignonne petite voix qui a réponse à tout.

Sa vocation : assister le personnel d’accueil dans des tâches répétitives, aider, accompagner. Avenant et sympathique, le petit bon – homme est promis à bel avenir en Belgique. A l’instar de son aîné, le petit Nao (58 cm, 6 kilos), rebaptisé Zora sur le marché belge, qui fut le premier robot humanoïde à signer un « contrat de travail » avec des humains en octobre 2013. Cet événement mondial que l’on devait déjà aux Ostendais de Zora Bots se déroula à l’Hôpital universitaire de Gand où, depuis lors, cette petite machine bardée de logiciels divertit et rassure les enfants du service pédiatrique. Dans la foulée, quelques C’est aussi une histoire belge 300 maisons de retraite et hôpitaux lui ont emboîté le pas ! Zora assiste le personnel, avec un enthousiasme toujours égal, dans le cadre d’exercices physiques d’entretien ou de revalidation. Il invite à lever les bras, à plier les jambes… Mais il lui arrive aussi de raconter des histoires, de chanter ou de danser. Ce n’est pas encore R2-D2, mais un jour, peut-être…

Ces robots qui nous veulent du bien…

Bonjour, puis-je vous être utile ?
– Oui, je cherche le service de radiographie.
– Le service de radiographie se trouve au deuxième étage, couloir de gauche. Suivez-moi, je vais vous guider jusque-là. Désirez-vous passer préalablement par la librairie ? Elle se trouvera sur notre chemin.

Nous voici dans l’hôpital du XXIe siècle. C’est « Pepper » qui vous accueille avec beaucoup de cordialité. Bien qu’il ne s’agisse pas d’une personne, il en a l’allure. On le croirait même animé par une certaine empathie, tant il se montre poli et prévenant. Des robots humanoïdes comme celui-là, on en verra de plus en plus dans les prochaines semaines
en Belgique.

Au CHR de la Citadelle à Liège, l’un des premiers hôpitaux belges à se lancer dans une collaboration avec ce type de machine, le directeur des systèmes d’information, Benoît Degotte, se réjouit : « Nous disposions déjà de trois robots de type Zora que nous utilisons en pédiatrie, en gériatrie et pour des exercices de revalidation. Pepper sera présent dans notre hall dès le mois d’avril. La possibilité qu’il accompagne des personnes dans différents endroits de l’hôpital pourrait être développée plus tard. Cela nécessiterait un investissement complémentaire, le placement de balises, alors qu’il y a 15 km de couloir à couvrir. Dans cette première phrase, il se contentera donc de donner diverses informations aux patients et visiteurs. Il permettra aussi d’en récolter dans le cadre d’enquêtes de satisfaction. L’idée n’est pas du tout de remplacer du personnel humain, mais de libérer nos employés de tâches rébarbatives, comme répéter 200 fois par jour une même information. Près de 2 500 personnes passent chaque jour par le hall d’entrée de l’hôpital, Pepper sera un renfort bien utile ! »

Les services qui peuvent être rendus par Pepper se déclinent à l’envi. Dans une surface commerciale, il sera très bientôt capable de montrer aux clients où se trouve un produit, tout en signalant au passage des promotions. Et en prodiguant, pourquoi pas, des conseils personnalisés en fonction des habitudes d’achat, puisque le petit bonhomme est «connecté» en WiFi et que ses capteurs pourraient aisément reconnaître les clients qui accepteraient de s’identifier avec leur carte de fidélité. Pas étonnant que des chaînes comme Zeb et Mediamarkt Belgique aient d’ores et déjà passé commande de plusieurs exemplaires du robot humanoïde.

On peut aussi envisager le petit personnage commentant des œuvres d’art dans un musée, assistant un bibliothécaire ou plaçant des personnes dans une salle de spectacle. Des hôtels, par exemple ceux de la célèbre multinationale Marriott, sont d’ores et déjà acquis à l’idée de voir leurs équipes d’accueil renforcées par Pepper… «Notre robot est un Pepper tout à fait spécifique, un “Pepper belge” complétement configuré à Ostende en termes de software. J’ajouterais qu’il est en “formation permanente”! Après sa livraison, on recontacte nos clients toutes les trois semaines pour établir la liste de leurs besoins, les applications qu’ils souhaiteraient voir développer. A charge pour notre équipe de programmeurs d’y arriver», précise Fabrice Goffin. 

Cet admirateur de R2-D2, le robot de «Star Wars», a créé la société belge Zora Bots avec son associé Tommy Debliek. L’homme que nous rencontrons dans ses bureaux flambant neufs, à deux pas de la reine des plages, est très  enthousiaste : «Pepper n’est entre nos mains que depuis quelques mois mais, déjà, le champ des possibles ne se cesse de s’élargir. Par exemple, il se trouve actuellement à l’aéroport d’Ostende pour souhaiter la bienvenue aux passagers, mais on s’est rendu compte qu’il pourrait aussi, à l’avenir, jouer un rôle utile en termes de sécurité: ses caméras  HD et 3D filmant pratiquement à hauteur d’homme pourraient être couplées avec des logiciels de la police pour repérer et suivre des personnes suspectes.»

Disposant aussi d’un portefeuille de clients à l’international (et même au Japon), les Belges de Zora Bots se développent à grande vitesse : « Il y a deux ans, nous étions deux, aujourd’hui nous employons trente-six personnes. Et nous recherchons du monde ! Il y a pénurie de programmeurs et d’informaticiens en Belgique», explique son co-CEO. La start-up attire les convoitises: «Nous avons reçu des offres de rachat. Panasonic nous a proposé de nous installer aux Etats-Unis, mais nous avons refusé. Nous voulons écrire une belle histoire entrepreneuriale, une histoire belge.» Et Ostende suit le mouvement en devenant petit à petit une ville “welcome-robots”. Une académie de robotique créée en collaboration avec l’université de Plymouth y verra bientôt le jour. La philosophie de ces Belges qui innovent se résume en ces quelques mots. «On ne prétend pas que nos robots sont des condensés d’intelligence artificielle. Plutôt qu’un gadget compliqué, nous offrons à nos clients une solution très facile à utiliser et très modulable, qui les débarrasse de tâches répétitives, le fait de dire cent fois par jour que tel service se trouve à tel endroit, par exemple. Cela libère leurs collaborateurs pour des missions plus créatives ou plus complexes. Il ne s’agit donc pas de prendre l’emploi des humains, mais de les assister, de les 
aider», insiste Fabrice Goffin.   

Une machine qui nous veut du bien, en quelque sorte. Mais sera-ce le cas de tous les robots à venir ? Evoquant les  développements probables de la robotique, le célèbre futurologue Jeremy Rifkin annonce la disparition de plus de 
150 millions d’emplois industriels dans le monde d’ici à 2040. Catastrophiste ? «Pas du tout! Rifkin sous-estime peut-être l’impact qu’aura l’intelligence artificielle sur nos sociétés», alerte Damien Ernst, professeur et chercheur en intelligence artificielle à l’Université de Liège. Cet expert estime aussi que « le monde politique anticipe mal, voire pas du tout, l’ébranlement que va connaître le monde dans les années à venir. En Chine, par exemple, des téléphones portables sont déjà montés de A à Z par des robots. Cela préfigure l’avenir: tous les emplois nécessitant une main d’œuvre “low tech” sont voués à disparaître. Nos sociétés commencent seulement à être secouées par ces avancées technologiques, mais elles vont l’être nettement plus à court terme. Il faut comprendre que de très nombreux chercheurs en robotique, en intelligence artificielle, en “machine-learning” sont désormais bien financés par l’industrie. Leurs avancées s’accélèrent. Qu’un robot prenne un objet, le pince, le dépose ou encore marche, c’est déjà du réchauffé. Le challenge aujourd’hui, c’est tout ce qui touche aux mécanismes de prise de décision demandant des “facultés cognitives” assez élevées. Et cela va changer beaucoup de choses! »   

A titre d’exemple, le chercheur belge nous parle des voitures autonomes. «Les premières, encore un peu chères, sont déjà disponibles à la vente. Mais en 2020, elles seront déjà beaucoup plus nombreuses. 2020, ce n’est pas 2030! Il y a une forte probabilité que ce marché démarre de la même manière que les téléphones portables dans les années 1990. Quand la technologie sera totalement au point, passer de la voiture “normale” à la voiture autonome ne coûtera pas grand-chose. Quelques petites caméras, un radar, le prix de ces voitures se démocratisera très vite. Cela va provoquer d’énormes changements en termes de mobilité, auxquels notre société ne se prépare pas du tout! On planifiera le tram à Liège, le RER en Région bruxelloise, alors que la notion même de transport public sera remise en cause par les véhicules autonomes! Vous disposerez alors d’une application sur votre smartphone pour appeler un taxi sans chauffeur et cela aura de multiples conséquences: ce système sera meil eur marché que les transports publics, le métier de conducteur va disparaître et les gens, naturellement, privilégieront l’usage de la voiture sur sa possession. Derrière cette évolution, il y a la mise au point d’algorithmes de prise de décision sophistiqués. Déjà aujourd’hui, quand Uber décide d’envoyer tel chauffeur à tel endroit, c’est du traitement de l’information par de l’intelligence artificielle.»  

Dans un récent livre consacré au futur (1), le philosophe français Jean Staune prévient: « Il faut bien avoir en tête une règle simple : tout ce qui est automatisable sera automatisé! La grande question est donc : qu’est-ce qui n’est pas automatisable?» L’exemple des caissières de supermarché commence à être perceptible et tout le monde comprendra aisément que cette activité est vouée à rejoindre celle des allumeurs de réverbères dans la galerie des métiers du temps jadis. Selon Staune, 80 % des emplois dans ce secteur auront disparu avant 2040! Mais ce scientifique évoque bien d’autres exemples, parfois surprenants, de métiers en péril: «Demain, un avatar de professeur répondra à 90 % des questions posées par les élèves. Ce ne seront pas des vidéos préenregistrées, mais un automate programmé sous l’égide du professeur lui-même pour, à partir d’une base de données, fournir les réponses aux questions les plus fréquentes et faire appel au professeur en chair et en os seulement dans les cas les plus difficiles et les plus techniques. Le même système sera mis en place pour des avocats et beaucoup d’autres professions libérales.»  

Le professeur Damien Ernst complète le tableau: «Les bouleversements sociaux à venir vont poser d’énormes questions en termes de gestion du temps de travail mais aussi en termes de redistribution des richesses, d’organisation du temps libre… Il est urgent d’en débattre, mais nous nous comportons comme les acteurs du cinéma muet à l’époque de l’apparition de cinéma parlant. Beaucoup de ces artistes nièrent que le monde était en train de changer. Cela se passait pourtant devant leurs yeux! Incapables de s’adapter à l’évolution technologique, la plupart d’entre eux disparurent. A l’instar des dinosaures pendant la préhistoire.»

Ces robots qui pourraient nous vouloir du mal…

Au regard des recherches qui sont menées dans certains laboratoires, Pepper est un mignon petit robot assez primitif. Les évolutions possibles de l’intelligence artificielle  posent bien des questions, dont la plus cruciale n’est autre que celle de l’avenir de l’espèce humaine. 

« Pepper » vous impressionne ?
Damien Ernst, chercheur en intelligence artificielle à l’Université de Liège. Non, les modules d’intelligence artificielle (IA) implémentés dans ce type de machine sont largement en dessous du «state of the art». Le processus cognitif de cette machine n’est pas comparable à ce qui se passe dans un cerveau humain. Pour dire les choses simplement: le robot a enregistré une relation «entrée-sortie». Les informations, sous forme de sons ou d’images perçues par ses différents capteurs, celles introduites via sa tablette, via le net ou une connexion Bluetooth, sont traitées par Pepper pour en extraire des «features», des caractéristiques de haut niveau, auxquelles il associe des réactions préprogrammées. Mais, depuis trois ou quatre ans, ce fonctionnement par extractions de «features» est en train de disparaître. Les algorithmes d’aujourd’hui sont devenus tellement bons que vous pouvez directement travailler avec des perceptions brutes.

Un gadget ?

Non, je ne dirais pas cela. Il y a quand même un processus de traitement d’images, des capteurs, des caméras, différents logiciels… Mais les capacités cognitives d’une telle machine sont bien en deçà de ce que l’observateur lambda 
pourrait considérer. La tendance actuelle en programmation de robots, l’apprentissage par renforcement, permet d’aller 
plus loin. C’est un modèle qui ressemble plus au processus d’apprentissage par essai-erreur des êtres humains. La 
machine adopte un comportement et elle lui donne un score en fonction de la réaction de l’environnement. Par exemple, le robot dit bonjour avec déférence à un humain. Son interlocuteur réagit en souriant. La machine comprend que son comportement a été adéquat. Elle enregistre cette expérience qui pourra être reproduite. Ainsi donc, elle s’améliore toute seule. Désormais, des centaines de 
chercheurs utilisent ce paradigme-là. 

Des exemples d’applications concrètes ?
Prenez un jeu Atari des années 1980 : cette intelligence par renforcement est reliée à une caméra qui observe l’image 
du jeu et le score. Sans rien connaître des règles, juste par essais-erreurs, la machine fait très rapidement le tour de la question pour arriver à des scores impensables pour tout être humain. Vous êtes aussi en contact avec cette forme d’IA chaque fois que vous utilisez un moteur de recherches sur le web! Le placement des publicités, l’ordre des liens sur ces moteurs de recherche est réalisé au travers de ce mécanisme d’apprentissage par renforcement.

Faut-il laisser à la science-fiction l’idée qu’un jour, une machine pourrait disposer de toutes les potentialités d’un être humain, en termes de créativité et d’émotivité ?
Non, certainement pas! Il y a un terme qui définit ce stade ultime de la machine qui devient consciente: la «singularité ». Certes, quand on regarde ce qui se fait actuellement au niveau algorithmique, on semble encore loin de cela. 
Mais les sciences évoluent dans tous les domaines, notamment dans celui de la compréhension du fonctionnement du cerveau humain. Dans un avenir proche, 
on arrivera certainement à reproduire ce qu’on appelle le connectome, c’est-à-dire toutes les liaisons qui s’opèrent entre les neurones du cerveau, en ce compris les 
diverses dynamiques de ces neurones. La cartographie du cerveau et les connaissances de plus en plus approfondies de la physique de connexion ouvriront de nouvelles perspectives en terme d’IA.

Comme celle de programmer des machines équivalentes au cerveau humain?

Oui, on pourra faire le «mapping» du cerveau humain vers une machine. Une fois que vous avez un modèle physique de quelque chose, vous pouvez le  programmer: nous allons donc vers une programmation à l’identique de ce qui se passe dans le cerveau de l’homme. Le jour où cela fonctionnera, la machine sera la même chose que nous. Elle pensera, au sens littéral du terme.
Vous dites bien qu’elle sera « consciente » de son existence ?
Oui, elle sera de ce point de vue exactement comme les êtres humains. 
Si la machine a conscience d’elle-même, ne voudra-t-elle pas jouer ses propres cartes, prendre le pouvoir sur l’homme, voire le faire disparaître ?
Imaginez une personne humaine qui aurait une mémoire absolue, ce qui serait le cas de cette machine vu le développement du stockage d’information à bon marché. Imaginez qu’en plus, cette personne dispose d’une rapidité de traitement de l’information tout aussi absolue… Elle prendrait sans doute le pouvoir, elle deviendrait immensément riche, elle ferait des tas de trucs que d’autres ne savent pas faire. En tous cas, ce serait dans la nature de l’être humain de le faire. 
Donc…
Une machine programmée tel un cerveau humain pourrait avoir les mêmes aspirations.
Le philosophe des sciences Jean Staune parle, lui aussi, de cette « singularité » dans un ouvrage consacré aux «Clés du futur». Il écrit : « L’ordinateur qui aura atteint le niveau de l’intelligence humaine pourra travailler vingt-quatre heures sur vingt quatre et sept jours sur sept à produire une version améliorée de lui-même (…), jusqu’à produire une super-intelligence, quelque chose qui nous surpassera de plusieurs ordres de grandeur, exactement de la même façon que nous surpassons les souris. »
Conceptuellement, il a raison. Il n’est d’ailleurs pas le seul à pointer ce danger. A partir du moment où la machine arrivera à un certain niveau d’intelligence, elle pourra s’améliorer par elle-même, voire pour elle-même. Cet écueil de la singularité, on ne peut pas l’exclure, mais il n’empêche pas le fait que des tas de scientifiques ont désormais l’ambition de programmer une machine à l’identique du cerveau humain. Si ces recherches aboutissent, et je pense qu’elles aboutiront, on entrera dans un moment périlleux de l’histoire de l’humanité (…)

En janvier 2015, plus de 700 scientifiques et chefs d’entreprises ont lancé un appel demandant un débat sur l’évolution prévisible de l’IA. L’un des signataires, le physicien Stephen Hawking, déclarait alors : « Les formes primitives d’IA que nous avons déjà se sont montrées très utiles. Mais je pense que le développement d’une IA complète pourrait mettre fin à la race humaine. » Jean Staune écrit lui aussi que la « super-intelligence » pourrait-être « la dernière invention de l’espèce humaine ».

Même si ce n’est pas si évident de construire ces machines intelligentes, je comprends l’inquiétude. On ne peut nier que les conditions existent désormais pour arriver à la singularité. L’accélération technologique est venue d’internet, des réseaux sociaux, de ces moteurs de recherche qui avaient besoin de l’IA pour se différencier de leurs concurrents et traiter des quantités de données gigantesques. A partir du moment où il y a eu ce business, la communauté du «machine learning», qui était autrefois pauvre comme Job, a été intégrée dans les grosses boîtes comme Google. Cela a donné une autre impulsion à ce petit monde où s’activent des milliers de chercheurs qui rêvent de devenir riches comme Mark Zuckenberg. Il y a de plus en plus d’argent pour financer les innovations.

Ray Kurzweil, le patron du moteur de recherche de Google, estime que « dans trente ans, l’IA sera un milliard de fois plus puissante que l’ensemble des cerveaux humains »…

C’est bien plus préoccupant que cela! Il faut comprendre qu’à partir du moment où la machine deviendrait plus intelligente que l’homme – juste une seule fois! – elle pourrait se reproduire et accroître son intelligence sans plafond. A partir du moment où cette singularité existe, tout peut aller très vite.

On ne parle pas de quelque chose qui pourrait se passer dans cent ans ?

Non… Dix ans, peut-être? Tout va dans le sens de créer cette singularité. Des capteurs de plus en plus performants, des études du cerveau de plus en plus poussées…

Dix ans ?

Cela ne va pas nécessairement arriver, mais c’est du domaine du possible.

Ne faudrait-il pas que se tienne un débat planétaire sur ce qu’on veut faire ou pas avec l’IA ?

Le problème, quand on parle de «singularité», c’est que le débat est peu audible. Les gens pensent que c’est de la science-fiction.

Avez-vous le sentiment que la communauté des chercheurs qui œuvrent dans le domaine de l’IA travaille encore dans le sens de l’intérêt général ?

J’ai fréquenté pendant très longtemps cette communauté scientifique du «machine learning» et je dois avouer que, parfois, je me pose des questions. Je me demande pourquoi on a fait tout cela. Quel est la place de l’être humain dans ce projet technologique? Il est un fait que certains chercheurs ne réfléchissent pas aux conséquences potentielles de ce qu’ils font. Ils travaillent dans des laboratoires extrêmement centralisés et sont fort mis sous pression. De plus, ils sont souvent très jeunes… Dans le monde de l’énergie auquel je me consacre plus actuellement, on rencontre des écologistes et autres bobos qui réfléchissent au monde de demain. Des idées percolent et c’est bénéfique pour les scientifiques et pour la société. Dans la recherche médicale, il y a toujours, in fine, un contact avec le patient, avec au surplus des règles éthiques qui ont été fixées pour éviter de faire n’importe quoi. Mais dans la recherche en IA, ces limites éthiques n’existent pas, tandis que la connexion des communautés de développeurs et de programmeurs avec «l’humanité» est très faible.

C’est effrayant!

Oui.

Permettez-moi d’insister : cette idée de la machine qui prend son destin en main et se débarrasse de ses créateurs humains, ce n’est pas du roman de science-fiction ?

Comment réagirait-elle si elle arrive à la conclusion qu’elle n’a pas besoin de l’humanité pour survivre ? Il faudrait qu’elle se trouve un avantage à être amicale et «humaine»… A vrai dire, l’avantage en question, je ne le vois pas. Si la machine se rend compte qu’il y a concurrence et que l’homme pourrait l’arrêter, le combat durera cinq minutes. Dans ce monde où tout est connecté, cela ira très vite. Et c’est elle qui l’emportera!

Cela nous renvoie à « 2001, l’odyssée de l’espace » ?

Oui, la machine qui se sent trahie, qui se rebelle… Sauf qu’en réalité, si on crée cette «superintelligence» dont nous parlons, les choses iront bien plus rapidement que dans le scénario du film. Ses auteurs n’avaient pas encore imaginé la multiplication des capteurs, l’internet… Cela dit, il est fondamental de discuter de la singularité, mais cela ne saurait exclure un débat indispensable sur toute la période chaotique préalable, celle des bouleversements sociaux énormes qui seront causés par l’automatisation grandissante de la plupart des métiers.

Pourquoi ne parle-t-on pas plus de ces questions cruciales pour notre avenir ?

Parce que la compétition pour mettre au point les technologies de demain domine tout. C’est un cercle vicieux: on fait toujours plus de recherches dans le «high tech» pour faire face à la situation que le «high tech» a créée. Le monde s’est lancé dans une fuite en avant.

Rencontrez-vous parfois des politiques qui sont conscients des enjeux dont nous avons parlé lors de cet entretien ?

Non, il n’y aucune réflexion à ce sujet dans le monde politique belge. Le « progrès » technologique est si rapide que ses contemporains n’en perçoivent pas toutes les dimensions. Quoi qu’il en soit, c’est un débat qu’il faudrait porter dans une instance planétaire, à l’ONU, par exemple! Dans les années 1950, les hommes ont décidé qu’il ne fallait pas construire certaines armes, celles par exemple qui menaceraient la biosphère. C’était des armes, mais aujourd’hui, c’est plus difficile parce que ceux qui maîtrisent ces technologies, des machines à faire de l’argent, ont un pouvoir d’influence énorme sur le monde politique.