Marius Bertolucci : "L'intelligence artificielle transforme les humains en marionnettes dociles"

Maître de conférences à l’Université d’Aix-Marseille au sein de l’Institut de management public et gouvernance territoriale, Secrétaire général de la Société de philosophie des sciences de gestion, Marius Bertolucci est l’auteur d’un essai remarqué : « L’Homme diminué par l’IA », publié par les éditions Hermann. ©Doc.

Un entretien publié par Paris Match Belgique le 12 septembre 2024 et sur le site Paris Match.be, le 15 septembre 2024.

« Nous ne sommes pas confrontés à une simple évolution technique, mais à une révolution qui façonne l’avenir de l’humanité et qui, en bien des aspects, représente une menace pour la dignité humaine et les droits démocratiques », alerte le Docteur en sciences de gestion, Marius Bertolucci. Au-delà de transformer le monde, l’IA engendre-t-elle des humains « diminués » ?

Le secrétaire général de l’ONU souhaite que le développement de l’IA soit abordé lors du « Sommet de l’avenir » qui aura lieu à la fin septembre 2024. António Guterres a notamment déclaré que « l’intelligence artificielle est un danger pour l’humanité encore plus grand que le réchauffement climatique ». Aussi, Elon Musk, bien qu’il soit lui-même un acteur de la révolution technique en cours, affirme que « l’intelligence artificielle est un risque fondamental pour l’existence de notre civilisation ». Partagez-vous ces inquiétudes ?

Marius Bertolucci. Absolument. Même le PDG de Google affirme que nous sommes en train de vivre un changement de civilisation. On se préoccupe légitimement du dérèglement climatique, mais, comme le souligne Guterres, nous devrions être tout autant préoccupés par l’implémentation de l’IA dans tous les pans de notre vie, qu’ils soient privés, sociaux ou professionnels. Nous ne sommes pas confrontés à une simple évolution technique, mais à une révolution qui façonne l’avenir de l’humanité et qui, en bien des aspects, représente une menace pour la dignité humaine et les droits démocratiques. Cependant, dans le contexte d’une ruée effrénée vers le prétendu monde merveilleux des algorithmes, semblables à des moutons se suivant sans réflexion, la plupart des citoyens et des responsables politiques tendent à envisager l’IA sans suffisamment de sens critique.

N’est-il pas difficile d’échapper à l’idéologie technophile dominante ?

Celle-ci est en effet omniprésente. Ce qui se passe renvoie à l’œuvre de Georges Bernanos. Au sortir de la Seconde Guerre mondiale, dans un livre intitulé « La France contre les robots », il imaginait déjà ce monde fasciné par la technique. L’écrivain décrivait une société dans laquelle le progrès n’était plus considéré comme la capacité de notre espèce à s’élever moralement, à raisonner par elle-même, à cultiver le beau, à développer la solidarité et le vivre-ensemble, à s’émanciper collectivement dans l’esprit des Lumières pour enchanter l’avenir. Il nous parlait plutôt d’un monde dont le seul espoir était le perfectionnement des machines. D’une certaine manière, nous y sommes. Désormais, les politiques ne sont plus des tribuns qui portent une vision, mais des managers qui équilibrent des budgets. Les grandes explications du monde, qu’elles soient idéologiques ou religieuses, chancellent. La seule perspective qui nous est offerte, l’enthousiasme qu’on nous propose, c’est de croire au progrès technique. C’est la promesse d’un confort matériel plus grand, d’applications fascinantes qui nous faciliteront la vie, qui créeront des richesses et nous libéreront du travail. Mais, en contrepoint, la révolution en cours se traduit par un perfectionnement continu de techniques qui permettent une rentabilisation efficace du matériel humain. Car, pour l’IA, nous sommes des données parmi d’autres : tout ce qui fait ce que nous sommes, nos idées et opinions comme nos émotions, est devenu mesurable. Ce que nous pensons est devenu prévisible et exploitable par les algorithmes. Des machines nous recommandent des comportements, influencent nos achats, nos croyances, notre psyché. Aussi, elles nous enferment dans des bulles qui réduisent notre capacité à penser le monde. Le lien aux autres passe de plus en plus par les écrans. Pour certains de nos semblables, l’IA est déjà le meilleur ami, l’amour d’une vie. Des machines qui produisent de la pensée nous dispensent de penser de manière autonome, nous rendent addicts, et nous transforment en marionnettes dociles.

À cet égard, vous citez dans votre livre les propos de Tristan Harris, un ex-ingénieur de Google : « De l’autre côté de l’écran, c’est presque comme s’ils avaient un modèle de nous ressemblant à une poupée vaudou. Toutes les choses que nous avons faites, tous les clics que nous avons faits, toutes les vidéos que nous avons regardées, tous les « j’aime », tout cela est repris pour construire un modèle de plus en plus précis. Le modèle, une fois que vous l’avez, vous pouvez prédire le genre de choses que cette personne fait. «

Oui, nous sommes parfois stupéfaits de constater à quel point les « recommandations » que nous font les algorithmes sont proches de nos pensées, de nos envies, de nos opinions. On en arrive à demander si nos conversations ne seraient pas écoutées par certaines applications que nous utilisons. Mais pas du tout. Harris dit aussi : « Je n’ai pas besoin d’écouter vos conversations parce que j’ai accumulé tous les clics et les likes que vous avez faits, et cela fait que cette poupée vaudou se comporte de plus en plus comme vous. Tout ce que j’ai à faire, c’est de simuler la conversation de la poupée vaudou, et je sais quelle conversation vous venez d’avoir sans avoir à écouter le micro. Donc le fait est que la prédiction a déjà dépassé l’espèce humaine. » Résumons : les algorithmes calculent nos comportements, ils nous scannent littéralement via les milliers de données que nous leur confions volontairement. Cela leur permet de prévoir nos comportements futurs, mais aussi de les susciter en nous stimulant, en nous recommandant, en nous influençant. C’est un marché lucratif, car les « prédictions » peuvent être vendues à diverses organisations privées et publiques, voire à des acteurs politiques. Dans ce monde nouveau qui s’écrit, la conscience humaine est devenue une matière première plus précieuse que l’or, un ensemble de données monétisables, un champ cultivable par les algorithmes, quitte à modifier notre psyché, à faire de nous des êtres numériquement modifiés, ce que j’appelle aussi des « cybcogs ».