Marius Bertolucci : "L'intelligence artificielle transforme les humains en marionnettes dociles"

Un entretien publié par Paris Match Belgique le 12 septembre 2024 et sur le site Paris Match.be, le 15 septembre 2024.

"Nous ne sommes pas confrontés à une simple évolution technique, mais à une révolution qui façonne l'avenir de l'humanité et qui, en bien des aspects, représente une menace pour la dignité humaine et les droits démocratiques", alerte le Docteur en sciences de gestion, Marius Bertolucci. Au-delà de transformer le monde, l'IA engendre-t-elle des humains "diminués" ?

Le secrétaire général de l'ONU souhaite que le développement de l'IA soit abordé lors du "Sommet de l'avenir" qui aura lieu à la fin septembre 2024. António Guterres a notamment déclaré que « l'intelligence artificielle est un danger pour l'humanité encore plus grand que le réchauffement climatique ». Aussi, Elon Musk, bien qu'il soit lui-même un acteur de la révolution technique en cours, affirme que « l'intelligence artificielle est un risque fondamental pour l'existence de notre civilisation ». Partagez-vous ces inquiétudes ?

Marius Bertolucci. Absolument. Même le PDG de Google affirme que nous sommes en train de vivre un changement de civilisation. On se préoccupe légitimement du dérèglement climatique, mais, comme le souligne Guterres, nous devrions être tout autant préoccupés par l’implémentation de l'IA dans tous les pans de notre vie, qu’ils soient privés, sociaux ou professionnels. Nous ne sommes pas confrontés à une simple évolution technique, mais à une révolution qui façonne l'avenir de l'humanité et qui, en bien des aspects, représente une menace pour la dignité humaine et les droits démocratiques. Cependant, dans le contexte d'une ruée effrénée vers le prétendu monde merveilleux des algorithmes, semblables à des moutons se suivant sans réflexion, la plupart des citoyens et des responsables politiques tendent à envisager l'IA sans suffisamment de sens critique.

N'est-il pas difficile d'échapper à l'idéologie technophile dominante ?

Celle-ci est en effet omniprésente. Ce qui se passe renvoie à l'œuvre de Georges Bernanos. Au sortir de la Seconde Guerre mondiale, dans un livre intitulé "La France contre les robots", il imaginait déjà ce monde fasciné par la technique. L'écrivain décrivait une société dans laquelle le progrès n'était plus considéré comme la capacité de notre espèce à s'élever moralement, à raisonner par elle-même, à cultiver le beau, à développer la solidarité et le vivre-ensemble, à s'émanciper collectivement dans l'esprit des Lumières pour enchanter l'avenir. Il nous parlait plutôt d'un monde dont le seul espoir était le perfectionnement des machines. D'une certaine manière, nous y sommes. Désormais, les politiques ne sont plus des tribuns qui portent une vision, mais des managers qui équilibrent des budgets. Les grandes explications du monde, qu'elles soient idéologiques ou religieuses, chancellent. La seule perspective qui nous est offerte, l'enthousiasme qu'on nous propose, c'est de croire au progrès technique. C'est la promesse d'un confort matériel plus grand, d'applications fascinantes qui nous faciliteront la vie, qui créeront des richesses et nous libéreront du travail. Mais, en contrepoint, la révolution en cours se traduit par un perfectionnement continu de techniques qui permettent une rentabilisation efficace du matériel humain. Car, pour l'IA, nous sommes des données parmi d'autres : tout ce qui fait ce que nous sommes, nos idées et opinions comme nos émotions, est devenu mesurable. Ce que nous pensons est devenu prévisible et exploitable par les algorithmes. Des machines nous recommandent des comportements, influencent nos achats, nos croyances, notre psyché. Aussi, elles nous enferment dans des bulles qui réduisent notre capacité à penser le monde. Le lien aux autres passe de plus en plus par les écrans. Pour certains de nos semblables, l'IA est déjà le meilleur ami, l'amour d'une vie. Des machines qui produisent de la pensée nous dispensent de penser de manière autonome, nous rendent addicts, et nous transforment en marionnettes dociles.

Lire la suite ici :