Marion Carré, Le paradoxe du tapis roulant

Et si l’intelligence artificielle nous rendait collectivement moins créatifs, moins vifs, et atrophiait notre sens critique ? En un mot, sommes-nous en train d’être dupés par une technologie dont le terme « intelligence » utilisé pour la désigner constitue en soi un « péché originel ».  Voici la thèse centrale de l’essai de Marion Carré, « Le paradoxe du tapis roulant ».

L’IA et la pensée de groupe

L’analogie est judicieuse, puisqu’à l’instar d’un tapis roulant, l’intelligence artificielle accélère la sensation de mouvement. Le problème est qu’une fois sur le tapis, il devient difficile d’en descendre, y compris si l’on se trompe de direction. Or c’est précisément dans cette difficulté collective à quitter le tapis que réside le risque principal de l’IA générative. « Nous avons la sensation d’être à la fois plus créatifs et plus efficaces. Mais ce mouvement, au lieu de nous ouvrir de nouveaux horizons, nous fait tous avancer dans la même direction » déplore Marion Carré.

On oublie trop souvent en effet que l’IA générative se nourrit uniquement des contenus déjà disponibles en ligne, ce qui la rend « incapable de sortir des sentiers battus pour faire le pas de côté essentiel à la créativité. Elle nous propose la moyenne des idées, en brassant toutes celles qu’elle a déjà captées ».

Certes, comme le rappelle Marion Carré, l’IA peut être un puissant stimulus intellectuel à l’échelle individuelle. Par exemple, « les auteurs qui y ont recours proposent des idées plus originales et intéressantes que ceux qui travaillent sans. En revanche, pris collectivement, les auteurs utilisant l’IA se révèlent bien moins créatifs, leurs propositions ayant tendance à se ressembler davantage ». Et c’est bien là que le bât blesse. Après les réseaux sociaux, le risque existe bel et bien que l’IA générative nous enferme à son tour dans une bulle cognitive, susceptible d’alimenter chez l’utilisateur un effet Dunning-Kruger particulièrement sournois. Avec l’IA générative, il ne faut jamais perdre de vue que la rapidité du résultat n’est pas gage de validité, puisqu’elle repose essentiellement sur des modèles probabilistes, « qui produisent sans surprise du probable. [Or ] le probable produit du vraisemblable », plus rarement du véridique.

« À force de cueillir les idées avant qu’elles ne soient comestibles, nous risquons l’intoxication »

Penser trop vite à cause de l’IA

Quel est le temps réel de la réflexion ? Sur quels soubassements profonds reposent la fulgurance et l’intuition ? N’est-ce pas dans cette promesse de vitesse que réside essentiellement la supercherie de l’IA ? Voici en creux les questions que pose Marion Carré tout au long de l’ouvrage. « En nous accoutumant à produire à toute vitesse, l’IA nous expose au risque de ne plus questionner ce que nous générons. (…). On ne s’interroge plus sur le sens de l’accélération, ni sur la raison de produire toujours plus rapidement (…). Ce besoin suspend la réflexion au profit du réflexe. Or l’habitude de recourir à l’IA pour automatiser tout ce qui est de l’ordre du « pensable » met en péril les réflexions qui nécessitent du temps pour mûrir. (…) À force de vouloir cueillir les idées avant qu’elles ne soient comestibles, nous risquons l’intoxication ».

Ce faisant, l’auteur rappelle à quel point il est nécessaire parfois de savoir laisser du temps au temps et de remettre l’humain au centre du jeu.  D’autant plus que les limites de l’IA générative telle que nous la connaissons aujourd’hui sont identifiées depuis longtemps. Il y a près de 45 ans déjà, « dans un article pionnier publié en 1983 (NDRL : Ironies of automation), la chercheuse Lisanne Bainbridge soulignait que plus un système est avancé, plus la qualité de la contribution humaine devient cruciale. L’automatisation ne réduit donc pas l’importance de l’humain, elle en redéfinit le rôle, notamment dans les moments où l’uniformisation du système appelle un véritable discernement ».

Pour rester pertinente et opérationnellement utile, l’IA générative a plus que jamais besoin des penseurs, des créateurs, des artistes, des auteurs. Ils sont sa matière première, son oxygène. Sans la contribution humaine, cette technologie risque l’asphyxie. Selon Marion Carré, les principales entreprises de l’IA pourraient ainsi « épuiser l’ensemble des données qualitatives accessibles en ligne dès 2026 ». Une fois absorbées toutes les ressources documentaires disponibles, le système s’exposerait à l’auto-appauvrissement, pour devenir « un fast-food de la pensée » soumis à un cycle régressif perpétuel.

Socrate au secours de l’IA

À l’instar d’autres auteurs, Marion Carré lance finalement un appel pour donner un sens à l’intelligence artificielle. Pour y parvenir, elle propose tout d’abord de s’affranchir d’une vision manichéenne qui oppose systématiquement l’IA à l’humain, car cela « bride nos possibilités d’innovation ».

Un bon usage de l’IA consisterait avant tout dans l’art de la conversation et du questionnement, pour faire de la technologie un tuteur socratique et « provoquer la réflexion au lieu d’y mettre un terme ». Selon les études menées par des chercheurs du MIT, de Princeton ou de Cambridge et citées dans l’ouvrage, ce partenariat homme-machine doit idéalement reposer sur trois piliers :

• La manière dont les IA nous comprennent.
• La manière dont nous les comprenons.
• La manière dont nous comprenons ensemble le monde.

C’est uniquement sur la base de cette collaboration et de l’acceptation de la différence fondamentale entre l’homme et la machine que nous pourrons collectivement faire de l’IA « un outil qui ne dégrade pas nos autonomies personnelles, avec lequel nous pouvons travailler plutôt qu’il ne travaille à notre place ». Au moment de refermer l’ouvrage, on se dit qu’à n’en pas douter, la réflexion de Marion Carré, dense et documentée, y contribue avec brio.