Au-delà de l’esprit critique, reprendre le contrôle sur les IA Génératives !

‍

Une étude publiée par Microsoft et l’Université Carnegie Mellon a mis en évidence que l’utilisation des Intelligences Artificielles (IA) Génératives pouvait avoir un impact négatif sur la capacité d’esprit critique de ses utilisateurs et utilisatrices. Cela m’a donné envie de la mettre en regard d’une interview d’Alain Damasio où l’auteur fait la différence entre les technologies qui donnent du pouvoir - qui font à notre place - et celles qui donnent de la puissance - qui nous offrent la capacité de faire directement.

Au-delà des recommandations des chercheurs* de modifier le design des IA Génératives pour qu’elles intègrent mieux cet enjeu de l’esprit critique, nous devons avoir un débat de société sur la place que nous voulons voir occupée par ces IA Génératives. C’est sur cette question que doit s’exprimer notre esprit critique, afin de favoriser les IA Génératives qui nous donnent de la puissance et non pas du pouvoir.

Il existe un biais à étudier la mobilisation de l’esprit critique uniquement dans un cadre d’utilisation de l’IA Générative

L’étude de Microsoft et de l’Université Carnegie Mellon a enquêté auprès de 319 personnes qui ont un travail intellectuel et qui utilisent un outil d’IA Générative au moins une fois par semaine. Ces personnes ont ainsi pu partager 936 exemples d’utilisations de l’IA Générative aux chercheurs afin de mesurer le rapport à l’esprit critique dans ces situations.

L’objectif pour les chercheurs était d’étudier les manifestations concrètes de l’esprit critique dans différents cadres d’utilisation, et de savoir si les personnes interrogées percevaient une évolution - positive ou négative - de leur esprit critique en utilisant l’IA Générative.

L’étude permet de mettre en garde contre un développement des IA Génératives sans prise en compte de l’impact sur l’esprit critique. On y apprend - sans immense surprise - que les personnes qui ont une forte confiance dans l’IA Générative ont moins tendance à mobiliser leur esprit critique sur les résultats produits par l’IA. À l’inverse, les personnes qui ont une forte confiance dans leurs propres compétences ont plus tendance à mobiliser leur esprit critique. De manière plus fine, la difficulté de mobiliser son esprit critique est renforcée par plusieurs facteurs : la pression du temps, le manque de sensibilisation, l’éloignement des résultats de l’IA par rapport à ses responsabilités ou par rapport à ses compétences.

Toutefois, borner l’étude du lien entre IA Générative et esprit critique à des cas d’utilisation de cette même IA Générative est selon moi manquer l’essentiel. “Pourquoi voulons-nous utiliser l’IA Générative ?” me semble être la véritable question sur laquelle mobiliser notre esprit critique, et où l’impact sur les choix d’investissement serait le plus fort.

Nous voulons favoriser des technologies qui nous donnent de la puissance, pas du pouvoir

J’ai été assez marqué par cette interview d’Alain Damasio qui analyse les technologies sous le prisme puissance / pouvoir. Pour donner un exemple différent du GPS qu’il détaille dans son interview, on peut comparer une application qui nous donne le pouvoir de traduire dans n’importe quelle langue un propos (pouvoir de faire faire), et une application qui nous aide à progresser dans notre pratique d’une langue (donne la capacité de faire).

En bref, si on m’enlève la technologie, suis-je toujours capable de faire l’action que je faisais grâce à elle ? Je trouve cet angle intéressant puisqu’il permet d’interroger en profondeur ce que nous voulons déléguer ou pas à des machines.

À titre personnel, pour reprendre l’exemple de Damasio du GPS, j’ai désinstallé les applications de navigation de mon téléphone. Je regarde avant de me déplacer où je souhaite aller, et je fais de mon mieux pour y aller ensuite, quitte à demander mon chemin dans la rue ou perdre un peu de temps en route. Je perds un peu en pouvoir et efficacité dans mes trajets, mais je gagne en puissance d’orientation sur le long terme.

Je suis convaincu que cette réflexion mériterait davantage d’attention dans le développement de l’IA Générative. Que ce soit à l’échelle individuelle, au niveau de nos organisations ou de notre société : que voulons-nous réellement déléguer entièrement à l’IA Générative ? Sur quoi souhaitons-nous être assistés ? Sur quoi souhaitons-nous éviter d’utiliser l’IA Générative ?

Commençons par appliquer notre esprit critique au concept même de l’IA Générative et pas seulement à ses cas d’usage.

Ça n’est qu’en se posant ces questions que nous pourrons créer des technologies réellement émancipatrices, qui nous permettent de “générer de l’efficience sans dégrader notre autonomie personnelle” pour reprendre un des 3 principes d’Ivan Illich pour définir un “outil juste” (La Convivialité).

Sinon, comme le suggère l’étude, nous risquons de créer une fracture entre les personnes qui ont confiance en leurs compétences et qui utilisent l’IA Générative à bon escient, et celles qui sont totalement aliénées à l’IA Générative et qui ne peuvent plus en sortir - un peu comme des personnes totalement perdues sans leur GPS aujourd’hui.

Aller au-delà de repenser le design des solutions d’IA Génératives

Ainsi, il faut aller bien au-delà des suggestions des chercheurs. Dans leur étude, ils proposent des pistes pour mieux prendre en compte le défi de l’esprit critique dans les solutions d’IA Génératives. En particulier, ils suggèrent que le design peut apporter des angles intéressants de réponse pour que l’esprit critique puisse être mobilisé naturellement et au bon moment par les utilisateurs et utilisatrices.

Il faut changer d’approche et ouvrir beaucoup plus au débat citoyen sur les technologies que nous voulons. Certes, l’IA Générative est un outil technique que seul un nombre restreint de personnes peut techniquement développer. Mais ses cas d’usage sont bien réels et concernent tout le monde. Chaque personne est capable de comprendre, de s’exprimer et de choisir les applications de l’IA Générative qu’elle souhaite voir advenir ou non. Gouvernance, investissements, déploiement : les citoyens et citoyennes doivent avoir leur mot à dire sur le développement de ces technologies qui leur sont pour le moment imposées à marche forcée, comme l’analyse l’article de Limites Numériques sur le “forcing de l’IA”.

À titre individuel, cela commence par prendre 10 minutes pour se demander “Et moi, comment je souhaite utiliser l’IA Générative ?”. Tout comme vous vous êtes peut-être déjà demandé quel régime alimentaire suivre, ou quels modes de transport privilégier, vous pouvez reprendre le contrôle sur vos usages numériques pour porter la voix d’un numérique acceptable.

* Accordé au masculin car vous noterez que l’étude a été conduite par 7 hommes et 0 femme. Un exemple parmi d’autres sur le manque de diversité dans le champ de recherche de l’intelligence artificielle, mais que j’ai décidé de ne pas traiter dans cet article spécifiquement.

‍
L'illustration provient du film WALL-E. Et l'inspiration nous vient de l'article d'Usbek & Rica.