No items found.

Favorisons les IA Génératives qui nous donnent de la puissance et non pas du pouvoir

Technologie
·
< Tous les articles
WALL-E
Par
Augustin Courtier
Augustin Courtier
Une étude conduite par des chercheurs de Microsoft et de l'Université Carnegie Mellon démontre que le recours systématique à l’intelligence artificielle détériorerait l’esprit critique. Et face à constat, se pose une question : « Finalement, pourquoi voulons-nous utiliser l’IA Générative ? ».

Au-delà de l’esprit critique, reprendre le contrôle sur les IA Génératives !

Une étude publiée par Microsoft et l’Université Carnegie Mellon a mis en évidence que l’utilisation des Intelligences Artificielles (IA) Génératives pouvait avoir un impact négatif sur la capacité d’esprit critique de ses utilisateurs et utilisatrices. Cela m’a donné envie de la mettre en regard d’une interview d’Alain Damasio où l’auteur fait la différence entre les technologies qui donnent du pouvoir - qui font à notre place - et celles qui donnent de la puissance - qui nous offrent la capacité de faire directement.

Au-delà des recommandations des chercheurs* de modifier le design des IA Génératives pour qu’elles intègrent mieux cet enjeu de l’esprit critique, nous devons avoir un débat de société sur la place que nous voulons voir occupée par ces IA Génératives. C’est sur cette question que doit s’exprimer notre esprit critique, afin de favoriser les IA Génératives qui nous donnent de la puissance et non pas du pouvoir.

Il existe un biais à étudier la mobilisation de l’esprit critique uniquement dans un cadre d’utilisation de l’IA Générative

L’étude de Microsoft et de l’Université Carnegie Mellon a enquêté auprès de 319 personnes qui ont un travail intellectuel et qui utilisent un outil d’IA Générative au moins une fois par semaine. Ces personnes ont ainsi pu partager 936 exemples d’utilisations de l’IA Générative aux chercheurs afin de mesurer le rapport à l’esprit critique dans ces situations.

L’objectif pour les chercheurs était d’étudier les manifestations concrètes de l’esprit critique dans différents cadres d’utilisation, et de savoir si les personnes interrogées percevaient une évolution - positive ou négative - de leur esprit critique en utilisant l’IA Générative.

L’étude permet de mettre en garde contre un développement des IA Génératives sans prise en compte de l’impact sur l’esprit critique. On y apprend - sans immense surprise - que les personnes qui ont une forte confiance dans l’IA Générative ont moins tendance à mobiliser leur esprit critique sur les résultats produits par l’IA. À l’inverse, les personnes qui ont une forte confiance dans leurs propres compétences ont plus tendance à mobiliser leur esprit critique. De manière plus fine, la difficulté de mobiliser son esprit critique est renforcée par plusieurs facteurs : la pression du temps, le manque de sensibilisation, l’éloignement des résultats de l’IA par rapport à ses responsabilités ou par rapport à ses compétences.

Toutefois, borner l’étude du lien entre IA Générative et esprit critique à des cas d’utilisation de cette même IA Générative est selon moi manquer l’essentiel. “Pourquoi voulons-nous utiliser l’IA Générative ?” me semble être la véritable question sur laquelle mobiliser notre esprit critique, et où l’impact sur les choix d’investissement serait le plus fort.

Nous voulons favoriser des technologies qui nous donnent de la puissance, pas du pouvoir

J’ai été assez marqué par cette interview d’Alain Damasio qui analyse les technologies sous le prisme puissance / pouvoir. Pour donner un exemple différent du GPS qu’il détaille dans son interview, on peut comparer une application qui nous donne le pouvoir de traduire dans n’importe quelle langue un propos (pouvoir de faire faire), et une application qui nous aide à progresser dans notre pratique d’une langue (donne la capacité de faire).

En bref, si on m’enlève la technologie, suis-je toujours capable de faire l’action que je faisais grâce à elle ? Je trouve cet angle intéressant puisqu’il permet d’interroger en profondeur ce que nous voulons déléguer ou pas à des machines.

À titre personnel, pour reprendre l’exemple de Damasio du GPS, j’ai désinstallé les applications de navigation de mon téléphone. Je regarde avant de me déplacer où je souhaite aller, et je fais de mon mieux pour y aller ensuite, quitte à demander mon chemin dans la rue ou perdre un peu de temps en route. Je perds un peu en pouvoir et efficacité dans mes trajets, mais je gagne en puissance d’orientation sur le long terme.

Je suis convaincu que cette réflexion mériterait davantage d’attention dans le développement de l’IA Générative. Que ce soit à l’échelle individuelle, au niveau de nos organisations ou de notre société : que voulons-nous réellement déléguer entièrement à l’IA Générative ? Sur quoi souhaitons-nous être assistés ? Sur quoi souhaitons-nous éviter d’utiliser l’IA Générative ?

Commençons par appliquer notre esprit critique au concept même de l’IA Générative et pas seulement à ses cas d’usage.

Ça n’est qu’en se posant ces questions que nous pourrons créer des technologies réellement émancipatrices, qui nous permettent de “générer de l’efficience sans dégrader notre autonomie personnelle” pour reprendre un des 3 principes d’Ivan Illich pour définir un “outil juste” (La Convivialité).

Sinon, comme le suggère l’étude, nous risquons de créer une fracture entre les personnes qui ont confiance en leurs compétences et qui utilisent l’IA Générative à bon escient, et celles qui sont totalement aliénées à l’IA Générative et qui ne peuvent plus en sortir - un peu comme des personnes totalement perdues sans leur GPS aujourd’hui.

Aller au-delà de repenser le design des solutions d’IA Génératives

Ainsi, il faut aller bien au-delà des suggestions des chercheurs. Dans leur étude, ils proposent des pistes pour mieux prendre en compte le défi de l’esprit critique dans les solutions d’IA Génératives. En particulier, ils suggèrent que le design peut apporter des angles intéressants de réponse pour que l’esprit critique puisse être mobilisé naturellement et au bon moment par les utilisateurs et utilisatrices.

Il faut changer d’approche et ouvrir beaucoup plus au débat citoyen sur les technologies que nous voulons. Certes, l’IA Générative est un outil technique que seul un nombre restreint de personnes peut techniquement développer. Mais ses cas d’usage sont bien réels et concernent tout le monde. Chaque personne est capable de comprendre, de s’exprimer et de choisir les applications de l’IA Générative qu’elle souhaite voir advenir ou non. Gouvernance, investissements, déploiement : les citoyens et citoyennes doivent avoir leur mot à dire sur le développement de ces technologies qui leur sont pour le moment imposées à marche forcée, comme l’analyse l’article de Limites Numériques sur le “forcing de l’IA”.

À titre individuel, cela commence par prendre 10 minutes pour se demander “Et moi, comment je souhaite utiliser l’IA Générative ?”. Tout comme vous vous êtes peut-être déjà demandé quel régime alimentaire suivre, ou quels modes de transport privilégier, vous pouvez reprendre le contrôle sur vos usages numériques pour porter la voix d’un numérique acceptable.


* Accordé au masculin car vous noterez que l’étude a été conduite par 7 hommes et 0 femme. Un exemple parmi d’autres sur le manque de diversité dans le champ de recherche de l’intelligence artificielle, mais que j’ai décidé de ne pas traiter dans cet article spécifiquement.


L'illustration provient du film WALL-E. Et l'inspiration nous vient de l'article d'Usbek & Rica.

. . . . .
No items found.
. . . . .

Partager cet article

Vous en connaissez des personnes dans la tech, à qui ça irait tellement bien de s'engager, mais qui ne savent pas comment ? Partagez-leur cet article !

Partager sur Linkedin
Copier le lien

Et c'est pas fini !

On a d’autres articles à te proposer

WALL-E
Communauté
Heading

Heading 1

Heading 2

Heading 3

Heading 4

Heading 5
Heading 6

Lorem ipsum dolor sit amet, consectetur adipiscing elit, sed do eiusmod tempor incididunt ut labore et dolore magna aliqua. Ut enim ad minim veniam, quis nostrud exercitation ullamco laboris nisi ut aliquip ex ea commodo consequat. Duis aute irure dolor in reprehenderit in voluptate velit esse cillum dolore eu fugiat nulla pariatur.

Block quote

Ordered list

  1. Item 1
  2. Item 2
  3. Item 3

Unordered list

  • Item A
  • Item B
  • Item C

Text link

Bold text

Emphasis

Superscript

Subscript

·
5 min de lecture
Illustration article avec un Rubiks Cube
Technologie
Passer d’une Scale-up à une association de 15 salariés : rapport d’étonnement tech et produit

Quelles sont les différences techniques et produit entre une association avec 15 salariés et une scale-up tech avec environ 10 fois plus de salariés ? 😅

·
10 min de lecture
🎨 Illustration tirée du livre « Anti-chaos » de Matthieu Dardaillon
Entreprenariat
De la préoccupation à l’action : choisir ses batailles

Face aux actualités parfois effrayantes - qui ne manquent pas ces derniers mois - on peut se sentir tétanisé. 
Le sentiment d’être une goutte d’eau minuscule face à l’ampleur des événements peut alors prendre le dessus et démotiver toute action.

·
2 min de lecture
L'éponge est pleine, on est bourré d'informations (illustration)
Technologie
« Mais avec la vision du numérique que vous portez, vous êtes encore sur les réseaux sociaux ? »

En 2024, une personne française sur deux déclarait qu’elle préfèrerait « vivre dans un monde où les réseaux sociaux n’auraient jamais été inventés ». 
Est-ce qu’on peut œuvrer pour un numérique acceptable en continuant de communiquer sur des réseaux « toxiques » ? Est-ce que notre présence est encore utile ou doit-on accepter de renoncer ? 

·
2 min de lecture
Et si les dernières actualités nous permettaient de repenser notre présence sur les réseaux sociaux numériques ?
Technologie
Vers un numérique acceptable : et si on repensait notre présence sur les réseaux sociaux ?

On en parle de ces conflits internes générés par les réseaux sociaux ? Pas plus tard que la semaine dernière, on célébrait le fait de passer le cap des 10 000 abonnements sur LinkedIn et la semaine d’avant, la fermeture de nos comptes sur X et Facebook. C'est contradictoire non ?

·
2 min de lecture
Image d'illustration
Entreprenariat
Notre modèle de rémunération transparent, démocratique et équitable

Pour décider des rémunérations chez Latitudes, nous avons mis en place un système transparent, démocratique et équitable. Nous vous en livrons les processus et outils clés, faites-en bon usage !

·
5 min de lecture
Photo équipe Latitudes
Entreprenariat
Quoi de mieux que le statut associatif pour embarquer le plus grand nombre ?

Faire le choix du statut associatif a étonné plus d’une personne dans l’histoire de Latitudes. Pourtant, nous n’avons jamais été aussi heureux et heureuses d’avoir fait ce choix. Quelques clés pour vous aider à comprendre.

·
10 min de lecture
Participants et participantes à La Bataille de la Tech
Communauté
La Course à l’Engagement pour mobiliser massivement l’enseignement supérieur

La Course à l'Engagement a permis de mobiliser 102 établissements de formation au numérique pour sensibiliser leurs élèves aux impacts du numérique et leur proposer des actions d'engagement citoyen. Découvrez les dessous de cette opération.

·
5 min de lecture
Photo d'étudiants en train de participer à un atelier
Communauté
Nos dispositifs pour les établissements du supérieur en 2024/2025

Vous êtes à la recherche d’outils concrets pour mêler transition numérique et transition écologique et solidaire dans vos cursus ? Voici les dispositifs que nous proposons pour l'année scolaire 2024/2025.

·
5 min de lecture
Femme sur son ordinateur
Technologie
“Il n'y a pas beaucoup de femmes dans les métiers de la tech, mais c'est mieux qu'avant non ?”

Changer de regard sur le numérique, c’est le premier pas pour changer la donne.

Pendant un mois, on déconstruit nos fausses idées sur le numérique, pour reconstruire un numérique plus vertueux, brique par brique. 🧱

·
5 min de lecture