Exercices — Session 6 🟢 « L’IA et l’éthique »
Programme : Applied AI — Niveau Débutant · Instructeur : Yann Isola Matériel : un crayon, votre téléphone (exercice 2), votre esprit critique (tous les exercices)
Exercice 1 — Détective des biais 🕵️
Durée : 20 min · Format : seul ou en binôme · Difficulté : ⭐⭐
Votre mission : dans chaque situation ci-dessous, une IA produit un résultat étrange ou injuste. À vous de jouer au détective : trouvez d’où vient le biais et proposez un remède.
🔑 Rappel de la loupe du détective : une IA apprend des données. Quand elle déraille, la première question est toujours : « Qu’y avait-il (ou pas) dans ses données d’entraînement ? »
Affaire n°1 : le savon distrait
Un distributeur de savon automatique (avec capteur) fonctionne parfaitement pour certaines personnes… mais ne détecte pas les mains des personnes à peau foncée.
- Quelle est votre hypothèse sur la cause ?
- Que faudrait-il changer pour corriger le problème ?
Affaire n°2 : le traducteur stéréotypé
Un traducteur automatique traduit depuis une langue où « docteur » et « infirmier » n’ont pas de genre. Résultat systématique : « il est docteur », « elle est infirmière ».
- L’IA a-t-elle « décidé » cela ? D’où vient ce réflexe ?
- Comment un traducteur pourrait-il présenter la traduction de façon plus juste ? (Indice : certains le font déjà — comment ?)
Affaire n°3 : la banque prudente… trop prudente
Une IA de crédit refuse plus souvent les demandes venant d’un certain quartier — même quand les personnes ont un bon salaire. L’IA n’a jamais reçu l’information « quartier »… mais elle connaît le code postal.
- Comment l’IA a-t-elle pu « deviner » le quartier alors qu’on ne le lui a pas donné directement ?
- Pourquoi ce cas serait-il classé « haut risque » par l’AI Act ?
- Que doit pouvoir faire la personne refusée ? (Pensez transparence…)
Affaire n°4 : le générateur d’images qui manque d’imagination
On demande à une IA de générer « une photo de PDG ». Sur 20 images, 19 montrent des hommes en costume. On demande « une personne qui fait le ménage » : presque que des femmes.
- D’où vient ce déséquilibre ?
- Est-ce grave ? Débattez : « ce ne sont que des images » vs « les images façonnent nos idées ».
🏆 Question bonus du chef-détective
Trouvez un point commun aux 4 affaires, et complétez la règle d’or : « Une IA n’est jamais plus juste que ________________. »
Corrigé (à ne pas lire avant d’avoir cherché !)
Voir les pistes de correction
- Affaire 1 : le capteur (et/ou ses données de calibration) a surtout été testé sur des peaux claires. Remède : tester et calibrer sur toute la diversité des utilisateurs réels, avec des équipes de test diverses.
- Affaire 2 : l’IA a appris sur des millions de textes humains où « docteur » est plus souvent associé au masculin. Elle reproduit la statistique, pas une vérité. Remède : proposer les deux traductions (« il/elle est docteur ») — certains traducteurs le font déjà.
- Affaire 3 : le code postal est un indice indirect (on dit une « variable proxy ») : il est corrélé au quartier, donc parfois à l’origine sociale des habitants. L’IA trouve ces raccourcis toute seule. Haut risque car décision financière majeure sur une vie. La personne doit pouvoir obtenir une explication et un réexamen humain.
- Affaire 4 : les images d’entraînement (photos du web, banques d’images) reflètent des décennies de stéréotypes. C’est grave à grande échelle : ces images alimentent à leur tour le web… que les prochaines IA utiliseront pour apprendre. Cercle vicieux possible.
- Règle d’or : « …que les données qui l’ont nourrie. »
Exercice 2 — Audit de vie privée de VOTRE téléphone 🔍📱
Durée : 25 min (ou à la maison) · Format : individuel · Difficulté : ⭐⭐ Complément : l’onglet « Vérificateur de vie privée » de la page web de la session.
Aujourd’hui, l’inspecteur, c’est vous — et le suspect, c’est votre propre téléphone. Objectif : découvrir ce que vos applis savent de vous, et reprendre un peu de contrôle. Sans paniquer : on constate, on comprend, on ajuste.
Étape 1 — L’inventaire (5 min)
Listez vos 5 applis les plus utilisées :
| Appli | Gratuite ? | À votre avis, comment gagne-t-elle de l’argent ? |
|---|---|---|
| 1. | oui non | |
| 2. | oui non | |
| 3. | oui non | |
| 4. | oui non | |
| 5. | oui non |
Étape 2 — La perquisition des autorisations (10 min)
Sur votre téléphone, ouvrez : Réglages → Confidentialité (iPhone) ou Paramètres → Sécurité et confidentialité → Gestionnaire d’autorisations (Android — le chemin exact varie selon les marques ⚠).
Pour chacune de vos 5 applis, cochez ce à quoi elle a accès :
| Appli | 📍 Position | 📸 Appareil photo | 🎤 Micro | 👥 Contacts | 🖼️ Photos |
|---|---|---|---|---|---|
| 1. | |||||
| 2. | |||||
| 3. | |||||
| 4. | |||||
| 5. |
Étape 3 — L’interrogatoire (5 min)
Pour chaque case cochée, posez LA question du détective :
« Cette appli a-t-elle vraiment BESOIN de cet accès pour faire son travail ? »
- Une appli de cartes qui demande la position : logique
- Un jeu de puzzle qui demande vos contacts et votre micro : 🤨 pourquoi ?!
Notez vos 2 découvertes les plus surprenantes :
Étape 4 — La reprise de contrôle (5 min)
Choisissez au moins 2 actions et faites-les vraiment :
- Retirer une autorisation inutile (on peut toujours la remettre après !)
- Passer une position de « Toujours » à « Seulement quand l’appli est utilisée »
- Supprimer une appli que vous n’utilisez plus (elle collecte peut-être encore)
- Regarder 2 minutes la « politique de confidentialité » d’une appli et noter une chose comprise… ou pas comprise du tout
- (Avancé) Chercher comment demander la copie de vos données à un grand service — c’est votre droit d’accès RGPD !
Étape 5 — Le rapport d’enquête
Complétez : « Avant cet audit, je pensais que mes applis savaient ______. En vérifiant, j’ai découvert ______. J’ai décidé de ______. »
👨👩👧 Pour les plus jeunes : faites cet audit avec un parent — vous serez probablement l’expert·e des réglages, et il/elle sera aussi surpris·e que vous. Le RGPD prévoit d’ailleurs une protection renforcée pour les mineurs.
Exercice 3 — Le Tribunal de l’IA ⚖️ (débat sur dilemme éthique)
Durée : 20–30 min · Format : groupe entier · Difficulté : ⭐⭐⭐ Complément : l’onglet « Dilemmes éthiques » de la page web (vote et affichage des résultats).
L’affaire à juger
« Le collège Jules-Verne souhaite utiliser une IA pour noter les copies des élèves et prédire leurs chances de réussite. Le tribunal doit décider : autoriser, interdire, ou autoriser sous conditions. »
Les rôles
- ⚖️ Juge(s) : dirigent les débats, coupent la parole aux tricheurs de temps, rendent un verdict motivé (le verdict doit citer au moins 2 arguments entendus).
- 🟢 La défense (POUR l’IA de notation) : vous plaidez pour le collège. Même si vous pensez le contraire ! Plaider une position imposée, c’est de la musculation pour le cerveau.
- 🔴 L’accusation (CONTRE) : vous plaidez pour l’association de parents d’élèves inquiets.
- 👥 Le jury : écoute, pose des questions, vote à la fin (sur la page web ou à main levée).
Le déroulé (chronométré, c’est important !)
- Préparation des équipes — 5 min
- Plaidoirie de la défense — 2 min
- Plaidoirie de l’accusation — 2 min
- Droit de réponse (1 min chacune) — 2 min
- Questions du jury — 3 min
- Vote du jury + verdict des juges — 3 min
- Débrief tous ensemble — 3 min
Fiche d’aide — Défense 🟢 (à découper)
Pistes (choisissez, développez, ajoutez les vôtres) :
- Une IA note tous les élèves avec les mêmes critères — pas de favoritisme, pas de prof fatigué le dimanche soir.
- Notation plus rapide → les profs ont plus de temps pour aider les élèves.
- La prédiction permet de repérer tôt un élève qui décroche et de l’aider AVANT l’échec.
- On peut imposer des garanties : un humain revoit chaque note, l’IA est testée contre les biais.
Fiche d’aide — Accusation 🔴 (à découper)
Pistes :
- L’IA apprend d’anciennes notes… qui contenaient peut-être déjà des injustices. Le biais est recopié, puis amplifié.
- Boîte noire : comment contester sa note si personne ne peut expliquer pourquoi ?
- Les données d’élèves sont des données de mineurs → protection maximale (RGPD !).
- Une prédiction peut devenir une étiquette : « l’IA a dit que tu vas échouer »… et si on finissait par y croire ?
- L’AI Act européen classe l’IA dans l’éducation en haut risque — ce n’est pas un hasard.
Questions que le jury peut poser (aide)
- « Qui sera responsable si l’IA se trompe sur une note du brevet ? »
- « Les parents ont-ils donné leur consentement ? Et les élèves ? »
- « Que se passe-t-il pour un élève au style d’écriture original que l’IA n’a jamais vu ? »
- « Quelles garanties précises proposez-vous ? »
Le débrief (la partie la plus importante !)
- Ceux qui ont plaidé contre leur opinion : qu’avez-vous ressenti ? Avez-vous trouvé de bons arguments quand même ?
- Quelqu’un a-t-il changé d’avis pendant le procès ? Grâce à quel argument ?
- Existe-t-il une solution médiane (autoriser sous conditions) ? Laquelle ?
- 🎬 Révélation du prof : cette affaire a déjà eu lieu en vrai (notes par algorithme au Royaume-Uni en 2020 → injustices → manifestations → abandon). Qu’est-ce que ça change à votre verdict ?
Affaires supplémentaires (si le tribunal veut siéger encore)
- 📹 « Faut-il installer des caméras à reconnaissance faciale à l’entrée du collège pour la sécurité ? »
- 🏥 « Un village sans médecin doit-il s’équiper d’une IA de diagnostic utilisable sans docteur ? »
- 💬 « Faut-il autoriser les chatbots “amis virtuels” pour les personnes qui se sentent seules ? »
- 🌍 « Faut-il limiter l’usage des grosses IA génératives pour raisons écologiques ? »
⚖️ Morale du tribunal : sur ces questions, il n’y a pas UNE bonne réponse cachée quelque part. Il y a des arguments, des valeurs, des garanties possibles — et des citoyens (vous !) qui devront trancher. C’est exactement pour ça qu’on en débat.