# Exercices — Session 6 🟢 « L'IA et l'éthique »

**Programme :** Applied AI — Niveau Débutant · **Instructeur :** Yann Isola
**Matériel :** un crayon, votre téléphone (exercice 2), votre esprit critique (tous les exercices)

---

## Exercice 1 — Détective des biais 🕵️

**Durée :** 20 min · **Format :** seul ou en binôme · **Difficulté :** ⭐⭐

Votre mission : dans chaque situation ci-dessous, une IA produit un résultat étrange ou injuste. À vous de jouer au détective : **trouvez d'où vient le biais** et **proposez un remède**.

> 🔑 Rappel de la loupe du détective : une IA apprend des **données**. Quand elle déraille, la première question est toujours : *« Qu'y avait-il (ou pas) dans ses données d'entraînement ? »*

### Affaire n°1 : le savon distrait
Un distributeur de savon automatique (avec capteur) fonctionne parfaitement pour certaines personnes… mais ne détecte pas les mains des personnes à peau foncée.

1. Quelle est votre hypothèse sur la cause ?
2. Que faudrait-il changer pour corriger le problème ?

### Affaire n°2 : le traducteur stéréotypé
Un traducteur automatique traduit depuis une langue où « docteur » et « infirmier » n'ont pas de genre. Résultat systématique : « **il** est docteur », « **elle** est infirmière ».

1. L'IA a-t-elle « décidé » cela ? D'où vient ce réflexe ?
2. Comment un traducteur pourrait-il présenter la traduction de façon plus juste ? (Indice : certains le font déjà — comment ?)

### Affaire n°3 : la banque prudente… trop prudente
Une IA de crédit refuse plus souvent les demandes venant d'un certain quartier — même quand les personnes ont un bon salaire. L'IA n'a jamais reçu l'information « quartier »… mais elle connaît le code postal.

1. Comment l'IA a-t-elle pu « deviner » le quartier alors qu'on ne le lui a pas donné directement ?
2. Pourquoi ce cas serait-il classé « haut risque » par l'AI Act ?
3. Que doit pouvoir faire la personne refusée ? (Pensez transparence…)

### Affaire n°4 : le générateur d'images qui manque d'imagination
On demande à une IA de générer « une photo de PDG ». Sur 20 images, 19 montrent des hommes en costume. On demande « une personne qui fait le ménage » : presque que des femmes.

1. D'où vient ce déséquilibre ?
2. Est-ce grave ? Débattez : « ce ne sont que des images » vs « les images façonnent nos idées ».

### 🏆 Question bonus du chef-détective
Trouvez un point commun aux 4 affaires, et complétez la règle d'or :
*« Une IA n'est jamais plus juste que ________________. »*

### Corrigé (à ne pas lire avant d'avoir cherché !)

<details>
<summary>Voir les pistes de correction</summary>

- **Affaire 1 :** le capteur (et/ou ses données de calibration) a surtout été testé sur des peaux claires. Remède : tester et calibrer sur toute la diversité des utilisateurs réels, avec des équipes de test diverses.
- **Affaire 2 :** l'IA a appris sur des millions de textes humains où « docteur » est plus souvent associé au masculin. Elle reproduit la statistique, pas une vérité. Remède : proposer **les deux traductions** (« il/elle est docteur ») — certains traducteurs le font déjà.
- **Affaire 3 :** le code postal est un **indice indirect** (on dit une « variable proxy ») : il est corrélé au quartier, donc parfois à l'origine sociale des habitants. L'IA trouve ces raccourcis toute seule. Haut risque car décision financière majeure sur une vie. La personne doit pouvoir obtenir une **explication** et un **réexamen humain**.
- **Affaire 4 :** les images d'entraînement (photos du web, banques d'images) reflètent des décennies de stéréotypes. C'est grave à grande échelle : ces images alimentent à leur tour le web… que les prochaines IA utiliseront pour apprendre. Cercle vicieux possible.
- **Règle d'or :** « …que les données qui l'ont nourrie. »

</details>

---

## Exercice 2 — Audit de vie privée de VOTRE téléphone 🔍📱

**Durée :** 25 min (ou à la maison) · **Format :** individuel · **Difficulté :** ⭐⭐
**Complément :** l'onglet « Vérificateur de vie privée » de la page web de la session.

Aujourd'hui, l'inspecteur, c'est vous — et le suspect, c'est votre propre téléphone. Objectif : découvrir **ce que vos applis savent de vous**, et reprendre un peu de contrôle. Sans paniquer : on constate, on comprend, on ajuste.

### Étape 1 — L'inventaire (5 min)

Listez vos **5 applis les plus utilisées** :

| Appli | Gratuite ? | À votre avis, comment gagne-t-elle de l'argent ? |
|---|---|---|
| 1. | ☐ oui ☐ non | |
| 2. | ☐ oui ☐ non | |
| 3. | ☐ oui ☐ non | |
| 4. | ☐ oui ☐ non | |
| 5. | ☐ oui ☐ non | |

### Étape 2 — La perquisition des autorisations (10 min)

Sur votre téléphone, ouvrez : **Réglages → Confidentialité** (iPhone) ou **Paramètres → Sécurité et confidentialité → Gestionnaire d'autorisations** (Android — le chemin exact varie selon les marques ⚠).

Pour chacune de vos 5 applis, cochez ce à quoi elle a accès :

| Appli | 📍 Position | 📸 Appareil photo | 🎤 Micro | 👥 Contacts | 🖼️ Photos |
|---|---|---|---|---|---|
| 1. | ☐ | ☐ | ☐ | ☐ | ☐ |
| 2. | ☐ | ☐ | ☐ | ☐ | ☐ |
| 3. | ☐ | ☐ | ☐ | ☐ | ☐ |
| 4. | ☐ | ☐ | ☐ | ☐ | ☐ |
| 5. | ☐ | ☐ | ☐ | ☐ | ☐ |

### Étape 3 — L'interrogatoire (5 min)

Pour chaque case cochée, posez LA question du détective :

> **« Cette appli a-t-elle vraiment BESOIN de cet accès pour faire son travail ? »**

- Une appli de cartes qui demande la position : logique ✅
- Un jeu de puzzle qui demande vos contacts et votre micro : 🤨 pourquoi ?!

Notez vos 2 découvertes les plus surprenantes :
1. _______________________________________
2. _______________________________________

### Étape 4 — La reprise de contrôle (5 min)

Choisissez **au moins 2 actions** et faites-les vraiment :

- ☐ Retirer une autorisation inutile (on peut toujours la remettre après !)
- ☐ Passer une position de « Toujours » à « Seulement quand l'appli est utilisée »
- ☐ Supprimer une appli que vous n'utilisez plus (elle collecte peut-être encore)
- ☐ Regarder 2 minutes la « politique de confidentialité » d'une appli et noter une chose comprise… ou pas comprise du tout
- ☐ (Avancé) Chercher comment demander la copie de vos données à un grand service — c'est votre droit d'accès **RGPD** !

### Étape 5 — Le rapport d'enquête

Complétez : *« Avant cet audit, je pensais que mes applis savaient ______. En vérifiant, j'ai découvert ______. J'ai décidé de ______. »*

> 👨‍👩‍👧 **Pour les plus jeunes :** faites cet audit avec un parent — vous serez probablement l'expert·e des réglages, et il/elle sera aussi surpris·e que vous. Le RGPD prévoit d'ailleurs une protection renforcée pour les mineurs.

---

## Exercice 3 — Le Tribunal de l'IA ⚖️ (débat sur dilemme éthique)

**Durée :** 20–30 min · **Format :** groupe entier · **Difficulté :** ⭐⭐⭐
**Complément :** l'onglet « Dilemmes éthiques » de la page web (vote et affichage des résultats).

### L'affaire à juger

> **« Le collège Jules-Verne souhaite utiliser une IA pour noter les copies des élèves et prédire leurs chances de réussite. Le tribunal doit décider : autoriser, interdire, ou autoriser sous conditions. »**

### Les rôles

- ⚖️ **Juge(s)** : dirigent les débats, coupent la parole aux tricheurs de temps, rendent un verdict **motivé** (le verdict doit citer au moins 2 arguments entendus).
- 🟢 **La défense** (POUR l'IA de notation) : vous plaidez pour le collège. Même si vous pensez le contraire ! Plaider une position imposée, c'est de la musculation pour le cerveau.
- 🔴 **L'accusation** (CONTRE) : vous plaidez pour l'association de parents d'élèves inquiets.
- 👥 **Le jury** : écoute, pose des questions, vote à la fin (sur la page web ou à main levée).

### Le déroulé (chronométré, c'est important !)

1. Préparation des équipes — **5 min**
2. Plaidoirie de la défense — **2 min**
3. Plaidoirie de l'accusation — **2 min**
4. Droit de réponse (1 min chacune) — **2 min**
5. Questions du jury — **3 min**
6. Vote du jury + verdict des juges — **3 min**
7. Débrief tous ensemble — **3 min**

### Fiche d'aide — Défense 🟢 (à découper)

Pistes (choisissez, développez, ajoutez les vôtres) :
- Une IA note **tous les élèves avec les mêmes critères** — pas de favoritisme, pas de prof fatigué le dimanche soir.
- Notation **plus rapide** → les profs ont plus de temps pour aider les élèves.
- La prédiction permet de **repérer tôt** un élève qui décroche et de l'aider AVANT l'échec.
- On peut imposer des **garanties** : un humain revoit chaque note, l'IA est testée contre les biais.

### Fiche d'aide — Accusation 🔴 (à découper)

Pistes :
- L'IA apprend d'**anciennes notes**… qui contenaient peut-être déjà des injustices. Le biais est recopié, puis amplifié.
- **Boîte noire** : comment contester sa note si personne ne peut expliquer pourquoi ?
- Les données d'élèves sont **des données de mineurs** → protection maximale (RGPD !).
- Une **prédiction** peut devenir une étiquette : « l'IA a dit que tu vas échouer »… et si on finissait par y croire ?
- L'AI Act européen classe l'IA dans l'éducation en **haut risque** — ce n'est pas un hasard.

### Questions que le jury peut poser (aide)

- « Qui sera responsable si l'IA se trompe sur une note du brevet ? »
- « Les parents ont-ils donné leur consentement ? Et les élèves ? »
- « Que se passe-t-il pour un élève au style d'écriture original que l'IA n'a jamais vu ? »
- « Quelles garanties précises proposez-vous ? »

### Le débrief (la partie la plus importante !)

1. Ceux qui ont plaidé contre leur opinion : qu'avez-vous ressenti ? Avez-vous trouvé de bons arguments quand même ?
2. Quelqu'un a-t-il **changé d'avis** pendant le procès ? Grâce à quel argument ?
3. Existe-t-il une solution **médiane** (autoriser sous conditions) ? Laquelle ?
4. 🎬 **Révélation du prof :** cette affaire a déjà eu lieu en vrai (notes par algorithme au Royaume-Uni en 2020 → injustices → manifestations → abandon). Qu'est-ce que ça change à votre verdict ?

### Affaires supplémentaires (si le tribunal veut siéger encore)

- 📹 « Faut-il installer des caméras à reconnaissance faciale à l'entrée du collège pour la sécurité ? »
- 🏥 « Un village sans médecin doit-il s'équiper d'une IA de diagnostic utilisable sans docteur ? »
- 💬 « Faut-il autoriser les chatbots "amis virtuels" pour les personnes qui se sentent seules ? »
- 🌍 « Faut-il limiter l'usage des grosses IA génératives pour raisons écologiques ? »

> ⚖️ **Morale du tribunal :** sur ces questions, il n'y a pas UNE bonne réponse cachée quelque part. Il y a des arguments, des valeurs, des garanties possibles — et des citoyens (vous !) qui devront trancher. C'est exactement pour ça qu'on en débat.