---
marp: true
theme: default
paginate: true
backgroundColor: "#F4F7F6"
color: "#1A2230"
style: |
  section {
    font-family: 'Segoe UI', 'Helvetica Neue', sans-serif;
    background: #F4F7F6;
    color: #1A2230;
  }
  h1 { color: #0F7A6C; }
  h2 { color: #1A2230; }
  strong { color: #B4612A; }
  blockquote {
    background: #E9F6F3;
    border-left: 6px solid #0F7A6C;
    padding: 0.6em 1em;
    border-radius: 0 8px 8px 0;
  }
  section.lead {
    background: #1A2230;
    color: #E9F6F3;
    text-align: center;
  }
  section.lead h1 { color: #E9F6F3; font-size: 2.2em; }
  section.lead h2 { color: #0F7A6C; }
  table { font-size: 0.85em; }
  th { background: #0F7A6C; color: #E9F6F3; }
---

<!-- _class: lead -->

# 🎭 L'IA et l'éthique

## Applied AI — Niveau Débutant 🟢 · Session 6

**Yann Isola**

*« L'IA est un miroir : elle reflète nos données, nos choix… et nos défauts. »*

---

# Au programme aujourd'hui 🗺️

1. ⚖️ Les **biais** : quand l'IA est injuste sans le vouloir
2. 🔍 La **vie privée** : d'où viennent les données ? (souvent de nous !)
3. ✋ Le **consentement** et le **RGPD**
4. 📦 La **boîte noire** : pourquoi l'IA ne s'explique pas
5. 🚗 La **responsabilité** : qui est coupable ?
6. 🌍 L'**environnement** et 💼 le **travail**
7. 📜 Les **lois** : l'AI Act européen ⚠
8. ⚖️ **Le Tribunal de l'IA** — à vous de plaider !

---

# Une histoire vraie pour commencer 🕵️

> Une grande entreprise construit une IA pour **trier les CV** et repérer les meilleurs candidats.
>
> Quelques mois plus tard, on découvre que l'IA **écarte presque tous les CV de femmes**.
>
> Personne ne lui a demandé de faire ça. 🤔

**Alors… d'où vient le problème ?**

---

# La réponse : les données 📊

- L'entreprise avait recruté **surtout des hommes** pendant 10 ans
- L'IA a appris sur ces recrutements passés
- Elle en a conclu : « bon candidat = profil masculin »
- Elle a même appris à pénaliser des mots comme *« équipe féminine de… »*

> 💡 **La phrase à retenir de toute la session :**
> **« Une IA n'est jamais plus juste que les données qui l'ont nourrie. »**

---

# Le mécanisme du biais 🔄

**L'analogie de l'apprenti cuisinier 👨‍🍳**

Un apprenti qui apprend en regardant UN seul chef…
Si le chef sale trop → l'apprenti sale trop. Sans se poser de questions.

```
Monde imparfait → données imparfaites → IA qui apprend ces défauts
              → décisions injustes… à GRANDE échelle et TRÈS vite
```

⚠️ Le biais n'est pas une panne : l'IA reproduit **fidèlement** ce qu'on lui a montré. C'est ça, le piège.

---

# Des biais bien réels — 3 exemples 📌

**1. 👤 Reconnaissance faciale**
Moins de 1 % d'erreur sur certains visages… plus de 30 % sur d'autres (femmes à peau foncée). Cause : photos d'entraînement pas assez diverses. Conséquence : des innocents arrêtés par erreur.

**2. 📄 Recrutement**
Le trieur de CV de l'histoire — abandonné par l'entreprise.

**3. 📢 Publicité ciblée**
Offres d'emplois bien payés montrées plus souvent aux hommes ; crédits coûteux ciblant certains quartiers.

---

# 🎮 Démo : le simulateur de biais

**À vous de jouer !** (page web de la session, onglet 1)

1. Entraînez une mini-IA de tri avec des données **équilibrées** → tout va bien ✅
2. Entraînez-la avec des données **déséquilibrées** → elle devient injuste ❌
3. L'IA a-t-elle changé ? **Non.** Qu'est-ce qui a changé ? **Les données.**

**Comment corriger un biais ?**
✔️ Données plus diverses · ✔️ Tests sur tous les groupes · ✔️ Équipes variées · ✔️ Audits réguliers

---

# La vie privée : d'où viennent les données ? 🔍

Les IA ont appris grâce à… **nous** :

| | |
|---|---|
| 📸 Nos **photos** publiées | 🔍 Nos **recherches** |
| ✍️ Nos **textes** (posts, avis, commentaires) | 👆 Nos **clics** et temps de visionnage |
| 📍 Notre **position** GPS | 🎤 Parfois notre **voix** |

> 💡 *« Si c'est gratuit, c'est souvent que vos données sont le paiement. »*
> (Pas toujours vrai — mais toujours bon à se demander !)

---

# Le consentement ✋

**Vous a-t-on demandé la permission ?**

- En théorie oui : les **conditions générales d'utilisation**…
- …que personne ne lit ! 😅 Les lire toutes prendrait des **semaines par an**
- Consentement souvent flou, caché, ou « à prendre ou à laisser »

**La bonne question à toujours se poser :**

> « Cette appli a-t-elle vraiment BESOIN de ces données pour fonctionner ? »
> 🗺️ Une appli de cartes qui veut votre position : logique.
> 🧩 Un jeu de puzzle qui veut vos contacts et votre micro : 🤨

---

# Le RGPD : notre bouclier européen 🛡️

**RGPD = Règlement Général sur la Protection des Données** (Europe, 2018)

| Votre droit | En clair |
|---|---|
| **Accès** | « Montrez-moi les données que vous avez sur moi » |
| **Rectification** | « Corrigez ce qui est faux » |
| **Effacement** | « Supprimez mes données » (droit à l'oubli) |
| **Consentement clair** | On doit demander, pas piéger |
| **Protection des mineurs** | Accord parental pour les plus jeunes |

Amendes jusqu'à **4 % du chiffre d'affaires mondial** 💸 — En France, le gendarme : la **CNIL**

---

# 🎮 Démo : le vérificateur de vie privée

**Page web, onglet 2** — et exercice 2 à la maison !

- Cochez les applis et autorisations de **votre** téléphone
- Découvrez votre « profil d'exposition »
- Recevez des conseils concrets pour reprendre le contrôle

**Objectif : pas la peur — la lucidité.** 😎
On constate → on comprend → on ajuste.

---

# La boîte noire 📦❓

> Imaginez un distributeur bizarre : vous insérez votre dossier…
> 💡 *bip bip* … il sort un papier : **« REFUSÉ »**.
> Pourquoi ? La machine ne répond pas. **Personne** ne peut expliquer précisément.

**Pourquoi ?** Les grosses IA calculent via des **millions de réglages internes** ajustés automatiquement. Aucun humain n'a écrit « si X alors refuse ».

Ça marche souvent très bien… mais **expliquer chaque décision** est très difficile.

---

# Quand la boîte noire devient grave ⚠️

| Domaine | La question qui fâche |
|---|---|
| 🏥 **Santé** | « Pas de traitement pour vous. » — Pourquoi ? Un médecin doit pouvoir vérifier ! |
| ⚖️ **Justice** | Évaluer un « risque de récidive » sans explication ? Et la liberté de la personne ? |
| 🏦 **Banque** | « Crédit refusé. » Sans raison → impossible de contester ou de s'améliorer |

> 📏 **Le principe :** plus une décision impacte une vie humaine,
> plus on doit exiger **explication + contrôle humain**.

---

# La responsabilité : le crash-test 🚗💥

> Une voiture autonome ne détecte pas un piéton et cause un accident.
> **Qui est responsable ?** Votez ! 🙋

1. 🧑 Le « conducteur » ?
2. 🏭 Le constructeur ?
3. 💻 Les développeurs ?
4. 🤖 L'IA elle-même ?
5. 🏛️ L'État qui a autorisé ces voitures ?

---

# La réponse (spoiler : pas l'IA) ⚖️

- 🤖 **L'IA ne peut PAS être responsable** : pas de conscience, pas de personnalité juridique. On ne met pas un logiciel en prison.
- 🐕 Parallèle : si un chien mord, on ne juge pas le chien — on se tourne vers **le maître**.
- La réponse dépend des **promesses du constructeur** : « gardez les mains sur le volant » ≠ « dormez tranquille ».
- ⚠ Les lois s'écrivent **en ce moment même**, partout dans le monde. Vous voterez un jour sur ces sujets !

> **La responsabilité est toujours humaine (ou d'entreprise). Jamais celle de la machine.**

---

# L'impact environnemental 🌍⚡ ⚠

**Entraîner une très grosse IA, c'est :**
- ⚡ Autant d'électricité que des **centaines de foyers pendant un an** ⚠
- ✈️ Un bilan CO2 comparable à **plusieurs vols transatlantiques** ⚠
- 💧 De l'**eau** pour refroidir les centres de données ⚠

**Et chaque utilisation compte :** une requête à une grosse IA générative consomme nettement plus qu'une recherche web classique… × des milliards par jour ⚠

---

# L'environnement : les deux faces 🌗

**Le débat honnête :**

| 😟 Inquiétudes | 🌱 Espoirs |
|---|---|
| Consommation qui explose | Modèles plus **sobres** en développement ⚠ |
| Eau et électricité des data centers | Centres alimentés en **renouvelable** ⚠ |
| Usage futile = gaspillage ? | L'IA **aide** l'environnement : réseaux électriques, météo, déforestation, agriculture |

> 🤔 **À discuter :** générer un mème rigolo vs aider à découvrir un médicament — où met-on le curseur ?

---

# L'IA et le travail 💼

| 🔄 Transformés | ⚠️ Tâches menacées | ✨ Nouveaux métiers |
|---|---|---|
| Médecin (aide au diagnostic) | Saisie répétitive | Auditeur de biais |
| Graphiste (outils génératifs) | Traduction basique | Éthicien de l'IA |
| Prof (supports personnalisés) | Tri de documents | Délégué à la protection des données (merci le RGPD !) |

- 📜 L'histoire se répète : l'ordinateur a supprimé des métiers… et en a créé **bien plus**. Mais l'IA va **plus vite** → se former en continu !

> 💡 **« L'IA ne prendra probablement pas votre métier. Mais quelqu'un qui sait l'utiliser pourrait le transformer. »**
> L'IA : un **outil**, pas un remplaçant.

---

# Les lois : l'AI Act européen 📜 ⚠

- 🇪🇺 Adopté en **2024** ⚠ — première grande loi au monde dédiée à l'IA
- Application progressive sur plusieurs années ⚠
- L'idée géniale : classer les IA par **niveau de risque** 🔺

**Le duo européen :**
- **RGPD** → protège les *données*
- **AI Act** → encadre les *usages de l'IA*

---

# La pyramide des risques 🔺

| Niveau | Exemples | Règle |
|---|---|---|
| 🔴 **Inacceptable** | Notation sociale des citoyens, manipulation des vulnérables | **INTERDIT** |
| 🟠 **Haut risque** | Recrutement, crédit, justice, examens, médical | Conditions **strictes** : tests, transparence, contrôle humain |
| 🟡 **Limité** | Chatbots, images générées, deepfakes | Doit **prévenir** : « je suis une IA » |
| 🟢 **Minimal** | Anti-spam, IA de jeux, recommandations | **Libre** |

> 🧠 Astuce : plus l'IA touche à la **liberté, l'argent, la santé, l'éducation** → plus elle monte dans la pyramide.

---

# À vous de classer ! 🎯

Où placez-vous ces IA dans la pyramide ?

1. 🎵 Une IA qui propose une playlist
2. 📝 Une IA qui **note vos copies au brevet**
3. 🏛️ Un État qui attribue des « points de bon citoyen »
4. 💬 Un chatbot d'aide aux devoirs
5. 🏦 Une IA qui décide de votre prêt étudiant

*(Réponses : 1→🟢, 2→🟠, 3→🔴, 4→🟡, 5→🟠)*

---

<!-- _class: lead -->

# ⚖️ Le Tribunal de l'IA

## L'affaire à juger :

**« Le collège Jules-Verne veut utiliser une IA pour noter les copies et prédire la réussite des élèves. »**

🟢 Défense · 🔴 Accusation · 👥 Jury · ⚖️ Juges

**Que le procès commence !**

---

# Les règles du procès 📋

1. **Préparation** des équipes — 5 min
2. **Plaidoirie** défense 🟢 — 2 min chrono
3. **Plaidoirie** accusation 🔴 — 2 min chrono
4. **Droit de réponse** — 1 min chacune
5. **Questions du jury** — 3 min
6. **Vote** 🗳️ (page web, onglet 3) + **verdict motivé**

> ⚠️ Règle d'or : on plaide la position **imposée**, même si on pense le contraire. C'est de la musculation pour le cerveau ! 💪🧠

---

# Le twist final 🎬

**Cette affaire a déjà eu lieu. En vrai.**

🇬🇧 Royaume-Uni, 2020 : examens annulés (Covid) → un **algorithme** attribue les notes finales.

Résultat :
- 📉 Les élèves des lycées **défavorisés** sous-notés
- 😡 Manifestations dans la rue : *« F*** the algorithm ! »*
- 🗑️ Système **abandonné** en quelques jours

**Est-ce que ça change votre verdict ?**

---

# Ce qu'il faut retenir 🎒

1. ⚖️ Une IA n'est jamais plus juste que **ses données** (biais)
2. 🔍 Nos données valent de l'or ; le **RGPD** nous donne des droits
3. 📦 Décision importante → exiger **transparence + contrôle humain**
4. 🧑 La responsabilité est toujours **humaine**, jamais celle de l'IA
5. 🌍 L'IA a un **coût environnemental** ⚠ — à mettre en face des bénéfices
6. 💼 L'IA : un **outil** qui transforme le travail, pas un remplaçant
7. 📜 L'**AI Act** ⚠ : une pyramide de risques, du 🔴 interdit au 🟢 libre

---

<!-- _class: lead -->

# Merci ! 🎭

## À la maison :
📱 Exercice 2 : **l'audit de vie privée de votre téléphone**
❓ Le quiz (10 questions)

## La prochaine fois :
On continue l'aventure — d'ici là, ouvrez l'œil :
**repérez un dilemme éthique d'IA dans l'actualité de la semaine !** 🗞️

*Applied AI — Yann Isola*