Au programme aujourd'hui

1. Les biais : quand l'IA est injuste sans le vouloir
2. La vie privée : d'où viennent les données ? (souvent de nous !)
3. Le consentement et le RGPD
4. La boîte noire : pourquoi l'IA ne s'explique pas
5. La responsabilité : qui est coupable ?
6. L'environnement et le travail
7. Les lois : l'AI Act européen
8. Le Tribunal de l'IA — à vous de plaider !

Une histoire vraie pour commencer

Une grande entreprise construit une IA pour trier les CV et repérer les meilleurs candidats.

Quelques mois plus tard, on découvre que l'IA écarte presque tous les CV de femmes.

Personne ne lui a demandé de faire ça.

Alors… d'où vient le problème ?

La réponse : les données

• L'entreprise avait recruté surtout des hommes pendant 10 ans
• L'IA a appris sur ces recrutements passés
• Elle en a conclu : « bon candidat = profil masculin »
• Elle a même appris à pénaliser des mots comme « équipe féminine de… »

La phrase à retenir de toute la session :
« Une IA n'est jamais plus juste que les données qui l'ont nourrie. »

Le mécanisme du biais

L'analogie de l'apprenti cuisinier

Un apprenti qui apprend en regardant UN seul chef…
Si le chef sale trop → l'apprenti sale trop. Sans se poser de questions.

Monde imparfait → données imparfaites → IA qui apprend ces défauts
              → décisions injustes… à GRANDE échelle et TRÈS vite

Le biais n'est pas une panne : l'IA reproduit fidèlement ce qu'on lui a montré. C'est ça, le piège.

Des biais bien réels — 3 exemples

1. Reconnaissance faciale
Moins de 1 % d'erreur sur certains visages… plus de 30 % sur d'autres (femmes à peau foncée). Cause : photos d'entraînement pas assez diverses. Conséquence : des innocents arrêtés par erreur.

2. Recrutement
Le trieur de CV de l'histoire — abandonné par l'entreprise.

3. Publicité ciblée
Offres d'emplois bien payés montrées plus souvent aux hommes ; crédits coûteux ciblant certains quartiers.

Démo : le simulateur de biais

À vous de jouer ! (page web de la session, onglet 1)

1. Entraînez une mini-IA de tri avec des données équilibrées → tout va bien
2. Entraînez-la avec des données déséquilibrées → elle devient injuste
3. L'IA a-t-elle changé ? Non. Qu'est-ce qui a changé ? Les données.

Comment corriger un biais ?
Données plus diverses · Tests sur tous les groupes · Équipes variées · Audits réguliers

La vie privée : d'où viennent les données ?

Les IA ont appris grâce à… nous :

Nos photos publiées	Nos recherches
Nos textes (posts, avis, commentaires)	Nos clics et temps de visionnage
Notre position GPS	Parfois notre voix

« Si c'est gratuit, c'est souvent que vos données sont le paiement. »
(Pas toujours vrai — mais toujours bon à se demander !)

Le consentement

Vous a-t-on demandé la permission ?

• En théorie oui : les conditions générales d'utilisation…
• …que personne ne lit ! Les lire toutes prendrait des semaines par an
• Consentement souvent flou, caché, ou « à prendre ou à laisser »

La bonne question à toujours se poser :

« Cette appli a-t-elle vraiment BESOIN de ces données pour fonctionner ? »
Une appli de cartes qui veut votre position : logique.
Un jeu de puzzle qui veut vos contacts et votre micro :

Le RGPD : notre bouclier européen

RGPD = Règlement Général sur la Protection des Données (Europe, 2018)

Amendes jusqu'à 4 % du chiffre d'affaires mondial — En France, le gendarme : la CNIL

Démo : le vérificateur de vie privée

Page web, onglet 2 — et exercice 2 à la maison !

• Cochez les applis et autorisations de votre téléphone
• Découvrez votre « profil d'exposition »
• Recevez des conseils concrets pour reprendre le contrôle

Objectif : pas la peur — la lucidité.
On constate → on comprend → on ajuste.

La boîte noire

Imaginez un distributeur bizarre : vous insérez votre dossier…
bip bip … il sort un papier : « REFUSÉ ».
Pourquoi ? La machine ne répond pas. Personne ne peut expliquer précisément.

Pourquoi ? Les grosses IA calculent via des millions de réglages internes ajustés automatiquement. Aucun humain n'a écrit « si X alors refuse ».

Ça marche souvent très bien… mais expliquer chaque décision est très difficile.

Quand la boîte noire devient grave

Domaine	La question qui fâche
Santé	« Pas de traitement pour vous. » — Pourquoi ? Un médecin doit pouvoir vérifier !
Justice	Évaluer un « risque de récidive » sans explication ? Et la liberté de la personne ?
Banque	« Crédit refusé. » Sans raison → impossible de contester ou de s'améliorer

Le principe : plus une décision impacte une vie humaine,
plus on doit exiger explication + contrôle humain.

La responsabilité : le crash-test

Une voiture autonome ne détecte pas un piéton et cause un accident.
Qui est responsable ? Votez !

1. Le « conducteur » ?
2. Le constructeur ?
3. Les développeurs ?
4. L'IA elle-même ?
5. L'État qui a autorisé ces voitures ?

La réponse (spoiler : pas l'IA)

• L'IA ne peut PAS être responsable : pas de conscience, pas de personnalité juridique. On ne met pas un logiciel en prison.
• Parallèle : si un chien mord, on ne juge pas le chien — on se tourne vers le maître.
• La réponse dépend des promesses du constructeur : « gardez les mains sur le volant » ≠ « dormez tranquille ».
• Les lois s'écrivent en ce moment même, partout dans le monde. Vous voterez un jour sur ces sujets !

La responsabilité est toujours humaine (ou d'entreprise). Jamais celle de la machine.

L'impact environnemental

Entraîner une très grosse IA, c'est :

• Autant d'électricité que des centaines de foyers pendant un an
• Un bilan CO2 comparable à plusieurs vols transatlantiques
• De l'eau pour refroidir les centres de données

Et chaque utilisation compte : une requête à une grosse IA générative consomme nettement plus qu'une recherche web classique… × des milliards par jour

L'environnement : les deux faces

Le débat honnête :

Inquiétudes	Espoirs
Consommation qui explose	Modèles plus sobres en développement
Eau et électricité des data centers	Centres alimentés en renouvelable
Usage futile = gaspillage ?	L'IA aide l'environnement : réseaux électriques, météo, déforestation, agriculture

À discuter : générer un mème rigolo vs aider à découvrir un médicament — où met-on le curseur ?

L'IA et le travail

Transformés	Tâches menacées	Nouveaux métiers
Médecin (aide au diagnostic)	Saisie répétitive	Auditeur de biais
Graphiste (outils génératifs)	Traduction basique	Éthicien de l'IA
Prof (supports personnalisés)	Tri de documents	Délégué à la protection des données (merci le RGPD !)

• L'histoire se répète : l'ordinateur a supprimé des métiers… et en a créé bien plus. Mais l'IA va plus vite → se former en continu !

« L'IA ne prendra probablement pas votre métier. Mais quelqu'un qui sait l'utiliser pourrait le transformer. »
L'IA : un outil, pas un remplaçant.

Les lois : l'AI Act européen

• Adopté en 2024 — première grande loi au monde dédiée à l'IA
• Application progressive sur plusieurs années
• L'idée géniale : classer les IA par niveau de risque

Le duo européen :

• RGPD → protège les données
• AI Act → encadre les usages de l'IA

La pyramide des risques

Niveau	Exemples	Règle
Inacceptable	Notation sociale des citoyens, manipulation des vulnérables	INTERDIT
Haut risque	Recrutement, crédit, justice, examens, médical	Conditions strictes : tests, transparence, contrôle humain
Limité	Chatbots, images générées, deepfakes	Doit prévenir : « je suis une IA »
Minimal	Anti-spam, IA de jeux, recommandations	Libre

Astuce : plus l'IA touche à la liberté, l'argent, la santé, l'éducation → plus elle monte dans la pyramide.

À vous de classer !

Où placez-vous ces IA dans la pyramide ?

1. Une IA qui propose une playlist
2. Une IA qui note vos copies au brevet
3. Un État qui attribue des « points de bon citoyen »
4. Un chatbot d'aide aux devoirs
5. Une IA qui décide de votre prêt étudiant

(Réponses : 1→, 2→, 3→, 4→, 5→)

Les règles du procès

1. Préparation des équipes — 5 min
2. Plaidoirie défense — 2 min chrono
3. Plaidoirie accusation — 2 min chrono
4. Droit de réponse — 1 min chacune
5. Questions du jury — 3 min
6. Vote (page web, onglet 3) + verdict motivé

Règle d'or : on plaide la position imposée, même si on pense le contraire. C'est de la musculation pour le cerveau !

Le twist final

Cette affaire a déjà eu lieu. En vrai.

Royaume-Uni, 2020 : examens annulés (Covid) → un algorithme attribue les notes finales.

Résultat :

• Les élèves des lycées défavorisés sous-notés
• Manifestations dans la rue : « F** the algorithm ! »*
• Système abandonné en quelques jours

Est-ce que ça change votre verdict ?

Ce qu'il faut retenir

1. Une IA n'est jamais plus juste que ses données (biais)
2. Nos données valent de l'or ; le RGPD nous donne des droits
3. Décision importante → exiger transparence + contrôle humain
4. La responsabilité est toujours humaine, jamais celle de l'IA
5. L'IA a un coût environnemental — à mettre en face des bénéfices
6. L'IA : un outil qui transforme le travail, pas un remplaçant
7. L'AI Act : une pyramide de risques, du interdit au libre