--- title: "Applied AI — Session 3 : Le langage des machines" author: "Yann Isola" theme: "Applied AI 🟢 Débutant" palette: ["#1A2230", "#0F7A6C", "#B4612A", "#E9F6F3", "#F4F7F6"] --- # Slide 1 — Titre ## Le langage des machines 🤖🔢 ### Applied AI — Niveau Débutant · Session 3 **Yann Isola** > Aujourd'hui, on ouvre le capot : comment une IA « lit »-elle vraiment vos messages ? --- # Slide 2 — La question choc ## Quand vous écrivez « Bonjour ! » à une IA… # …est-ce qu'elle *lit* votre message ? 🤔 *(Débattez 2 minutes avec votre voisin)* --- # Slide 3 — La réponse # NON. ❌ ## Elle ne voit jamais vos mots. ## Elle voit… des **nombres**. ``` « Bonjour ! » → [ 14085 , 0 ] → 🧮 calculs → [ 3992, 618, … ] → « Salut ! … » ``` ⚠ *Numéros illustratifs — chaque modèle a les siens* --- # Slide 4 — Au programme 1. 🔢 L'ordinateur ne comprend rien (et pourtant…) 2. ✂️ Les tokens : le texte en morceaux 3. 🗺️ Les embeddings : la carte des mots 4. 🧠 La fenêtre de contexte : la mémoire de travail 5. 👻 Les hallucinations : quand l'IA invente 6. 🌡️ La température : le curseur créativité 7. 🧪 Labo : jouez avec les paramètres ! --- # Slide 5 — Tout est nombre ## Un ordinateur = une calculatrice ultra-rapide - Il ne connaît **que les nombres** - Texte, images, musique → tout devient des nombres - La lettre « A » ? Pour la machine : **65** (code ASCII*) > *ASCII = American Standard Code for Information Interchange : un vieux standard qui donne un numéro à chaque lettre. **Métaphore de la journée :** l'IA est un touriste 🧳 avec un dictionnaire de nombres et une calculatrice géniale. --- # Slide 6 — Les tokens ✂️ ## Token = un morceau de texte traité d'un coup | Texte | Tokens possibles ⚠ | |-------|--------------------| | chat | `chat` → 1 token | | intelligence | `intelli` + `gence` → 2 tokens | | aujourd'hui | `aujourd` + `'` + `hui` → 3 tokens | | 😀 | même les emojis sont découpés ! | ⚠ *Le découpage exact varie selon les modèles.* --- # Slide 7 — Pourquoi découper ? ## 3 raisons 1. 📚 **Trop de mots** — conjugaisons, pluriels, mots nouveaux : impossible de tout numéroter 2. 🧱 **Effet LEGO** — `re` + `faire`, `dé` + `mont` + `er` : les briques se recombinent 3. 🆕 **Mots inconnus** — « schtroumpfologie » ? Pas de panique : on le découpe en morceaux connus --- # Slide 8 — Le vocabulaire ## Chaque token a un numéro fixe - Le modèle possède une grande liste : son **vocabulaire** - Taille typique : **30 000 à 200 000 tokens** ⚠ - « chat » = toujours le même numéro (pour un modèle donné) - Le modèle ne voit **jamais** vos lettres — seulement la liste des numéros 💡 Fun fact : le français coûte souvent **plus de tokens** que l'anglais (les modèles ont surtout lu de l'anglais) ⚠ --- # Slide 9 — Mini-jeu : le tokeniseur humain 🎮 ## À vous ! Découpez comme une IA : - `ordinateur` - `incroyablement` - `parapluie` - `chatbot` - `refaire` *En binômes, 5 minutes. Il n'y a pas UNE bonne réponse — chaque modèle a son découpage !* --- # Slide 10 — Le problème du numéro ## Le token n° 9846 = « chat »… et alors ? Un numéro ne dit **rien du sens**. Comment la machine sait-elle que **chat** 🐱 ressemble à **chien** 🐶 mais pas à **brouette** 🛞 ? # → Les embeddings ! --- # Slide 11 — Les embeddings 🗺️ ## Des mots transformés en coordonnées > Comme Paris et Lyon sur une carte de France… > mais la carte représente le **SENS**, pas la géographie. **Mots proches en sens = points voisins sur la carte** ``` roi • • reine homme • • femme chien • • chat • hamster • pizza • sushi ``` --- # Slide 12 — La magie de l'arithmétique des mots ✨ # roi − homme + femme ≈ **reine** 👑 La direction « masculin → féminin » est une **flèche** sur la carte ! **À vous de deviner :** - Paris − France + Italie ≈ ❓ - manger − nourriture + boisson ≈ ❓ ⚠ *Intuition issue des anciens modèles de mots (word2vec, 2013). Les IA modernes font plus complexe, mais l'idée reste : sens = position.* --- # Slide 13 — En vrai : pas 2 dimensions… ## …mais des centaines, voire des milliers ! ⚠ - Nous : incapables d'imaginer une carte en 1000D 🤯 - La machine : elle calcule ça sans effort - Pour la regarder, on **écrase** la carte en 2D 🧪 **Démo :** la carte des mots interactive → `webpage/index.html` --- # Slide 14 — ☕ Pause ## De retour dans 10 minutes *Question à méditer : de combien de choses pouvez-vous vous souvenir en même temps ?* --- # Slide 15 — La fenêtre de contexte 🧠 ## La « mémoire de travail » de l'IA - Tout ce que l'IA garde « en tête » d'un coup : votre conversation, vos documents, ses réponses - Mesurée en **tokens** - À chaque message, l'IA **relit tout** ce qui tient dans la fenêtre… et rien d'autre --- # Slide 16 — L'analogie de la table 🪑 > Vous faites vos devoirs sur une petite table : **10 feuilles maximum**. > Une 11ᵉ feuille arrive ? Une ancienne **tombe**. - Sur la table = l'IA le voit ✅ - Tombé de la table = **oublié** ❌ **Conséquence :** conversation très longue → l'IA peut oublier le début ! --- # Slide 17 — Tailles de fenêtres ## De plus en plus grandes ⚠ - Hier : quelques **milliers** de tokens - Aujourd'hui : jusqu'à **des millions** pour certains modèles - 1 million de tokens ≈ plusieurs gros romans 📚 **Astuces quand l'IA perd le fil :** 1. Redonner un **résumé** des points clés 2. Ou repartir sur une **nouvelle conversation** propre ⚠ *Chiffres qui évoluent très vite !* --- # Slide 18 — Les hallucinations 👻 ## Quand l'IA invente… avec assurance **Hallucination** = information fausse ou inventée, présentée comme vraie : - 📖 Un livre qui n'existe pas - 💬 Une citation fabriquée - 📅 Une date déformée - 📊 Des chiffres précis… sortis de nulle part --- # Slide 19 — Pourquoi l'IA invente-t-elle ? ## Elle calcule le token suivant **le plus probable** - Elle est entraînée à produire du texte **plausible**, pas du texte **vrai** - « Je ne sais pas » est rarement la suite la plus probable… - Comme un élève qui n'a pas révisé mais rédige avec aplomb 😅 > ### « L'IA est une machine à produire du **plausible**, pas du **vrai**. Souvent les deux coïncident. **Pas toujours.** » --- # Slide 20 — Les 4 réflexes anti-hallucination 🛡️ 1. 🔍 **Vérifier ailleurs** les faits importants (dates, chiffres, noms, citations) 2. 🎯 **Se méfier du trop précis** et invérifiable 3. 🔗 **Demander les sources**… et les **contrôler** (l'IA peut aussi inventer des sources ⚠) 4. ⚖️ **Règle des enjeux** : santé, argent, devoirs notés → on vérifie TOUJOURS --- # Slide 21 — La température 🌡️ ## Le curseur du hasard « Le ciel est… » | Token suivant | Probabilité | |---------------|------------| | bleu | 60 % | | gris | 25 % | | magnifique | 10 % | | en fromage 🧀 | 0,1 % | - 🧊 **Basse** : presque toujours « bleu » — sage, prévisible - 🌤️ **Moyenne** : parfois « gris », « magnifique » - 🔥 **Très haute** : un jour… « en fromage » ! --- # Slide 22 — Quelle température pour quoi ? | Tâche | Température | |-------|-------------| | Traduction, résumé, calculs | 🧊 Basse | | E-mails, rédaction | 🌤️ Moyenne | | Brainstorming, poésie, idées folles | 🔥 Haute | ⚠ *Les chatbots grand public ne laissent souvent pas régler la température… mais on peut l'imiter : « réponds de façon très classique » vs « sois audacieux ! »* --- # Slide 23 — 🧪 Labo : à vous de jouer ! ## En binômes, sur la page interactive : 1. 🌡️ Testez la même question en froid / moyen / chaud 2. ✂️ Trouvez le mot français qui coûte le **plus de tokens** 3. 🗺️ Trouvez la paire de mots la plus **surprenante** sur la carte **Restitution : votre découverte préférée en une phrase !** --- # Slide 24 — Les 6 phrases à retenir 🎯 1. L'ordinateur **calcule avec des nombres**, il ne comprend pas les mots 2. Le texte est découpé en **tokens**, chacun a un numéro 3. Les **embeddings** = la carte du sens : proche en sens = proche en coordonnées 4. La **fenêtre de contexte** = mémoire de travail, grande mais limitée 5. L'IA produit du **plausible**, pas du **vrai** → on vérifie ! 6. La **température** = le curseur entre prévisible 🧊 et créatif 🔥 --- # Slide 25 — La prochaine fois… ## Session 4 🚀 > Maintenant qu'on sait **comment** la machine lit… > …on va apprendre à lui **parler** pour obtenir exactement ce qu'on veut ! ### Merci ! Place au quiz 📝 *Applied AI — Yann Isola*