Saison 1 · Épisode 8 sur 10
Les 5 trucs que l'IA rate encore
Le quiz
Pourquoi elle compte mal les lettres ?
L'IA invente parfois (hallucinations), lit des tokens et pas des lettres, ne connaît rien après sa date de coupure, manque de bon sens et avoue rarement qu'elle ne sait pas.
La règle d'or
Un super assistant, pas un oracle : tu vérifies
Les vrais mots
- Hallucination
- Réponse fausse donnée avec aplomb par une IA.
- Tokens
- Les morceaux de mots que lit et écrit un modèle de langage.
- Date de coupure
- La date où s'arrêtent les données d'entraînement du modèle.
La suite du cours
Une hallucination, c'est quand un modèle de langage produit une réponse qui sonne juste mais qui est fausse : un chiffre inventé, une source qui n'existe pas. Il ne ment pas exprès : il prédit la suite la plus plausible, pas la plus vraie.
Le modèle lit des tokens, des morceaux de mots. C'est pour ça qu'il galère à compter les lettres d'un mot : il ne voit pas les lettres une par une.
Sa connaissance s'arrête à sa date de coupure, la fin des données de son entraînement. Sans accès à Internet, il ne sait rien de ce qui s'est passé après.
Par exemple
Demande une source précise à un modèle sans Internet : il peut te donner un titre et un auteur qui n'existent pas.
Le piège
Sûre = vrai → Sûre ≠ vrai
À retenir
- Plausible ≠ vrai.
- Contre les hallucinations : tu vérifies.
- Après sa date de coupure, il ne sait rien.
Pour réviser
Pourquoi une IA peut-elle inventer une source avec beaucoup d'assurance ?
Explique-le à quelqu'un en une phrase : si tu y arrives, c'est gagné.