Saison 1 · Épisode 5 sur 10
D'abord l'école, ensuite le taf
Le quiz
Quand tu lui poses une question, c'est quoi ?
Une IA a deux vies : l'entraînement (elle apprend) puis l'inférence (elle sert). Pas les deux en même temps.
La règle d'or
D'abord l'entraînement, ensuite l'inférence
Les vrais mots
- Entraînement
- La phase où le modèle apprend sur des exemples et règle ses paramètres. Longue et chère.
- Inférence
- La phase où le modèle sert : il répond avec des paramètres figés. Rapide.
La suite du cours
Pendant l'entraînement, le modèle voit des millions d'exemples et règle ses paramètres. Pour les gros modèles, ça dure des semaines, sur des milliers de puces, et ça coûte une fortune.
Une fois l'entraînement fini, on fige les paramètres. Commence l'inférence : tu poses une question, le modèle fait son calcul avec ses paramètres figés et répond en une seconde.
Quand tu discutes avec ChatGPT, c'est toujours de l'inférence. Il retient ta conversation tant qu'elle est ouverte, mais il ne se réentraîne pas en te parlant. Ce qu'il sait vient de son entraînement.
Par exemple
Un élève qui révise toute l'année (entraînement), puis qui passe son exam sans ses cours (inférence).
Le piège
Tu l'entraînes → C'est de l'inférence
À retenir
- D'abord l'entraînement, ensuite l'inférence.
- Pendant l'inférence, le modèle n'apprend plus.
- Lui parler, c'est de l'inférence.
Pour réviser
Pourquoi l'entraînement coûte-t-il beaucoup plus cher que l'inférence ?
Explique-le à quelqu'un en une phrase : si tu y arrives, c'est gagné.