DataManip Insights ÉPISODE 7 Maths pour la Data
⛰️ Épisode 7 · Mesurer comment ça change

Dérivées &
descente de gradient

La dérivée dit de quel côté une fonction monte ou descend, et à quelle vitesse. Avec elle, on descend vers un minimum en suivant la pente.

🎯 L'analogie clé

Tu es dans le brouillard sur une colline et tu veux rejoindre le fond de la vallée. Tu ne le vois pas, mais tu sens la pente sous tes pieds : tu fais un pas dans le sens opposé à la pente, puis tu recommences.

À toi de jouer

Un pas dans le sens opposé à la pente.

On part de x = 0 et on répète des pas pour minimiser f. Le taux d'apprentissage η fixe la taille des pas : essaie une valeur trop grande.

L'idée en une formule :
x ← x − η · f′(x)    f(x) = (x − 3)² + 1
f′(x) est la pente de la tangente (en bleu). À chaque pas, on retire η fois cette pente à x. Ici, le minimum de f est en x = 3. La dérivée est la limite de la pente entre deux points de plus en plus proches ; elle n'existe que si la courbe est continue et lisse (une pointe comme |x| en 0 n'a pas de tangente).
Descends la vallée pas à pas
Position x
–
f(x)
–
Pente f′(x)
–
Où on le retrouve

Un outil qui revient partout en data science.

Ce que tu viens de manipuler est la brique de base de plusieurs techniques que tu retrouveras dans le reste du cours.

🧠
Entraînement des réseaux
Chaque poids est ajusté en suivant le gradient de l'erreur : ce même pas, répété des millions de fois.
📈
Régression
Quand il n'existe pas de formule directe, on minimise le coût par descente de gradient.
🎚️
Réglage de η
Trop petit : on n'avance pas. Trop grand : on diverge. Ce réglage fait partie du métier.
Passer à l'implémentation

Le même calcul en quelques lignes de Python.

Python
x, eta = 0.0, 0.2
for _ in range(10):
    x = x - eta * 2 * (x - 3)   # pas dans le sens opposé à la pente
print(round(x, 3))              # → 2.982 : on est presque au minimum (x = 3)

📌 À retenir

Prochain épisode · Série Maths pour la Data
Vecteurs & projection
Une fonction dans une autre : on multiplie les pentes. C'est le moteur de la rétropropagation.