Un modèle linéaire prédit la consommation avec la puissance (σ = 2 kW) et la température (σ = 8 °C). Exprimée en kW, la puissance a un coefficient de 3 et 85,7 % de la somme des coefficients ; exprimée en W, son coefficient tombe à 0,003 et 0,6 %. L'importance par permutation (augmentation de l'erreur quand on mélange la variable) ne bouge pas : 69,2 % dans les deux cas.
Comparer des coefficients, c'est comparer des prix sans regarder la devise : 3 par kW et 0,003 par W sont la même chose.
Dans y = a·A + b·B, le coefficient a dit de combien y bouge quand A augmente d'une unité : changer d'unité change a. L'effet réel d'une variable sur la sortie est a·σ_A, l'écart provoqué par une variation typique de A. L'importance par permutation mesure cet effet : elle vaut 2(aσ_A)² en augmentation d'erreur quadratique, et ne dépend d'aucune unité.
Réglez l'effet de la puissance par kW et l'unité de la puissance : le curseur est l'exposant, 0 pour des kW, 3 pour des W. La température (effet de 0,5 par °C, σ = 8 °C) est fixe. Les barres comparent la part de chaque variable dans la somme des coefficients et dans l'importance par permutation.
Écarts-types : puissance 2 kW, température 8 °C ; effet de la température 0,5 par °C ; les parts de permutation sont calculées exactement.
La courbe donne la part de la puissance dans la somme des coefficients selon l'unité (de kW à W). Le trait horizontal est son importance par permutation. Le point blanc est votre réglage. La puissance passe de 85,7 % en kW à 37,5 % en dizaines de W, 5,7 % en centaines de W et 0,6 % en W.
Chips : part de la puissance dans la somme des coefficients, pour l'effet réglé plus haut.
Voici la démarche, puis un exemple.
import numpy as np from sklearn.inspection import permutation_importance # X[:, 0] = puissance (kW ou W), X[:, 1] = température modele.fit(X, y) print(np.abs(modele.coef_)) # dépend de l'unité r = permutation_importance(modele, X_test, y_test, n_repeats=20) print(r.importances_mean) # indépendant de l'unité
Quand deux variables se ressemblent, l'importance se partage ou se perd.
Statistiques, finance quantitative, machine learning, deep learning, LLM, agents IA, MLOps : 321 épisodes avec des simulateurs à manipuler, pas des vidéos.
Statistics, quantitative finance, machine learning, deep learning, LLMs, AI agents, MLOps: 321 interactive episodes with simulators to play with, not videos.