Estimation de courbes moyennes de consommation électrique pour des petits domaines à partir d’échantillons
Section 6. Conclusions et perspectives
Dans cet article, nous avons proposé quatre approches pour estimer des courbes moyennes par sondage pour des petits domaines. Les deux premières consistent à projeter les courbes dans un espace de dimension finie puis à employer des méthodes usuelles d’estimation de totaux de variables réelles sur chacun des vecteurs de base de l’espace de projection. En l’occurence, on utilise soit les modèles linéaires mixtes au niveau unité, soit la régression linéaire. Les deux dernières approches consistent quant à elles à prédire chacune des courbes des unités non échantillonnées par un modèle non paramétrique puis à agréger ces prédictions pour en déduire les courbes moyennes estimées pour chaque domaine. Les modèles utilisés pour construire les prédictions sont des arbres de régression adaptés à des données fonctionnelles construits suivant l’approche Courbotree de Stéphan et Cogordan (2009) ou des forêts aléatoires adaptées à des données fonctionnelles construites en agrégeant des arbres Courbotree aléatoires. Pour chacune des approches, nous avons également proposé une démarche d’approximation de variance des estimateurs de courbes moyennes basés sur un bootstrap.
Nos tests ont montré que les modèles linéaires mixtes donnaient les meilleurs résultats, et permettaient, sur ce jeu de données particulier, de diviser l’erreur commise par sept environ par rapport aux estimateurs de Horvitz-Thompson. Les arbres de régression arrivent ensuite, puis les régressions linéaires fonctionnelles.
Ces travaux peuvent être prolongés de différentes manières. En particulier, l’approche basée sur l’agrégation d’estimations non paramétriques de courbes par arbres de régression ou forêts aléatoires nous semble prometteuse. Une piste d’amélioration intéressante pourrait être d’utiliser des distances plus pertinentes que la distance euclidienne dans le critère de split qui permet de construire nos arbres de régression. On pourrait ainsi utiliser la distance de Mahalanobis, la distance de Manhattan, ou encore une distance de type « dynamic time warping ».
Une autre piste pourrait être de construire ce critère de split en appliquant la distance euclidienne non pas sur les courbes discrétisées mais sur une transformation de ces courbes, par projection dans une base d’ondelettes, ou encore sur des résumés non linéaires tels que des autoencodeurs variationnels issus de modèles de deep learning (voir par exemple LeCun, Bengio et Hinton, 2015).
En outre, on peut également se poser la question du choix de la profondeur de l’arbre de régression, de la taille minimale des feuilles ainsi que du nombre d’arbres de la forêt. En effet, les critères usuellement utilisés en statistique non paramétrique pour répondre à cette question se basent usuellement sur le principe de la validation croisée. Cependant, notre objectif n’est pas ici de déterminer la meilleure prédiction possible pour chaque unité de la population, mais bien la prédiction qui aboutit à la meilleure estimation de courbe moyenne par domaine, ce qui n’est pas obligatoirement la même chose. Il serait donc souhaitable d’adapter les critères de validation croisée de façon à refléter notre objectif.
Enfin, on remarque que l’introduction d’effets aléatoires dans les modèles linéaires induit une amélioration de la prédiction, ce qui nous amène à penser qu’il existe des spécificités des domaines qui ne s’expliquent pas uniquement par les informations auxiliaires. Il pourrait donc être pertinent d’adapter les arbres de régression fonctionnels de façon à inclure des effets aléatoires. Une solution serait d’étendre par exemple l’algorithme de Hajjem, Bellavance et Larocque (2014), basé sur un algorithme EM au cadre des données fonctionnelles.
Remerciements
Les auteurs remercient Hervé Cardot pour les discussions fructueuses ainsi que l’éditeur associé et les deux arbitres pour leurs remarques et commentaires qui ont permis de grandement améliorer cet article.
Bibliographie
Battese, G.E., Harter, R.M. et Fuller, W.A. (1988). An error-components model for prediction of county crop areas using survey and satellite data. Journal of the American Statistical Association, 83(401), 28-36.
Breiman, L. (1998). Arcing classifiers (avec une discussion et une réponse de l’auteur). The Annals of Statistics, 26(3), 801-849.
Breiman, L. (2001). Random forests. Machine Learning, 45(1), 5-32.
Breiman, L., Friedman, J., Stone, C.J. et Olshen, R.A. (1984). Classification and Regression Trees. CRC press.
Pfeffermann, D., et Burck, L. (1990). Estimation robuste pour petits domaines par la combinaison de données chronologiques et transversales. Techniques d’enquête, 16, 2, 229-249. Article accessible à l’adresse https://www150.statcan.gc.ca/n1/pub/12-001-x/1990002/article/14534-fra.pdf.
Cardot, H., Degras, D. et Josserand, E. (2013). Confidence bands for Horvitz-Thompson estimators using sampled noisy functional data. Bernoulli, 19(5A), 2067-2097.
Cardot, H., Goga, C. et Lardin, P. (2013). Uniform convergence and asymptotic confidence bands for model-assisted estimators of the mean of sampled functional data. Electronic Journal of Statistics, 7, 562-596.
Cardot, H., Chaouch, M., Goga, C. et Labruère, C. (2010). Properties of design-based functional principal components analysis. Journal of Statistical Planning and Inference, 140(1), 75-91.
Cardot, H., Dessertaine, A., Goga, C., Josserand, E. et Lardin, P. (2013). Comparaison de différents plans de sondage et construction de bandes de confiance pour l’estimation de la moyenne de données fonctionnelles : une illustration sur la consommation électrique. Techniques d’enquête, 39, 2, 313-331. Article accessible à l’adresse https://www150.statcan.gc.ca/n1/pub/12-001-x/2013002/article/11888-fra.pdf.
Cristianini, N., et Shawe-Taylor, J. (2000). An Introduction to Support Vector Machines. Cambridge University Press Cambridge.
Dauxois, J., Pousse, A. et Romain, Y. (1982). Asymptotic theory for the principal component analysis of a vector random function: Some applications to statistical inference. Journal of Multivariate Analysis, 12(1), 136-154.
De’Ath, G. (2002). Multivariate regression trees: A new technique for modeling species-environment relationships. Ecology, 83(4), 1105-1117.
Deville, J.-C. (1974). Méthodes statistiques et numériques de l’analyse harmonique. Dans Annales de l’INSEE, JSTOR, 3-101.
Deville, J.-C., et Särndal, C.-E. (1992). Calibration estimators in survey sampling. Journal of the American statistical Association, 87(418), 376-382.
Faraway, J.J. (1997). Regression analysis for a functional response. Technometrics, 39(3), 254-261.
González-Manteiga, W., Lombarda, M.J., Molina, I., Morales, D. et Santamara, L. (2008). Analytic and bootstrap approximations of prediction errors under a multivariate Fay-Herriot model. Computational Statistics & Data Analysis, 52(12), 5242-5252.
Hajjem, A., Bellavance, F. et Larocque, D. (2014). Mixed-effects random forest for clustered data. Journal of Statistical Computation and Simulation, 84(6), 1313-1328.
Hall, P., Müller, H.-G. et Wang, J.-L. (2006). Properties of principal component methods for functional and longitudinal data analysis. The Annals of Statistics, 1493-1517.
Horvitz, D.G., et Thompson, D.J. (1952). A generalization of sampling without replacement from a finite universe. Journal of the American Statistical Association, 47(260), 663-685.
LeCun, Y., Bengio, Y. et Hinton, G. (2015). Deep learning. Nature, 521(7553), 436-444.
Mallat, S. (1999). A Wavelet Tour of Signal Processing. Academic press.
Molina, I., et Rao, J.N.K. (2010). Small area estimation of poverty indicators. Canadian Journal of Statistics, 38(3), 369-385.
Ramsay, J.-O., et Silverman, B.-W. (2005). Functional Data Analysis. Springer Series in Statistics, New York, Second Edition.
Rao, J.N.K., et Molina, I. (2015). Small Area Estimation. New York: John Wiley & Sons, Inc.
Rao, J.N.K., et Yu, M. (1994). Small-area estimation by combining time-series and cross-sectional data. Canadian Journal of Statistics, 22(4), 511-528.
Segal, M., et Xiao, Y. (2011). Multivariate random forests. Wiley Interdisciplinary Reviews: Data Mining and Knowledge Discovery, 1(1), 80-87.
Stéphan, V., et Cogordan, F. (2009). CourboTree: Application des arbres de régression multivariés pour la classification de courbes. La Revue MODULAD, juin.
Toth, D., et Eltinge, J.L. (2011). Building consistent regression trees from complex sample data. Journal of the American Statistical Association, 106(496), 1626-1636.
Valliant, R., Dorfman, A.H. et Royall, R.M. (2000). Finite Population Sampling and Inference: A Prediction Approach. New York: John Wiley & Sons, Inc.
- Date de modification :