Programme de recherche et développement en méthodologie : réalisations, 2024-2025
1. Intégration de données
1.1 Intégration de données d’échantillons probabilistes et non probabilistes
PROJET : Inférence par prédiction pour des totaux ou des moyennes de population finie en l’absence, ou en présence limitée, de données d’enquête probabilistes
Depuis plusieurs années, les organismes nationaux de statistique de plusieurs pays cherchent à réduire les coûts de collecte des données et le fardeau des répondants, tout en augmentant l’utilisation de sources de données de rechange et de techniques de prédiction modernes. À Statistique Canada, une idée actuellement explorée pour relever ces défis est de réduire la fréquence des enquêtes probabilistes et de remplacer les données d’enquête manquantes par des prédictions. Par exemple, une enquête probabiliste pourrait être menée tous les deux ans, au lieu de chaque année, et les données d’enquête manquantes au cours des années sans enquête pourraient être remplacées par des prédictions, à condition que des données auxiliaires ainsi que des données d’entraînement soient disponibles au cours des années sans enquête. L’objectif de ce projet est d’étudier les deux questions suivantes : 1) Comment, et quelles hypothèses sont requises pour obtenir des prédicteurs approximativement sans biais de totaux ou de moyennes de population finie en l’absence, ou en présence limitée, de données d’enquête probabilistes?; 2) Comment estimer la qualité (variance de prédiction) de ces prédicteurs? Ce projet fait suite à un projet précédent de DaSylva, Beaumont, Bosa et Maranda (2023).
Progrès :
Nous avons examiné deux cas. Dans le premier cas, des données auxiliaires pour une période sans enquête sont disponibles dans un échantillon probabiliste, mais aucune donnée d’enquête n’est observée dans cet échantillon probabiliste. Nous avons montré que des prédicteurs approximativement sans biais de totaux ou de moyennes de population finie peuvent être obtenus à l’aide d’un modèle de travail linéaire, même dans le cas d’écarts par rapport à l’hypothèse de linéarité. Cette propriété surprenante exige que chaque observation dans l’échantillon d’entraînement soit correctement pondérée afin de s’assurer qu’une certaine contrainte de calage soit satisfaite. Nous avons également élaboré un estimateur simple de la variance de prédiction. Nous avons montré que ce prédicteur linéaire pondéré avait des propriétés semblables à celles d’un prédicteur par la méthode du plus proche voisin, ce qui explique sa robustesse. Quelques résultats de simulation ont été obtenus pour illustrer les propriétés des prédicteurs. Nous avons également commencé à élaborer une stratégie bootstrap pour estimer la variance de prédiction lorsque des prédictions d’apprentissage automatique sont utilisées comme solution de rechange aux prédictions par modèle de travail linéaire ou par la méthode du plus proche voisin.
Dans le deuxième cas, des données auxiliaires pour l’ensemble de la population sont disponibles, ainsi que des données d’enquête pour un petit échantillon probabiliste. La disponibilité de données d’enquête nous permet de faire des inférences valides sans nous fier à des hypothèses de modèle. Une nouvelle approche, appelée inférence par prédiction (prediction-powered inference), a récemment été proposée pour gérer ce cas lorsque les observations sont indépendantes et identiquement distribuées. Elle consiste à éliminer le biais des prédictions d’apprentissage automatique en tirant parti des données d’enquête observées. Dans le cas de l’échantillonnage aléatoire simple, l’inférence par prédiction s’avère essentiellement équivalente à l’approche assistée d’un modèle, laquelle est bien connue dans la littérature.
Nos résultats théoriques et empiriques seront présentés à l’Italian Conference on Survey Methodology de 2025 en juillet 2025.
Pour obtenir plus de
renseignements, veuillez communiquer avec :
Jean-François Beaumont (jean-francois.beaumont@statcan.gc.ca).
Bibliographie
Dasylva, A., Beaumont, J.-F., Bosa, K. et Maranda, G. (2023). Measuring the accuracy of a prediction for a finite population total. Recueil de la Section des méthodes d’enquête, Société Statistique du Canada, mai 2023.
1.2 Couplage d’enregistrements
PROJET : Couplage privé de microdonnées sur le commerce international avec erreurs de couplage
De nouveaux renseignements pourraient découler du couplage de microdonnées sur le commerce international entre les organismes statistiques nationaux. Des préoccupations relatives à la protection de la vie privée font actuellement obstacle, mais elles pourraient être résolues en tirant parti de technologies d’amélioration de la protection de la vie privée, comme les calculs sécurisés multipartites, l’intersection d’ensembles privés ou les enclaves sécurisées. Dans des travaux antérieurs, une solution a été proposée fondée sur une modification d’un protocole d’intersection d’ensembles privés de Dasylva, de Cubellis, de Fausti et Franssen (2025). Cette solution couple deux ensembles de données internationaux sans identificateur unique, évalue les taux d’erreurs de couplage avec un modèle et calcule des statistiques sommaires tout en tenant compte des erreurs de couplage. Toutefois, il comporte de nombreuses lacunes, comme une souplesse limitée en matière de couplage, des contraintes sur l’analyse statistique possible et le manque de contrôle de divulgation. Ces travaux visent à aborder ces problèmes en couplant les ensembles de données au sein d’une enclave infonuagique sécurisée.
Progrès :
Une méthodologie a été élaborée pour coupler des ensembles de données de façon probabiliste et confidentielle, au sein d’une enclave infonuagique sécurisée, tout en tenant compte de l’exactitude du couplage. À l’aide des données couplées, une régression linéaire ou logistique est effectuée, et certaines données synthétiques sont générées pour permettre une certaine exploration des données. De plus, toutes ces opérations sont menées en appliquant des techniques de protection de la confidentialité différentielle, afin de garantir que tous les produits statistiques soient protégés contre la divulgation statistique. La méthodologie a été testée avec succès sur une enclave infonuagique sécurisée. La méthodologie et les essais ont été décrits dans un rapport interne (Dasylva, Santos, Franssen, de Cubellis, de Fausti, Pappagallo, Berrios et Fitzsimons, 2025), qui a été accepté aux fins de publication dans le Statistical Journal of the International Association for Official Statistics.
Pour obtenir plus de renseignements, veuillez
communiquer avec :
Abel Dasylva (abel.dasylva@statcan.gc.ca).
Bibliographie
Dasylva, A., De Cubellis, M., De Fausti, F. et Franssen, L. (2025). Linking trade data from different national statistical offices through a private set intersection. Journal of Official Statistics, 41(2), 569-597, OnlineFirst, numéro spécial, https://journals.sagepub.com/doi/10.1177/0282423X251329407.
Dasylva, A., Santos, B., Franssen, L., De Cubellis, M., De Fausti, F., Pappagallo, A., Berrios, N. et Fitzsimons, J. (2025). Private linkage of international trade microdata in a cloud-based secure enclave. À paraître dans Statistical Journal of the International Association for Official Statistics.
PROJET : Intervalles de confiance pour les taux d’erreurs de couplage d’enregistrements dans le cadre d’un échantillonnage systématique stratifié
La méthodologie de l’Environnement de couplage de données sociales (ECDS) estime les taux d’erreurs pour ses couplages à l’aide de la procédure suivante : l’ensemble de paires définies et rejetées est divisé en strates en fonction des centiles de la répartition du poids total de la paire et, au sein de ces strates, des échantillons (habituellement de taille 100) sont tirés selon un échantillonnage systématique (dans le cadre duquel les paires sont ordonnées en fonction du poids total de la paire). L’échantillon de paires ainsi sélectionné est envoyé aux examinateurs et, selon leurs décisions, les diverses paires de l’échantillon sont classées comme appariées ou non. À l’aide de ces classifications, nous estimons le nombre total de fausses correspondances ou de correspondances manquées dans chaque strate. Les totaux estimés servent à calculer les taux de fausses correspondances ou de correspondances manquées pour chaque strate et pour le couplage global.
Nous avons récemment décidé d’un estimateur de variance pour nos taux d’erreurs à partir d’un projet de recherche mené au printemps 2023 (Millar et Loewen, 2023). Une étape suivante déterminée au moment de choisir un estimateur de variance approprié consistait à estimer les intervalles de confiance. Deux facteurs font qu’il est difficile de créer des intervalles de confiance de nos taux d’erreur :
- L’un est la méthode d’échantillonnage que nous utilisons (échantillonnage systématique stratifié). Des plans d’échantillonnage complexes nécessitent des méthodes complexes pour construire des intervalles de confiance, car des méthodes simples présentent souvent des problèmes de couverture, contenant le paramètre réel de population à un taux inférieur à la valeur nominale. Aucun consensus n’existe sur la meilleure méthode à utiliser pour construire des intervalles de confiance pour des échantillons tirés d’un échantillon systématique stratifié.
- L’autre facteur est que nos taux d’erreurs (taux de fausses correspondances et de correspondances manquées) sont souvent proches de 0 (en particulier le taux de fausses correspondances). Il est bien connu que les intervalles de confiance simples comme Wald offrent une couverture particulièrement mauvaise pour des proportions proches de 0 ou 1 (Franco, Little, Louis et Slud, 2019 ainsi que Neusy et Mantel, 2016). Une méthode plus complexe est nécessaire pour créer des intervalles de confiance de sorte que la couverture de l’intervalle soit au moins au niveau nominal. Les strates dont la variance estimée est de 0 posent également un problème, car certains intervalles de confiance n’auraient pas de longueur dans ce cas, lors de l’utilisation d’un calcul d’intervalle de confiance de type Wald.
Le problème auquel nous faisons face est de trouver un intervalle de confiance approprié à utiliser pour indiquer la qualité des taux d’erreurs de couplage dans l’ECDS.
Progrès :
Les intervalles de confiance ont été mis à l’essai en fonction de la couverture du paramètre réel de population et de la longueur de l’intervalle de confiance. En fin de compte, l’intervalle Agresti-Coull a été choisi parce qu’il répondait à l’exigence de couverture, qu’il n’était pas considérablement plus long que tout autre intervalle répondant également à l’exigence de couverture, et qu’il était le plus simple de ces intervalles. Cela correspond à ce que Brown, Cai et DasGupta (2001) ont déclaré: l’intervalle Agresti-Coull fonctionne bien lorsque la taille de l’échantillon est supérieure à 40.
De plus, un rapport (Loewen et Jin, 2025a) et deux présentations ont été produits (Loewen et Jin, 2025b et 2025c). Loewen et Jin (2025a) décrivent en détail le contexte de nos calculs de taux d’erreur, les travaux menés pour trouver le meilleur intervalle de confiance et les résultats de notre étude. La première présentation (Loewen et Jin, 2025b) a été donnée au Comité d’examen scientifique. Elle décrit en détail le processus de recherche d’une bonne méthode d’intervalle de confiance. La deuxième présentation (Loewen et Jin, 2025c) a été faite dans le cadre d’un séminaire de division et décrit en détail notre travail et les résultats de notre étude.
Pour obtenir plus de
renseignements, veuillez communiquer avec :
Rylee Loewen (rylee.loewen@statcan.gc.ca).
Bibliographie
Brown, L., Cai, T. et DasGupta, A. (2001). Interval estimation for a binomial proportion. Statistical Science, 16, 101-117.
Franco, C., Little, R., Louis, T. et Slud, E. (2019). Comparative study of confidence intervals for proportions in complex sample surveys. Journal of Survey Statistics and Methodology, 7, 334-364.
Loewen, R. et Jin, N. (2025a). Confidence intervals for Social Data Linkage Environment Error Rates. Document interne, Statistique Canada.
Loewen, R. et Jin, N. (2025b). Confidence intervals for Social Data Linkage Environment Error Rates. Diapositives pour présentation au Comité d’examen scientifique, 23 mai 2025, Statistique Canada.
Loewen, R. et Jin, N. (2025c). Confidence intervals for Social Data Linkage Environment Error Rates. Diapositives pour le séminaire divisionnaire, 12 juin 2025, Statistique Canada.
Millar, G. et Loewen, R. (2023). Variance estimation for record linkage error-rates obtained via clerical review of systematic samples of linked pairs. Document interne, Statistique Canada (Document Overview: Variance estimation for record linkage error.docx).
Neusy, E. et Mantel, H. (2016). Confidence intervals for proportions estimated from complex survey data. Recueil de la Section des méthodes d’enquête, Société Statistique du Canada, juin 2016.
1.3 Estimation sur petits domaines
PROJET : Inférence hiérarchique bayésienne pour l’estimation sur petits domaines à l’aide de lois a priori non informatives et informatives
Le modèle de Fay-Herriot (FH) au niveau du domaine est souvent utilisé lorsque les estimateurs directs de paramètres de population sont instables en raison de la petite taille des échantillons. L’idée derrière le modèle de FH et les autres modèles d’estimation sur petits domaines (EPD) est d’emprunter de la force à d’autres domaines. Toutefois, lorsque le nombre de domaines est petit, les modèles de FH et d’autres modèles d’EPD ne donnent habituellement pas de bons résultats. L’idée de ce projet est d’emprunter de l’information non seulement d’autres domaines, mais également au fil du temps à l’aide d’une approche hiérarchique bayésienne (HB).
La modélisation HB est très populaire dans l’estimation sur petits domaines, et la spécification de la loi a priori est très importante dans cette approche. Dans le cadre de ce projet, nous étudions le rendement des estimateurs HB sur petits domaines à l’aide de lois a priori non informatives et informatives pour les paramètres de régression et les composantes de variance. Nous appliquons les modèles bayésiens de You et Chapman (2006) et de You (2021) aux données de l’Enquête sur la population active (EPA) du Canada et nous évaluons l’impact des lois a priori sur les estimateurs HB. Nous étudions l’impact de lois a priori informatives et non informatives, ainsi que correctes et incorrectes, pour l’estimation HB sur petits domaines à l’aide d’une application aux données de l’EPA et d’une étude par simulation.
Progrès :
Nous avons étudié des spécifications de lois a priori pour les paramètres de régression de modèles au niveau du domaine pour l’estimation sur petits domaines. Plus précisément, nous avons examiné l’utilisation de lois a priori non informatives et informatives en les appliquant à l’EPA et dans le cadre d’une étude par simulation. Un document de recherche (You et Bosa, 2025) a été produit et soumis à Techniques d’enquête. Ce document a été révisé en fonction des suggestions du rédacteur associé et des examinateurs. La version finale de l’étude a été acceptée par la revue et sera publiée dans son numéro de décembre 2025.
Pour obtenir plus de
renseignements, veuillez communiquer avec :
Yong You (yong.you@statcan.gc.ca).
Bibliographie
You, Y. (2021). Estimation sur petits domaines à l’aide du modèle au niveau de domaine de Fay-Herriot avec lissage et modélisation de variance d’échantillonnage. Techniques d’enquête, 47(2), 389-399. Article accessible à l’adresse https://www150.statcan.gc.ca/n1/fr/pub/12-001-x/2021002/article/00007-fra.pdf.
You, Y. et Bosa, K. (2025). Rendement des estimateurs hiérarchiques bayésiens sur petits domaines reposant sur des distributions a priori non informatives et informatives et application à l’Enquête sur la population active du Canada. À paraître dans le numéro de décembre 2025 de Techniques d’enquête.
You, Y. et Chapman, B. (2006). Estimation pour petits domaines au moyen de modèles régionaux et d’estimations des variances d’échantillonnage. Techniques d’enquête, 32(1), 107-114. Article accessible à l’adresse https://www150.statcan.gc.ca/n1/fr/pub/12-001-x/2006001/article/9263-fra.pdf.
PROJET : Utilisation de forêts aléatoires pour l’estimation sur petits domaines
Lorsque la taille d’échantillon de domaines est petite, les estimateurs directs convergents par rapport au plan des paramètres de population sont susceptibles d’être instables. Pour améliorer la précision des estimateurs directs, le modèle de Fay-Herriot au niveau du domaine est souvent utilisé. Il comprend deux composantes : un modèle d’échantillonnage et un modèle de liaison. Ce dernier précise la relation entre les paramètres d’intérêt de la population et les variables auxiliaires disponibles au niveau du domaine. Dans sa forme initiale, le modèle de Fay-Herriot suppose un modèle de liaison linéaire avec variance d’erreur constante. Il exige également d’estimer la variance d’échantillonnage lissée des estimateurs directs, c’est-à-dire l’espérance par rapport au modèle de la variance d’échantillonnage des estimateurs directs. Les estimateurs de variance fondés sur le plan peuvent être considérés comme des estimateurs de variances d’échantillonnage lissées, mais ils sont généralement instables pour des petits échantillons. Pour résoudre ce problème, les estimations de la variance fondées sur le plan sont habituellement lissées, souvent au moyen d’un modèle de lissage log-linéaire.
Les hypothèses sous-jacentes aux modèles de Fay-Herriot et de lissage ne sont pas toujours satisfaites en pratique, et il peut être difficile et long de corriger adéquatement les modèles. Dans ce contexte, il peut être souhaitable d’avoir accès à des méthodes non paramétriques, surtout lorsque le nombre de domaines est élevé, parce qu’elles dépendent moins fortement de la validité des hypothèses de modèle et peuvent accélérer la production d’estimations sur petits domaines. Nous nous intéressons particulièrement aux forêts aléatoires pour trois raisons : i) elles peuvent être facilement appliquées dans le cas d’une combinaison de variables auxiliaires catégoriques et continues; ii) elles ne nécessitent pas de spécification d’interactions; iii) elles produisent des prédictions qui demeurent toujours dans la fourchette des valeurs observées. Nous envisageons une procédure bootstrap pour l’estimation de l’erreur quadratique moyenne de prédiction.
Progrès :
Auparavant, nous avons élaboré et évalué, au moyen d’études empiriques, une version non paramétrique du meilleur prédicteur empirique (MPE) lorsque des forêts aléatoires sont utilisées pour remplacer des modèles entièrement paramétriques. La variable prédictive que nous proposons utilise des prédictions « out-of-bag » comme variable auxiliaire dans un modèle linéaire de Fay-Herriot. Nos résultats montrent que les forêts aléatoires offrent de la robustesse par rapport à une spécification incorrecte du modèle, accroissent l’efficacité des estimations sur petits domaines et simplifient (mais sans l’éliminer) l’effort de modélisation.
En 2024-2025, ce projet a été présenté à l’International Conference on Establishment Statistics à Glasgow en juin 2024 et à la conférence INCASS à Ottawa en juillet 2024. Nous avons également rédigé un article (Bosa, Beaumont, Bocci et Sombo, 2025) qui sera présenté au Comité consultatif des méthodes statistiques de Statistique Canada en juin 2025, et nous élaborons actuellement un programme en R mettant en œuvre la méthodologie proposée.
Pour obtenir plus de
renseignements, veuillez communiquer avec :
Jean-François Beaumont (jean-francois.beaumont@statcan.gc.ca) ou
Keven Bosa (keven.bosa@statcan.gc.ca).
Bibliographie
Bosa, K., Beaumont, J.-F., Bocci, C. et Sombo, S. (2025). The use of a random forest algorithm in small area estimation. Article présenté au Comité consultatif sur les méthodes statistiques, juin 2025, Statistique Canada.
PROJET : Rétro-ingénierie d’un processus de réconciliation hypothétique pour estimer l’erreur quadratique moyenne d’estimations sur petits domaines qui ont été réconciliées
Le modèle d’estimation sur petits domaines (EPD) de Fay-Herriot (FH) au niveau du domaine suppose l’indépendance des estimations directes du domaine. Dans le contexte de l’Enquête sur la population active (EPA), on a observé que pour l’estimation de l’emploi total pour une sous-division des provinces, les estimations directes sont très négativement corrélées dû au calage des poids. Pour appuyer les enquêtes dans la même situation que l’EPA, ce projet met l’accent sur les extensions du modèle de base de FH au cas de forte dépendance. En particulier, il vise à obtenir une bonne estimation de la matrice de variance-covariance d’échantillonnage des estimations directes, qui est présumée être connue dans le modèle de FH. Pour atteindre cet objectif, on procède à la rétro-ingénierie d’un processus de réconciliation hypothétique, afin d’obtenir les termes de covariance compte tenu des termes de variance (lissés) et d’une matrice variance-covariance des estimations directes agrégées (estimations provinciales dans le cas de l’EPA). Comme les estimations de totaux sont de bons candidats à l’application d’une méthode itérative du quotient, les estimations sur petits domaines réconciliées et non réconciliées sont étudiées.
Progrès :
Les mathématiques du problème de rétro-ingénierie et de sa solution ont été rendues explicites, ce qui a donné une matrice de variance-covariance de travail clairement définie. Les logiciels d’EPD existants, comme G-Est, ne s’appliquent qu’au modèle de FH de base. Pour tirer le meilleur parti des logiciels existants, en tenant compte de la matrice de variance-covariance de travail présumée, on a obtenu des formules d’erreur quadratique moyenne (EQM) d’estimateurs réconciliés et non réconciliés résultant de l’ajustement du modèle de base. Cette méthodologie a été appliquée pour la première diffusion officielle des estimations sur petits domaines de l’EPA. Les résultats ont été présentés lors du Symposium international sur les questions de méthodologie de 2024 (Verret et Walker, 2024).
Le modèle de FH étendu aux erreurs d’échantillonnage dépendantes a ensuite été envisagé pour obtenir des estimateurs plus efficaces. Des formules d’EQM correspondantes ont été élaborées pour les estimateurs réconciliés et non réconciliés. Le modèle étendu a été programmé, ainsi que de nombreuses caractéristiques de G-Est (sélection de variables rétrospectives, diagnostics, détection des valeurs aberrantes). Un diagnostic de colinéarité et le premier diagnostic de Lesage, Beaumont et Bocci (2022) ont également été généralisés au modèle étendu. Les avantages du modèle étendu par rapport au modèle de base ont été étudiés dans le contexte de l’EPA.
Pour obtenir plus de
renseignements, veuillez communiquer avec :
François Verret (francois.verret@statcan.gc.ca) ou
Braedan
Walker (braedan.walker@statcan.gc.ca).
Bibliographie
Lesage, É., Beaumont, J.-F. et Bocci, C. (2022). Deux diagnostics locaux pour évaluer l’efficacité du meilleur prédicteur empirique issu du modèle de Fay-Herriot. Techniques d’enquête, 47(2), 303-323. Article accessible à l’adresse https://www150.statcan.gc.ca/n1/fr/pub/12-001-x/2021002/article/00001-fra.pdf.
Verret, F. et Walker, B. (2024). Rétro-ingénierie d'un processus de réconciliation hypothétique pour estimer l’erreur quadratique moyenne (EQM) des estimations sur petits domaines réconcilié. Recueil : Symposium 2024, Le futur des statistiques officielles, Statistique Canada, Ottawa, Canada.
- Date de modification :