Algorithme génétique de regroupement pour la stratification et la répartition simultanée de l’échantillon dans les plans de sondage
Section 3. Comparaison des algorithmes génétiques
Comparons maintenant l’AG initial et notre AGR à l’aide d’ensembles de données appartenant au domaine public. Sauf avis contraire, nous adoptons dans tous les cas que nous présentons les paramètres suivants pour les deux algorithmes génétiques : taux d’élitisme : 0,2; probabilité de mutation : 0,05.
3.1 Comparaison de l’ensemble de données sur l’iris
(Ballin et Barcaroli, 2013) utilisent l’ensemble de données sur l’iris (Anderson, 1935; Fisher, 1936; R Core Team, 2015) pour démontrer que, par l’AG qu’ils proposent, ils peuvent parvenir à la stratification optimale, c’est-à-dire à une stratification ou à un regroupement de strates atomiques qui donne une taille minimale d’échantillon. Cet ensemble est modeste et largement accessible. Il compte 150 observations pour cinq variables, à savoir la longueur et la largeur du sépale, la longueur et la largeur du pétale et l’espèce.
L’espèce est une variable catégorique à trois niveaux, iris soyeux, versicolore et de Virginie, chacun étant de 50 observations. Les quatre autres variables sont continues pour la longueur et la largeur en centimètres. Ballin et Barcaroli (2013) choisissent la longueur et la largeur du pétale comme variables d’intérêt, c’est-à-dire comme variables cibles. La longueur du sépale et l’espèce sont deux variables auxiliaires.
Ils convertissent la longueur du sépale en variable catégorique au moyen d’un algorithme à K moyennes (Hartigan et Wong, 1979) de manière à définir trois grappes (de 4,3 à moins de 5,5, de 5,5 à moins de 6,5, de 6,5 à 7,9). Le produit vectoriel entre l’espèce et la variante catégorique de la longueur du sépale engendre neuf strates atomiques. Il reste qu’une strate atomique est vide et sans valeurs correspondantes pour la longueur et la largeur du pétale. Il n’y a donc que huit strates atomiques exploitables dans cet exemple.
| Strate | N | M1 | M2 | S1 | S2 | X1 | X2 | DOMAINE |
|---|---|---|---|---|---|---|---|---|
| [4,3; 5,5] (1)*soyeux | 45 | 1,466667 | 0,244444 | 0,17127 | 0,106574 | [4,3; 5,5] (1) | soyeux | 1 |
| [4,3; 5,5] (1)*versicolore | 6 | 3,583333 | 1,166667 | 0,491313 | 0,205481 | [4,3; 5,5] (1) | versicolore | 1 |
| [4,3; 5,5] (1)*de Virginie | 1 | 4,5 | 1,7 | 0 | 0 | [4,3; 5,5] (1) | de Virginie | 1 |
| [5,5; 6,5] (2)*soyeux | 5 | 1,42 | 0,26 | 0,172047 | 0,08 | [5,5; 6,5] (2) | soyeux | 1 |
| [5,5; 6,5] (2)*versicolore | 35 | 4,268571 | 1,32 | 0,367051 | 0,189435 | [5,5; 6,5] (2) | versicolore | 1 |
| [5,5; 6,5] (2)*de Virginie | 23 | 5,230435 | 1,947826 | 0,318194 | 0,28873 | [5,5; 6,5] (2) | de Virginie | 1 |
| [6,5; 7,9] (3)*versicolore | 9 | 4,677778 | 1,455556 | 0,193091 | 0,106574 | [6,5; 7,9] (3) | versicolore | 1 |
| [6,5; 7,9] (3)*de Virginie | 26 | 5,876923 | 2,107692 | 0,494825 | 0,228579 | [6,5; 7,9] (3) | de Virginie | 1 |
Nous reproduisons les strates atomiques initiales au tableau 3.1, où est la moyenne pour les valeurs correspondantes dans chaque strate atomique et où est l’écart-type de population de cette strate. Il y a 4 140 partitions possibles des huit strates atomiques. Il est donc possible de vérifier dans un laps de temps raisonnable la taille d’échantillon dans tout l’espace de recherche à l’aide de la fonction bethel.r. Cela est déjà fait (Ballin et Barcaroli, 2013), et nous savons que la taille minimale d’échantillon est de 11.
Ce test peut servir à établir si, avec le nouvel AG, nous trouvons fidèlement la taille minimale sans avoir à explorer tout l’espace de recherche. Nous employons dans ce cas. La fonction bethel.r recherchera alors la taille minimale d’échantillon en nombres entiers plutôt qu’en nombres réels. Nous rangerons ensuite les chromosomes par taille d’échantillon en ordre croissant. Ainsi, nous reporterons les chromosomes de l’élite à la nouvelle itération et créerons les chromosomes restants par la méthode de recombinaison pour chaque algorithme.
Nous comparerons les nombres de chromosomes produits pour dégager la stratification optimale avec les deux algorithmes, tout comme le nombre d’itérations. Nous prévoyons que l’AGR sera plus efficace et mènera d’ordinaire à la solution optimale en moins d’itérations qu’avec l’AG.
Nous fixons le maximum d’itérations à 200, car si nous nous guidons sur Ballin et Barcaroli (2013), nous pouvons prévoir que les deux algorithmes trouveront la bonne solution en moins de 200 itérations. Nous avons donc ajouté un élément de code aux deux algorithmes pour qu’ils s’arrêtent lorsque la taille optimale d’échantillon, est atteinte et qu’ils indiquent le nombre d’itérations exécutées jusqu’à ce point d’optimalité. Notre traitement est différent de celui de Ballin et Barcaroli (2013) qui mentionnent le nombre de fois en 10 expériences que l’AG trouve la bonne solution pour un nombre donné d’itérations à pas d’accroissement de 25 à 200. Nous pensons cependant que notre approche démontrera mieux que l’AGR peut trouver la bonne solution en moins d’itérations même dans l’expérience avec le petit ensemble de données sur l’iris.
| (a) AG | (b) AGR | |||||
|---|---|---|---|---|---|---|
| d'expériences | d'itérations | de chromosomes | d'expériences | d'itérations | de chromosomes | |
| Nombre | 1 | 14 | 228 | 1 | 11 | 180 |
| 2 | 8 | 132 | 2 | 7 | 116 | |
| 3 | 17 | 276 | 3 | 6 | 100 | |
| 4 | 40 | 644 | 4 | 22 | 356 | |
| 5 | 31 | 500 | 5 | 9 | 148 | |
| 6 | 13 | 212 | 6 | 11 | 180 | |
| 7 | 15 | 244 | 7 | 8 | 132 | |
| 8 | 9 | 148 | 8 | 7 | 116 | |
| 9 | 15 | 244 | 9 | 9 | 148 | |
| 10 | 15 | 244 | 10 | 11 | 180 | |
| 11 | 14 | 228 | 11 | 3 | 52 | |
| 12 | 8 | 132 | 12 | 9 | 148 | |
| 13 | 17 | 276 | 13 | 27 | 436 | |
| 14 | 40 | 644 | 14 | 12 | 196 | |
| 15 | 31 | 500 | 15 | 16 | 260 | |
| 16 | 13 | 212 | 16 | 6 | 100 | |
| 17 | 15 | 244 | 17 | 20 | 324 | |
| 18 | 9 | 148 | 18 | 6 | 100 | |
| 19 | 15 | 244 | 19 | 7 | 116 | |
| 20 | 15 | 244 | 20 | 6 | 100 | |
| 21 | 16 | 260 | 21 | 11 | 180 | |
| 22 | 67 | 1 076 | 22 | 7 | 116 | |
| 23 | 19 | 308 | 23 | 8 | 132 | |
| 24 | 9 | 148 | 24 | 5 | 84 | |
| 25 | 11 | 180 | 25 | 7 | 116 | |
| 26 | 20 | 324 | 26 | 5 | 84 | |
| 27 | 32 | 516 | 27 | 6 | 100 | |
| 28 | 10 | 164 | 28 | 6 | 100 | |
| 29 | 37 | 596 | 29 | 9 | 148 | |
| 30 | 9 | 148 | 30 | 6 | 100 | |
Le tableau 3.2 indique le nombre d’itérations (et de chromosomes produits) ayant permis de trouver en 30 expériences avec les deux AG.

Description de la figure 3.1
Cette figure montre le diagramme de quartile pour les méthodes AG et AGR avec les chromosomes sur l’axe des y qui varie de 0 à 1 100. Le troisième quartile de la méthode AGR est à un niveau semblable au premier quartile de la méthode AG.
La figure 3.1 présente la distribution du nombre de chromosomes produits en vue de trouver la solution optimale avec l’AG et l’AGR. Les diagrammes en quartiles indiquent que l’AGR aura normalement à produire moins de chromosomes pour trouver la solution optimale.
| Strate | Y1 | Y2 | |||||
|---|---|---|---|---|---|---|---|
| N | Moyenne | E.-T. | Moyenne | E.-T. | Taille d'échantillon | ||
| AG | 1 | 50 | 1,462 | 0,1685 | 0,246 | 0,1026 | 2 |
| 2 | 50 | 4,26 | 0,4562 | 1,326 | 0,1911 | 3 | |
| 3 | 1 | 4,5 | 0 | 1,7 | 0 | 1 | |
| 4 | 23 | 5,2304 | 0,3112 | 1,9478 | 0,2824 | 3 | |
| 5 | 26 | 5,8769 | 0,4852 | 2,1077 | 0,2241 | 2 | |
| Total | Cette cellule est vide | 150 | Cette cellule est vide | Cette cellule est vide | Cette cellule est vide | Cette cellule est vide | 11 |
| AGR | 1 | 23 | 5,2304 | 0,3112 | 1,9478 | 0,2824 | 3 |
| 2 | 50 | 1,462 | 0,1685 | 0,246 | 0,1026 | 2 | |
| 3 | 26 | 5,8769 | 0,4852 | 2,1077 | 0,2241 | 2 | |
| 4 | 51 | 4,2647 | 0,4529 | 1,3333 | 0,1962 | 4 | |
| Total | Cette cellule est vide | 150 | Cette cellule est vide | Cette cellule est vide | Cette cellule est vide | Cette cellule est vide | 11 |
Le tableau 3.3 illustre les stratifications avec l’AG et l’AGR dans la recherche de la taille optimale d’échantillon nécessaire au respect des contraintes de précision. Ballin et Barcaroli (2013) indiquent qu’un certain nombre de partitions sur les 4 140 partitions possibles mène à la taille minimale d’échantillon. Ces partitions sont d’une taille de 3 à 5 strates. On peut voir que l’AGR crée dans un plan de sondage des strates moins nombreuses et moins fragmentées. La même tendance peut s’observer dans les cas qui suivent.
3.2 Ensemble de données sur les municipalités suisses
L’ensemble de données présenté par Barcaroli (2014) porte sur les municipalités suisses en 2003. Chaque municipalité appartient à une de sept régions au niveau 2 de la Nomenclature des unités territoriales statistiques (NUTS), lequel correspond à l’échelon provincial. Chaque région compte un certain nombre de cantons ou de subdivisions administratives. On en dénombre 26 en Suisse. Les données, qui émanent de l’Office fédéral de la statistique suisse et figurent dans les paquets sampling et SamplingStrata, se composent de 2 896 observations (dont chacune vise une municipalité suisse en 2003). Il s’agit de 22 variables qui peuvent être examinées en détail dans Barcaroli (2014).
Les estimations cibles sont les totaux de population par catégorie d’âge dans chaque région suisse. Dans ce cas, les variables cibles seront les suivantes :
Y1 : nombre d’hommes et de femmes âgés de 0 à 19 ans;
Y2 : nombre d’hommes et de femmes âgés de 20 à 39 ans;
Y3 : nombre d’hommes et de femmes âgés de 40 à 64 ans;
Y4 : nombre d’hommes et de femmes âgés de 65 ans et plus.
Nous considérons six variables auxiliaires formées par la même méthode de classification automatique à K moyennes que pour l’ensemble de données sur l’iris :
X1 : catégories de population totale dans la municipalité : 18;
X2 : catégories de superficie boisée dans la municipalité : 3;
X3 : catégories de superficie cultivée dans la municipalité : 3;
X4 : catégories de superficie en pâturage de montagne dans la municipalité : 3;
X5 : catégories de superficie bâtie dans la municipalité : 3;
X6 : catégories de superficie industrielle dans la municipalité : 3.
Nous traitons sept régions comme domaines de population dans le plan de sondage pour les distinguer des strates dans ce même plan, ce qui reproduit l’expérience décrite dans Barcaroli (2014). Le nombre de strates atomiques non vides est de 641 dans la population. Nous fixons la taille minimale de population de strates à deux et le nombre maximal d’itérations à 400. La figure 3.2 récapitule les résultats pour la taille d’échantillon et les strates après 30 expériences et dans chaque cas avec 400 itérations.

Description de la figure 3.2
Cette figure montre un diagramme de dispersion avec la taille de l’échantillon sur l’axe des x allant de 225 à 350 et le nombre de strates sur l’axe des y allant de 90 à 190. Les résultats pour les 30 expériences avec la méthode AG sont dans le coin supérieur droit et celles de la méthode AGR dans le coin inférieur gauche.
La figure 3.2 indique clairement que l’AGR donne une taille d’échantillon inférieure à celle de l’AG pour ces paramètres. La médiane de 246 pour l’AGR le cède du quart à la médiane de 328 de l’AG.
3.3 Microdonnées à grande diffusion de l’American Community Survey en 2015
Les États-Unis réalisent un recensement décennal depuis 1790. Au XXe siècle, ce recensement a reçu une version longue et une version courte. Un sous-ensemble de la population était tenu de répondre à la version longue et le reste, à la version courte. À la suite du recensement de l’an 2000, la version longue est devenue la reprise annuelle de l’American Community Survey ou ACS (US Census Bureau, 2013). Le fichier-échantillon de microdonnées à grande diffusion de l’ACS (Public Use Microdata Sample ou PUMS) dans US Census Bureau (2016) est un échantillon des réponses effectives à l’ACS qui correspond à 1 % de la population des États-Unis. Le fichier PUMS compte 1 496 678 enregistrements décrivant chacun un logement individuel ou collectif. Le nombre de variables est de 235. On peut consulter tout le dictionnaire des données dans US Census Bureau (2016). Nous avons choisi les variables cibles suivantes :
- revenu du ménage (12 derniers mois);
- valeur foncière;
- certaines charges de propriété mensuelles;
- assurance incendie/dommage habitation/inondation (montant annuel),
nos variables auxiliaires sont les suivantes :
- logements constitutifs;
- durée d’occupation;
- expérience de travail du chef de ménage et du conjoint;
- situation de travail du chef de ménage ou du conjoint dans les ménages familiaux;
- combustible de chauffage domestique;
- date de construction initiale.
Le fichier PUMS pour lequel toutes les valeurs sont présentées se compose de 619 747 enregistrements. Les 51 États américains (d’après les définitions du recensement) sont nos domaines.
Dans les courbes de convergence à la figure 3.3, le trait noir représente la taille d’échantillon optimale ou minimale pour la population de chromosomes dans chaque itération et le trait rouge, la taille moyenne d’échantillon correspondante.

Description de la figure 3.3
Cette figure présente deux graphiques de courbe de convergence. Le premier représente les résultats de la méthode AG avec le nombre d’itérations sur l’axe des x allant de 0 à 400 et les tailles d’échantillon selon la valeur optimale ou moyenne sur l’axe des y allant de 1 700 à 2 300. Les tailles réduisent en fonction du nombre d’itération sans démontrer une convergence finale. Le second représente les résultats de la méthode AGR avec le nombre d’itérations sur l’axe des x allant de 0 à 400 et les tailles d’échantillon selon la valeur optimale ou moyenne sur l’axe des y allant de 0 à 4 000. Cette méthode converge rapidement soit après environ 50 itérations à une valeur près de 500.
L’AG semble réduire constamment la taille d’échantillon, mais sans atteindre de minimum local après 400 itérations. L’AGR paraît parvenir très rapidement à un minimum local ou global.
3.4 Données sur les prêts Kiva pour le défi Kaggle Data Science for Good
La plateforme en ligne de sociofinancement kiva.org présente un ensemble de données sur les prêts consentis en deux ans à des gens vivant dans des conditions de pauvreté et de marginalisation financière en vue d’un défi Kaggle Data Science for Good. Cet ensemble compte 671 205 enregistrements uniques. Nous avons choisi les variables cibles suivantes :
- durée en mois;
- nombre de prêteurs;
- montant du prêt,
nos variables auxiliaires sont les suivantes :
- secteur;
- monnaie;
- activité;
- région;
- partenariat,
le but est de créer des strates atomiques. Pour les variables en question, nous avons retranché tout enregistrement à valeurs manquantes. Nous avons ensuite retiré tout pays ayant moins de 10 enregistrements dans la base de sondage. La base résultante est de 614 361 enregistrements. La variable de codage de pays définit les 73 domaines du plan de sondage de cette expérience.
| AG | AGR | Réduction | |||
|---|---|---|---|---|---|
| Taille d'échantillon | Strates | Taille d'échantillon | Strates | Taille d'échantillon | strates |
| 78 018 | 43 030 | 11 963 | 1 793 | 84,67 % | 95,83 % |
Le tableau 3.4 fait voir une diminution de 84,67 % de la taille d’échantillon et de 95,83 % du nombre de strates après 100 itérations. La figure 3.4 indique que, pour la même taille au départ de population de chromosomes dans le domaine 1 de l’ensemble de données sur les prêts Kiva, l’AGR parvenait à une bonne taille d’échantillon en moins de 100 itérations et que, après 10 000 itérations, l’AG n’avait pas encore convergé et la taille d’échantillon demeurait largement supérieure à celle de l’AGR.

Description de la figure 3.4
Cette figure présente deux graphiques de courbe de convergence. Le premier représente les résultats de la méthode AG avec le nombre d’itérations sur l’axe des x allant de 0 à 10 000 et les tailles d’échantillon selon la valeur optimale ou moyenne sur l’axe des y allant de 500 à 2 500. Les tailles réduisent en fonction du nombre d’itération sans démontrer une convergence finale. Le second représente les résultats de la méthode AGR avec le nombre d’itérations sur l’axe des x allant de 0 à 100 et les tailles d’échantillon selon la valeur optimale ou moyenne sur l’axe des y allant de 0 à 4 000. Cette méthode converge rapidement soit après environ 50 itérations.
3.5 Statistiques sur le commerce des produits de base des Nations Unies
Kaggle héberge aussi une copie des statistiques sur le commerce des produits de base de la Division de la statistique des Nations Unies. Celle-ci dispose d’enregistrements sur le commerce depuis 1962. Nous avons prélevé un sous-ensemble de données pour 2011 et retranché les enregistrements à observations manquantes. Nous avons ainsi obtenu un ensemble de données comptant 351 057 enregistrements. Nous avons choisi la variable cible suivante :
- commerce (trade_usd)
pour la valeur de ce commerce en dollars américains. Nos variables auxiliaires sont les suivantes :
- produit de base;
- flux;
- catégorie.
La variable produit de base est une description catégorique de la nature des produits de base (chevaux, vivants sans les pur-sang, par exemple). La variable flux décrit s’il y a importation, exportation, réimportation ou réexportation du produit de base. La variable catégorie décrit la catégorie (soie, engrais, etc.). Les 171 catégories de pays ou de régions ont été choisies comme domaines.
| AG | AGR | Réduction | |||
|---|---|---|---|---|---|
| Taille d'échantillon | Strates | Taille d'échantillon | Strates | Taille d'échantillon | strates |
| 288 638 | 191 000 | 84 181 | 16 555 | 70,84 % | 91,33 % |
3.6 Données du recensement américain de l’an 2000
L’extrait de l’Integrated Public Use Microdata Series ou IPUMS est un échantillon à 5 % des données du recensement américain de l’an 2000 (Ruggles, Genadek, Goeken, Grover et Sobek, 2017). C’est un fichier de 6 184 483 enregistrements. Les données en question ressemblent fort aux données de l’ACS, puisque celle-ci est une version annuelle de cet ensemble. Pour cette expérience, nous choisissons toutefois des combinaisons différentes de variables cibles et auxiliaires. La seule variable cible dans ce test représente habituellement un grand sujet d’intérêt dans les enquêtes auprès des ménages :
- revenu total du ménage.
Nos variables auxiliaires sont les suivantes (il s’agit de variables sans doute accessibles dans les données administratives) :
- coût annuel en assurance sur les biens;
- coût annuel en combustible de chauffage domestique;
- coût annuel en électricité;
- valeur de l’habitation.
La variable de la valeur de l’habitation (VALUEH) présente le point milieu des intervalles de valeur foncière (5 000 est le point milieu de l’intervalle moins de 10 000), aussi en avons-nous fait une variable catégorique. Comme pour l’ensemble de données PUMS de l’ACS en 2015, nous avons prélevé un sous-ensemble pour lequel toutes les valeurs sont présentes. Le sous-ensemble dégagé compte 627 611 enregistrements. La région et la division de recensement forment le domaine dans cette expérience.
| Division | Base de sondage | Solution AG | Solution AGR | |||
|---|---|---|---|---|---|---|
| Unités d’échantillonnage | Strates atomiques | Tailles d’échantillon | Strates | Tailles d’échantillon | Strates | |
| Nouvelle-Angleterre | 116 045 | 87 084 | 81 012 | 52 628 | 376 | 58 |
| Atlantique centre | 183 543 | 138 470 | 130 862 | 86 002 | 416 | 75 |
| Centre nord-est | 65 480 | 58 055 | 53 075 | 35 794 | 327 | 42 |
| Centre nord-ouest | 31 408 | 29 413 | 26 525 | 18 248 | 324 | 38 |
| Atlantique sud | 97 189 | 83 357 | 76 716 | 51 457 | 440 | 49 |
| Centre sud-est | 21 631 | 20 429 | 18 256 | 12 500 | 451 | 62 |
| Centre sud-ouest | 22 582 | 20 919 | 18 750 | 12 730 | 407 | 39 |
| Rocheuses | 26 765 | 25 041 | 22 161 | 14 791 | 351 | 30 |
| Pacifique | 62 968 | 54 864 | 50 136 | 33 653 | 358 | 49 |
| Total | 627 611 | 517 632 | 477 493 | 317 803 | 3 446 | 442 |
Les résultats font voir une taille d’échantillon de 3 446 avec l’AGR et de 477 493 avec l’AG après 100 itérations.
- Date de modification :