3. Bootstrap bayésien en population finie pondéré

Qi Dong, Michael R. Elliott et Trivellore E. Raghunathan

Précédent | Suivant

3.1 Bootstrap bayésien en population finie (BBPF)

Supposons que les éléments (scalaires) de population $Y_i,i=1,\dots ,N$ soient échangeables et puissent prendre $K\le N$ valeurs possibles $\left(b_1,\dots ,b_K\right);$ donc, $Y_i|\theta ~\text{MULTI}\left(1;{\theta }_1,\dots ,{\theta }_K\right).$ Supposons aussi qu'une loi a priori conjuguée de Dirichlet pour $\theta ~\text{DIR}\left({\alpha }_1,\dots ,{\alpha }_K\right)$ donne (Ghosh et Meeden, 1983)

$$\begin{array}{cc}\hfill P\left(Y_{\text{nob}}|y\right)& =P\left(b_1^{\text{nob}}=N_1-n_1,\dots ,b_K^{\text{nob}}=N_K-n_K|b_1^{\text{obs}}=n_1,\dots ,b_K^{\text{obs}}=n_K\right)\hfill \\ & =\frac{{\displaystyle {\int }_0^1\dots {\displaystyle {\int }_0^{1}p\left(Y_{\text{nob}}|y,\theta \right)p\left(y|\theta \right)p\left(\theta \right)d}{\theta }_1\dots d{\theta }_K}}{{\displaystyle {\int }_0^1\dots {\displaystyle {\int }_0^{1}p\left(y|\theta \right)p\left(\theta \right)d}{\theta }_1\dots d{\theta }_K}}\hfill \\ & =\frac{{\displaystyle {\int }_0^1\dots {\displaystyle {\int }_0^{1}p\left(Y_{\text{nob}}|\theta \right)p\left(y|\theta \right)p\left(\theta \right)}d{\theta }_1\dots d{\theta }_K}}{{\displaystyle {\int }_0^1\dots {\displaystyle {\int }_0^{1}p\left(y|\theta \right)p\left(\theta \right)}d{\theta }_1\dots d{\theta }_K}}\text{ (3}\text{.1) }\hfill \\ & =\frac{{\displaystyle {\int }_0^1\dots {\displaystyle {\int }_0^1{\displaystyle {\prod }_{i=1}^K{\theta }_i^{N_i-n_i}}}{\displaystyle {\prod }_{i=1}^K{\theta }_i^{n_i}}{\displaystyle {\prod }_{i=1}^K{\theta }_i^{{\alpha }_i-1}d{\theta }_1\dots d{\theta }_K}}}{{\displaystyle {\int }_0^1\dots {\displaystyle {\int }_0^1{\displaystyle {\prod }_{i=1}^K{\theta }_i^{n_i}}{\displaystyle {\prod }_{i=1}^K{\theta }_i^{{\alpha }_i-1}d{\theta }_1\dots d{\theta }_K}}}}\hfill \\ & =\frac{\left({\displaystyle {\prod }_{i=1}^K\Gamma \left(N_i+{\alpha }_i\right)/\Gamma \left({\alpha }_i\right)}\right)/\left(\Gamma \left(N+{\alpha }_0\right)/\Gamma \left({\alpha }_0\right)\right)}{{\displaystyle {\prod }_{i=1}^K\Gamma \left(n_i+{\alpha }_i\right)}/\Gamma \left(n+{\alpha }_0\right)}\hfill \end{array}$$

où ${\alpha }_0={\displaystyle {\sum }_{i=1}^K{\alpha }_i},$ ${\displaystyle {\sum }_{i=1}^K{N}_i=N},$ et $n_1,\dots ,n_K$ désigne le nombre de valeurs distinctes que nous observons à partir de notre échantillon $y=\left(y_1,\dots ,y_n\right),$ ${\displaystyle {\sum }_{i=1}^K{n}_i=n}.$ Si ${\alpha }_i\equiv 0$, alors $p\left(Y_{\text{nob}}|y\right)$ se réduit à

$$\left({\displaystyle \prod _{i=1}^K\Gamma \left(N_i\right)/\Gamma \left(n_i\right)}\right)/\left(\Gamma \left(N\right)/\Gamma \left(n\right)\right).$$

Pour faciliter la mise en œuvre, Lo (1988) a proposé de faire des tirages à partir de la loi prédictive a posteriori du BBPF en utilisant une procédure fondée sur le « modèle de l'urne de Pólya ». Supposons qu'une urne contient $n$ boules possédant chacune comme étiquette un nombre réel distinct $b_i,i=1,\dots ,K.$ Nous tirons un échantillon de Pólya de taille $m$ en sélectionnant d'abord une boule au hasard dans l'urne et en remettant la boule sélectionnée dans l'urne, puis en plaçant une boule identique dans l'urne et en répétant ce processus jusqu'à ce que $m$ boules aient été sélectionnées. On peut montrer que la probabilité d'obtenir $m_i$ boules de type $b_i$ est donnée par

$$p\left(b_1=m_1,\dots ,b_K=m_K\right)=\frac{{\displaystyle {\prod }_{i=1}^k\Gamma \left(n_i+m_i\right)}/\Gamma \left(n_i\right)}{\Gamma \left(n+m\right)/\Gamma \left(n\right)}\text{ (3}\text{.2)}$$

où $n_i$ est le nombre de boules de type $b_i$ se trouvant au départ dans l'urne. La distribution des nombres de boules de type $b_i$ est invariante sous n'importe quelle permutation des tirages. Notons que cela correspond directement à la probabilité a posteriori d'un total de $\left(m_1,\dots ,m_K\right)$ éléments de type $\left(b_1,\dots ,b_K\right)$ dans une population, sachant que $\left(n_1,\dots ,n_K\right)$ éléments ont été observés dans un échantillon (aléatoire simple) de taille ${\displaystyle {\sum }_{i=1}^K{n}_i=n}.$ Donc, nous pouvons tirer un échantillon réplique de cette loi a posteriori de Pólya en procédant aux étapes suivantes :

Étape 1. Tirer un échantillon de Pólya de taille $m=N-n,$ noté $\left(y_1^{*},\dots ,y_{N-n}^{*}\right)$ à partir de l'urne $\left\{y_1,\dots ,y_n\right\};$ en vertu de (3.2), avec $m_k=N_k-n_k$ tirages de la valeur $b_k^{\text{obs}}$ pour $k=1,\dots ,K,$ cela correspond à un tirage de $P\left(Y_{\text{nob}}|y\right)$ à partir de (3.1).

Étape 2. Former la population BBPF $y_1,\dots ,y_n,y_1^{\text{*}},\dots ,y_{N-n}^{\text{*}}.$

3.2 BBPF avec probabilités de sélection inégales

Cohen (1997) a étendu la procédure du BBPF afin de faire un ajustement pour les probabilités de sélection inégales. Supposons que $\left(y_1,\dots ,y_n\right)$ est un échantillon tiré d'une population finie $\left(Y_1,\dots ,Y_N\right)$ avec les poids de sondage $\left(w_1,\dots ,w_n\right),$ où

$$w_i=\frac{1}{P\left(I_i=1\right)}$$

et $I$ est l'indicatrice d'échantillonnage. La procédure comprend deux étapes :

Étape 1. Tirer un échantillon de taille $N-n,$ noté $\left(y_1^{\text{*}},\dots ,y_{N-n}^{\text{*}}\right),$ en tirant $y_k^{\text{*}}$ à partir de $\left(y_1,\dots ,y_n\right)$ de manière que $y_i$ soit sélectionné avec la probabilité

$$\frac{w_i-1+l_{i,k-1}\text{*}\left(N-n\right)/n}{N-n+\left(k-1\right)\text{*}\left(N-n\right)/n},$$

où $w_i$ est le poids de l'unité $i$ et $l_{i,k-1}$ est le nombre de sélections bootstrap de $y_i$ parmi les $y_1^{\text{*}},\dots ,y_{k-1}^{\text{*}}.$ (La fonction wtpolyap du module R polypost peut être utilisée pour obtenir des tirages à partir d'une urne de Pólya pondérée.)

Étape 2. Former la population BBPF $y_1,\dots ,y_n,y_1^{\text{*}},\dots ,y_{N-n}^{\text{*}}.$

Cohen (1997) n'a pas fourni la preuve théorique de cette procédure, mais elle peut être obtenue comme une extension simple de l'équivalence du BBPF et de l'urne de Pólya classique décrite à la section 3.1. Premièrement, nous déterminons la loi a posteriori de l'échantillon BBPF avec probabilités de sélection inégales qu'implique la procédure BBPF pondérée. La vraisemblance multinomiale fondée sur notre échantillon pondéré est donnée par

$$p\left(y_{\text{obs}}|\theta \right)={\displaystyle \prod _{i=1}^K{\theta }_i^{w_i^{*}}},$$

où

$$w_i^{*}=\left(\frac{n}{N-n}\right){\displaystyle \sum _{j=1}^{n}I\left(y_j=b_i\right)\left(w_j-1\right)}$$

est la somme des poids de sondage moins une unité sur l'ensemble des éléments échantillonnés ayant la valeur $b_i,i=1,\dots ,K,$ normalisée pour qu'elle soit égale à $n.$ (Soulignons que cela élimine de la vraisemblance les sujets échantillonnés dont le poids est égal à un, c'est-à-dire les éléments de l'« échantillon sélectionné avec certitude », car ils n'ont aucune chance de se trouver dans la partie non observée de la population, et donc n'apportent aucune information au sujet des éléments non observés.) En émettant l'hypothèse d'une loi a priori de Dirichlet impropre $p\left(\theta \right)={\displaystyle {\prod }_{i=1}^k{\theta }_i^{-1}},$ la loi a posteriori du bootstrap bayésien en population finie pondéré est donnée par

$$\begin{array}{cc}\hfill P\left(Y_{\text{nob}}|y,w\right)& =P\left(b_1^{\text{nob}}=r_1,\dots ,b_K^{\text{nob}}=r_K|w_1^{*},\dots ,w_K^{*}\right)\hfill \\ & =\frac{{\displaystyle {\int }_0^1\dots {\displaystyle {\int }_0^{1}p\left(Y_{\text{nob}}|\theta \right)p\left(y|\theta \right)p\left(\theta \right)}d{\theta }_1\dots d{\theta }_K}}{{\displaystyle {\int }_0^1\cdots {\displaystyle {\int }_0^{1}p\left(y|\theta \right)p\left(\theta \right)}d{\theta }_1\dots d{\theta }_K}}\hfill \\ & =\frac{{\displaystyle {\int }_0^1\cdots {\displaystyle {\int }_0^1{\displaystyle {\prod }_{i=1}^K{\theta }_i^{r_i}}}{\displaystyle {\prod }_{i=1}^K{\theta }_i^{w_i^{*}}}{\displaystyle {\prod }_{i=1}^K{\theta }_i^{-1}d{\theta }_1\cdots d{\theta }_K}}}{{\displaystyle {\int }_0^1\cdots {\displaystyle {\int }_0^1{\displaystyle {\prod }_{i=1}^K{\theta }_i^{w_i^{*}}}{\displaystyle {\prod }_{i=1}^K{\theta }_i^{-1}d{\theta }_1\cdots d{\theta }_K}}}}\text{ (3}\text{.3)}\hfill \\ & ={\displaystyle \prod _{i=1}^K\frac{\Gamma \left(w_i^{*}+r_i\right)}{\Gamma \left(w_i^{*}\right)}}/\frac{\Gamma \left(N\right)}{\Gamma \left(n\right)}\hfill \end{array}$$

puisque ${\displaystyle {\sum }_{j=1}^n{r}_i}=N-n$ et ${\displaystyle {\sum }_{j=1}^n{w}_i^{*}}=n.$

Ensuite, nous montrons que la distribution des échantillons obtenus à partir du modèle d'urne de Pólya sous probabilités inégales de sélection de Cohen (1997) est égale à la loi a posteriori de l'échantillon BBPF avec probabilités de sélection inégales. Sachant les données observées, la probabilité de tirer $N-n$ boules et que les premières boules $r_1$ aient la valeur $b_1$ , et ainsi de suite, et que les dernières, $r_k$, aient la valeur $b_k$ est :

$$\begin{array}{c}P\left(b_1=r_1,\dots ,b_K=r_K\right)=\frac{w_1^{*}}{n}\times \frac{w_1^{*}+1}{n+1}\dots \times \frac{w_1^{*}+r_1-1}{n+r_1-1}\times \dots \times \frac{w_K^{*}}{n+{\displaystyle {\sum }_{i=1}^{k-1}{r}_i}}\times \dots \times \frac{w_K^{*}+r_K-1}{n+{\displaystyle {\sum }_{i=1}^k{r}_i-1}}\\ ={\displaystyle \prod _{i=1}^K\frac{\Gamma \left(w_i^{*}+r_i\right)}{\Gamma \left(w_i^{*}\right)}}/\frac{\Gamma \left(N\right)}{\Gamma \left(n\right)}\end{array}$$

où la première égalité découle du fait que la distribution des nombres de boules de type $b_i$ est invariante sous toute permutation des tirages, comme dans le cas non pondéré, et la deuxième égalité découle de l'identité $\Gamma \left(x\right)=\left(x-1\right)\Gamma \left(x\right)$ pour $x>0.$ Donc, en notant que

$$\frac{w_i-1+l_{i,k-1}*\left(N-n\right)/n}{N-n+\left(k-1\right)*\left(N-n\right)/n}=\frac{w_i^{*}+l_{i,k-1}}{n+\left(k-1\right)},$$

un tirage à partir du modèle de l'urne de Pólya avec probabilités de sélection inégales donne un tirage à partir de $P\left(Y_{\text{nob}}|y,w\right)$ dans (3.3).

Précédent | Suivant