4 Méthode bayésienne linéaire pour données catégoriques

Kelly Cristina M. Gonçalves, Fernando A. S. Moura et Helio S. Migon

Précédent | Suivant

Il arrive souvent que l'on s'intéresse à des cas où la caractéristique observée est celle de savoir si l'unité de population possède ou non un certain attribut d'intérêt. Nous pouvons définir une variable dichotomique $y_i=1,$ si la $i^{\text{e}}$ unité possède cet attribut, ce qui est désigné comme une réussite, et $y_i=0$ autrement. Pour le cas binaire lorsque la taille de l'échantillon n'est pas suffisamment grande pour appliquer le théorème central limite, l'approche fondée sur le plan de sondage pourrait faire appel à la randomisation introduite par le plan de sondage pour justifier la distribution des quantités aléatoires binaires. Par exemple, Cochran (1977), sections 3.4 et 3.5, montre comment appliquer les lois hypergéométrique et binomiale pour obtenir les intervalles de confiance pour les proportions de population quand on se sert de plans d'échantillonnages aléatoires simples avec et sans remise, respectivement. Par ailleurs, des approches dépendantes d'un modèle ont également été avancées et appliquées pour prédire les totaux ou les moyennes dans les catégories d'intérêt. Malec, Sedransk, Moriarity et LeClere (1997) ont considéré un modèle hiérarchique logistique à deux niveaux, où les grappes forment le deuxième niveau. Ils ont également comparé les estimations bayésiennes entièrement hiérarchiques aux estimations bayésiennes empiriques et aux méthodes classiques. Moura et Migon (2002) ont présenté une approche basée sur un modèle hiérarchique logistique pour la prédiction de proportions sur petits domaines, en tenant compte des effets spatiaux ainsi que des effets d'hétérogénéité non structurée possibles. Nandram et Choi (2008) ont proposé un modèle multinomial-Dirichlet dépendant du temps pour prédire les résultats d'une élection sous non-réponse ignorable et non ignorable. Ils ont également utilisé une approche bayésienne pour répartir les électeurs indécis entre les candidats.

De nouveau, ici, nous n'avons pas besoin d'utiliser des hypothèses au sujet du modèle complet ni une approche de randomisation, mais nous devons émettre certaines hypothèses au sujet des premier et deuxième moments des quantités aléatoires concernées. L'EBL pour les données binaires a été introduit brièvement par O'Hagan (1985), mais ici, nous le développons d'une manière plus générale pour le cas où nous nous intéressons à l'analyse de plus d'un attribut dans une population. L'objectif est de décrire l'estimation de la proportion de réussites avec des données catégoriques. Soit $y_{ij}$ la variable qui indique que l'unité $i,$ $i=\mathrm{1,}\dots \mathrm{,}N$ se trouve dans la catégorie $j,$ $j=\mathrm{1,}\dots \mathrm{,}k$ donnée par

$$y_{ij}=\{\begin{array}{l}\mathrm{1,}\text{si}\text{la}{i}^{\text{e}}\text{unité}\text{possède}\text{le}{j}^{\text{e}}\text{attribut}\mathrm{<mo>;</mo>}\hfill \\ \mathrm{0,}\text{autrement}\mathrm{.}\hfill \end{array}$$

Le but principal est d'estimer un vecteur $p=\left(p_1\mathrm{,}\dots \mathrm{,}{p}_k\right)\prime ,$ où $p_j=N^{-1}{\displaystyle {\sum }_{i=1}^N}{y}_{ij},$ $j=\mathrm{1,}\dots \mathrm{,}k,$ est la proportion d'unités dans la catégorie $j,$ sachant $y_s,$ un vecteur de dimension $nk,$ défini comme étant $y_s=\left(y_{11}\mathrm{,}{y}_{21}\mathrm{,}\dots \mathrm{,}{y}_{n1}\mathrm{,}\dots \mathrm{,}{y}_{1k}\mathrm{,}{y}_{2k}\mathrm{,}\dots \mathrm{,}{y}_{nk}\right)\prime .$ Comme nous avons affaire à des situations dans lesquelles il n'est possible d'associer qu'un seul attribut à chaque unité, nous avons ${\displaystyle {\sum }_{j=1}^k}{p}_j=1.$ Donc, nous ne devons estimer que $k-1$ paramètres, puisqu'il s'ensuit que ${\widehat{p}}_k=1-{\displaystyle {\sum }_{j=1}^{k-1}}{\widehat{p}}_j$ et que l'estimation de la variance est également obtenue de manière analogue par $\widehat{V}\left({\widehat{p}}_k\right)={\displaystyle {\sum }_{j=1}^{k-1}}\widehat{V}\left({\widehat{p}}_j\right)+{\displaystyle {\sum }_{l\ne j=1}^{k-1}}\widehat{C}ov\left({\widehat{p}}_j,{\widehat{p}}_l\right).$

En l'absence de toute autre information structurelle, nous supposons que les unités dans une catégorie donnée sont échangeables d'ordre deux, mais nous ne supposons aucune échangeabilité entre les unités de différentes catégories. Nos croyances a priori sont exprimées pour $i=\mathrm{1,}\dots \mathrm{,}N,$ 

$$j=\mathrm{1,}\dots \mathrm{,}k-\mathrm{1,}$$ comme il suit :

$$\begin{array}{cc}\hfill m_j& =E\left(y_{ij}\right)=P\left(y_{ij}=1\right)\mathrm{,}{v}_j=V\left(y_{ij}\right)=m_j\left(1-m_j\right)\text{et}\hfill \\ \text{cov}\left(y_{ij}\mathrm{,}{y}_{i^{\prime }j}\right)& =P\left(y_{i^{\prime }j}=1|y_{ij}=1\right)P\left(y_{ij}=1\right)-P\left(y_{ij}=1\right)P\left(y_{i^{\prime }j}=1\right)\hfill \\ & =m_j\left(m_{jj}-m_j\right)=c_j\mathrm{,}\forall i\ne i^{\prime }\text{et}{\sigma }_j^2=v_j-c_j=m_j\left(1-m_{jj}\right)\mathrm{,}\hfill \end{array}$$

où $m_{jj}=P\left(y_{i^{\prime }j}=1|y_{ij}=1\right),$ pour tout $i\ne i^{\prime }.$

Pour $j\ne j^{\prime },$ nous obtenons de manière analogue la covariance entre ces catégories sous la forme

$$\text{cov}\left(y_{ij}\mathrm{,}{y}_{i^{\prime }{j}^{\prime }}\right)=\{\begin{array}{ll}{m}_j\left(m_{j^{\prime }j}-m_{j^{\prime }}\right)\mathrm{,}\hfill & \text{si}i\ne i^{\prime }\mathrm{,}\hfill \\ -m_j{m}_{j^{\prime }}\mathrm{,}\hfill & \text{si}i=i^{\prime }\mathrm{.}\hfill \end{array}$$

Souvent, nous ne possédons pas toutes les données $y_s,$ mais seulement une statistique exhaustive, comme la proportion dans l'échantillon pour chaque catégorie, ${\overline{y}}_s.$ Soit ${\overline{y}}_s$ le vecteur de dimension $k-1­$ dont la $j^{\text{e}}$ position est donnée par la moyenne d'échantillon pour la catégorie $j.$ En utilisant le modèle général donné par (2.4), nous obtenons :

$$E\left({\overline{y}}_s\right)=E\left(E\left({\overline{y}}_s|\beta \right)\right)=a\text{et}\text{Var}\left({\overline{y}}_s\right)=E\left(V\left({\overline{y}}_s|\beta \right)\right)+V\left(E\left({\overline{y}}_s|\beta \right)\right)=V_s+R\mathrm{.}$$

En appliquant le modèle général donné dans (2.4), où la variable de réponse est donnée par ${\overline{y}}_s,$ le vecteur $\beta$ est de dimension $k-1,$ $X_s=I_s$ et $V=\text{diag}\left(V_{\overline{s}}\mathrm{,}{V}_s\right),$ nous obtenons à partir de (2.10) :

$$\widehat{p}=\frac{n{\overline{y}}_s+\left(N-n\right)\widehat{\beta }}{N}\text{et}\widehat{V}\left(\widehat{p}\right)=\frac{{\left(N-n\right)}^2\left[V_{\overline{s}}+C\right]}{N^2}\mathrm{,}\text{ (4}.1)$$

où $C^{-1}=R^{-1}+V_s$ et $\widehat{\beta }=C\left(V_s^{-1}{\overline{y}}_s+R^{-1}a\right),$ comme il est énoncé en (2.6).

Soit $Q=V_s+R.$ L'EBL de $p$ et sa variance associée donnés par (4.1) peuvent s'écrire en fonction des quantités a priori $m_j,$ $m_{j{j}^{\prime }}$ et $j=\mathrm{1,}\dots \mathrm{,}k-1,$ en notant que $a=\left(m_1\mathrm{,}\dots \mathrm{,}{m}_{k-1}\right)\prime ,$ $Q_{jj}=c_j+{\sigma }_j^2/n$ et $Q_{j{j}^{\prime }}=m_j\left(m_{j^{\prime }j}-m_{j^{\prime }}\right)-m_j{m}_{j^{\prime }j}/n.$ Par conséquent, la matrice $R=\left\{r_{j{j}^{\prime }}\right\}\mathrm{,}j\mathrm{,}{j}^{\prime }=\mathrm{1,..,}k-1$ avec $r_{jj}=c_j$ et $r_{j{j}^{\prime }}=m_j\left(m_{j^{\prime }j}-m_{j^{\prime }}\right)$ et $V_s=1/n\left\{v_{j{j}^{\prime }}\right\}\mathrm{,}j\mathrm{,}{j}^{\prime }=\mathrm{1,..,}k-1$ avec $v_{jj}={\sigma }_j^2$ et $v_{j{j}^{\prime }}=-m_j{m}_{j^{\prime }j}.$ De manière analogue, nous obtenons $V_{\overline{s}}=n/\left(N-n\right)V_s.$

4.1 Obtention des priors

L'obtention des priors est le processus consistant à formuler les connaissances et les croyances d'une personne au sujet d'une ou de plusieurs quantités incertaines sous forme d'une loi de probabilité pour ces quantités. Selon Garthwaite, Kadane et O'Hagan (2005), il est commode de concevoir la tâche d'obtention des priors comme faisant intervenir un facilitateur qui aide l'expert à formuler ses connaissances spécialisées sous forme probabiliste. Dans le contexte de l'obtention d'une loi a priori pour une analyse bayésienne, ce sont les connaissances a priori de l'expert qui sont tirées au clair, mais en général, l'objectif est d'exprimer les connaissances courantes de l'expert sous forme probabiliste. Si l'expert est un statisticien ou s'il connaît très bien les concepts statistiques, l'intervention d'un facilitateur pourrait ne pas être formellement nécessaire, mais cela est rare en pratique. O'Hagan (1998) a illustré au moyen d'un exemple pratique comment obtenir les premier et deuxième moments. En particulier, il a adopté l'approche bayésienne linéaire parce qu'elle permet aux ingénieurs d'appliquer facilement une procédure d'obtention des priors.

À la présente section, nous présentons certaines contraintes concernant les quantités a priori et une solution de rechange pour faciliter le processus d'obtention des priors en vue d'obtenir l'EBL pour des données catégoriques. Comme $m_j$ et $m_{j{j}^{\prime }}$ sont des probabilités et que $R$ et $V_s$ sont les matrices de covariance dans le modèle (2.4), les contraintes qui suivent doivent être satisfaites :

1.  $0<m_j<1$ et $0\le m_{j{j}^{\prime }}\le 1,$ $j\mathrm{,}{j}^{\prime }=\mathrm{1,}\dots \mathrm{,}k-1;$

2.  $R$ et $V_s$ sont des matrices symétriques définies positives.

Afin de vérifier si la condition (2.2) est satisfaite, on peut exécuter les étapes suivantes :

i. vérifier si $R$ et $V_s$ sont symétriques en vérifiant que $m_j{m}_{j{j}^{\prime }}=m_{j^{\prime }}{m}_{j^{\prime }j};$

ii. vérifier si $R$ et $V_s$ sont des matrices définies positives en trouvant les valeurs propres de $R$ et $V_s.$ Si les valeurs propres sont positives, alors les matrices sont définies positives.

Il convient de mentionner que les valeurs propres sont les racines du polynôme caractéristique et que si ce polynôme est de degré $n,n\le 4,$ il est possible d'obtenir analytiquement ses racines en appliquant Bhaskara, Cardan ou Ferrari; voir Jacobson (2009), chapitre 4, pour les formules. Cependant, si $n\ge 5,$ il est habituellement nécessaire d'appliquer une méthode itérative pour les obtenir. Néanmoins, pour les matrices de dimensions supérieures à $2\times 2,$ il n'est pas simple d'obtenir analytiquement ces contraintes en se basant sur les valeurs propres. La proposition qui suit présente les conditions que $m_j$ et $m_{j{j}^{\prime }},$ $j=\mathrm{1,}\dots \mathrm{,}k-1,$ doivent satisfaire afin d'obtenir un prior convenable pour un modèle multinomial comprenant trois catégories en utilisant l'approche d'estimation bayésienne linéaire.

Proposition 1 Supposons que nous obtenons $m_j,$ tel que $0<m_j<1,$ $j=\mathrm{1,2.}$ Alors, sachant ${\rho }_{11},$ ${\rho }_{12}$ et ${\rho }_{22},$ nous obtenons $m_{11},$ $m_{12},$ $m_{21}$ et $m_{22}$ au moyen de (4.2). Les quantités a priori $m_j$ et $m_{j{j}^{\prime }},$ pour $j\mathrm{,}{j}^{\prime }=\mathrm{1,2},$ doivent satisfaire les contraintes qui suivent pour que les matrices $R$ et $V_s$ soient définies positives :

$$\begin{array}{l}{m}_{11}>m_1\text{et}{m}_{22}>m_2\mathrm{,}{m}_{11}{m}_{22}-m_{11}-m_{22}+1>m_{12}{m}_{21}\text{et}\\ m_{11}{m}_{22}-m_{11}{m}_2-m_1{m}_{22}>m_{12}{m}_{21}-2m_2{m}_{12}\mathrm{.}\end{array}$$

La vérification de la proposition 1 nécessite certaines opérations algébriques. Nous vérifions que les matrices $R$ et $V_s$ sont définies positives en utilisant (i) et (ii) susmentionnés. Nous faisons appel au fait que les valeurs propres d'une matrice de dimensions $2\times 2$ sont positives si et seulement si son déterminant est positif et nous obtenons alors $m_{j{j}^{\prime }},$ $j\mathrm{,}{j}^{\prime }=\mathrm{1,2}$ qui satisfait cette contrainte pour les deux matrices. Pour les cas comprenant plus de trois catégories, nous devons vérifier numériquement si les matrices $R$ et $V_s$ sont définies positives en remplaçant $m_j$ et $m_{j{j}^{\prime }},$ $j=\mathrm{1,}\dots \mathrm{,}k-1$ par leur valeur numérique.

Par ailleurs, si un expert a de la difficulté à spécifier certaines de ces probabilités conditionnelles $m_{j{j}^{\prime }},$ il pourrait être plus simple d'attribuer un prior au coefficient de corrélation. Définissons ${\rho }_{j{j}^{\prime }}$ comme étant le prior du coefficient de corrélation entre deux unités différentes dans les catégories $j$ et $j^{\prime },$ c'est-à-dire :

$${\rho }_{j{j}^{\prime }}=\text{corr}\left(y_{ij}\mathrm{,}{y}_{i^{\prime }{j}^{\prime }}\right)=\{\begin{array}{ll}\frac{m_{jj}-m_j}{1-m_j}\mathrm{,}\hfill & j=j^{\prime }\mathrm{,}\hfill \\ \frac{m_j\left(m_{j^{\prime }j}-m_{j^{\prime }}\right)}{\sqrt{m_j\left(1-m_j\right)m_{j^{\prime }}\left(1-m_{j^{\prime }}\right)}}\mathrm{,}\hfill & j\ne j^{\prime }\mathrm{,}\hfill \end{array}$$

pour $i\mathrm{,}{i}^{\prime }=\mathrm{1,}\dots \mathrm{,}n,$ $i\ne i^{\prime },$ $j\mathrm{,}{j}^{\prime }=\mathrm{1,}\dots \mathrm{,}k-1.$

Par conséquent, sachant ${\rho }_{j{j}^{\prime }},$ $j\mathrm{,}{j}^{\prime }=\mathrm{1,}\dots \mathrm{,}k-1,$ nous obtenons

$$m_{j{j}^{\prime }}=\{\begin{array}{ll}{m}_j+{\rho }_{jj}\left(1-m_j\right)\hfill & j=j^{\prime }\mathrm{,}\hfill \\ \frac{m_j{m}_{j^{\prime }}+{\rho }_{j^{\prime }j}\sqrt{m_j\left(1-m_j\right)m_{j^{\prime }}\left(1-m_{j^{\prime }}\right)}}{m_{j^{\prime }}}\mathrm{,}\hfill & j\ne j^{\prime }\mathrm{.}\hfill \end{array}\text{ (}4.2)$$

Il convient de mentionner que, si l'on dispose de données provenant d'une enquête antérieure, il est possible qu'un expert utilise cette information. Par exemple, $m_j$ peut être obtenu en estimant la proportion d'unités dans la catégorie $j,$ $j=\mathrm{1,}\dots \mathrm{,}k-1$ à partir de l'enquête antérieure. De façon analogue, ${\rho }_{j{j}^{\prime }}$ peut être obtenu en utilisant les données d'une enquête antérieure. Comme l'indique la contrainte (2.1), $m_j$ ne peut pas prendre les valeurs 0 et 1, sinon les corrélations ne seraient pas définies.

4.2  Analyse de la sensibilité aux priors

Il est utile de vérifier si l'estimateur et sa variance associée dépendent des priors attribués. Nous traitons le cas simple ne comprenant que deux catégories. Soulignons que, dans le cas où il y a plus de deux catégories, le nombre de quantités a priori qu'il faut obtenir augmente rapidement, mais que l'on peut étendre les conclusions obtenues. Par ailleurs, en l'absence d'information a priori, nous pouvons utiliser des priors non informatifs et, comme il est décrit à la section 2.2, on retrouve alors les estimateurs de l'approche fondée sur le plan de sondage.

L'EBL pour la proportion en cas de données binaires peut être obtenu en tant que cas particulier de l'estimateur (4.1),

$${\widehat{p}}_1=\frac{n{\overline{y}}_1+\left(N-n\right)\widehat{\mu }}{N}\mathrm{,}$$

où

$$\begin{array}{l}\widehat{\mu }=\omega {\overline{y}}_1+\left(1-\omega \right)m_1\text{est}\text{la}\text{valeur}\text{prévue}\text{des}\text{valeurs}\text{non}\text{observées}\text{dans}\text{la}\text{catégorie}1\mathrm{,}\\ \omega =\frac{n{\sigma }_1^{-2}}{n{\sigma }_1{}^{-2}+c_1{}^{-1}}\mathrm{,}\end{array}$$

et ${\widehat{p}}_2=1-{\widehat{p}}_1.$ Notons que ${\sigma }_1^2$ et $c_1$ dépendent de $m_{11}=m_1+{\rho }_{11}\left(1-m_1\right),$ voir page $13$. Nous analysons comment les estimations sont affectées par ${\rho }_{11}.$

1. Si ${\rho }_{11}\to 0,$ alors $\omega \to 0$ et $\widehat{\mu }\to m_1.$ Donc, l'estimateur pour les valeurs non observées dépend en grande partie de la valeur du prior.

2. Si ${\rho }_{11}\to 1,$ alors $\omega \to 1$ et $\widehat{\mu }\to {\overline{y}}_1.$ Donc, l'estimateur pour les valeurs non observées ne dépend pas de la valeur du prior.

En outre, il est facile de voir que $n/N\to 1,$ ${\widehat{p}}_1\to {\overline{y}}_1.$ Pour illustrer ces résultats, nous avons créé un jeu de données artificielles en fixant la proportion réelle à $p=\left(\text{0,2380};\text{0,7620}\right)\prime$ et la moyenne d'échantillon à ${\overline{y}}_s=\left(\text{0,2614};\text{0,7386}\right)\prime .$ Ces valeurs ont été tirées de Moura et Migon (2002). Puis, nous avons déterminé comment les valeurs de $m_1,$ $N,$ $f=n/N$ et ${\rho }_{11}$ affectent l'estimateur ${\widehat{p}}_1.$ La figure 4.1 donne la représentation graphique en deux dimensions de l'erreur absolue de ${\widehat{p}}_1$ en fonction de ${\rho }_{11}$ pour certains cas particuliers. La courbe grise représente l'erreur absolue entre la proportion d'échantillon ${\overline{y}}_1$ et la proportion réelle $p_1.$

Il faut souligner que, à mesure que $f$ ou $N$ augmente, l'erreur absolue diminue pour toute valeur du prior. De surcroît, quand ${\rho }_{11}\to 0,$ l'erreur absolue augmente quand $m_1$ diffère considérablement de la proportion réelle $p_1,$ mais elle diminue à mesure que la taille de l'échantillon augmente. Enfin, quand ${\rho }_{11}\to 1,$ nous observons que l'erreur absolue de ${\widehat{p}}_1$ tend vers l'erreur absolue de la proportion d'échantillon ${\overline{y}}_1.$ Donc, si nous avons une bonne information a priori, en ce qui concerne $m_1,$ l'estimateur proposé donne de bons résultats pour toutes les valeurs de ${\rho }_{11}.$ Cependant, si aucune information a priori n'est disponible, des priors non informatifs caractérisés par ${\rho }_{11}\to 1$ peuvent être utilisés et nous obtenons des résultats similaires à ceux de l'approche fondée sur le plan de sondage.

Figure 4.1 Représentation graphique en deux dimensions de l'erreur absolue de ${\widehat{p}}_1$ en fonction de ${\rho }_{11}$ pour certains cas particuliers.

Description pour figure 4.1

Note: Erreur absolue pour $m_1\in \left\{\text{0,1};\text{0,4};\text{0,7};\text{0,9}\right\},$   $N\in \left\{1\mathrm{500,15}288\right\}$  et $f\in \left\{1\text{\%}\mathrm{,10}\text{\%}\right\}$  fixes et ${\rho }_{11}\in \left\{\text{0,01};\text{0,25};\text{0,5};\text{0,75};\text{0,9}\right\}$  variable. La courbe grise représente l'erreur absolue de la proportion d'échantillon ${\overline{y}}_1$

Précédent | Suivant