Generalized Laplacian approximations in Bayesian inference

• Published in: Canadian journal of statistics 1995-12, Vol.23 (4), p.399-410
• Main Author: HSU, John S. J.
• Format: Article
• Language: English
• Subjects: 62J10; Approximation; Bayesian inference; contingency table; Fisher-Behrens problem; Histograms; Laplacians; Linear transformations; Marginalization; Mathematical independent variables; Modeling; Primary 62F15; Public schools; quasiindependence model; secondary 62H17; Statistical variance; Taylor series
• ISSN: 0319-5724; 1708-945X
• DOI: 10.2307/3315383

This paper presents a new Laplacian approximation to the posterior density of η = g(θ). It has a simpler analytical form than that described by Leonard et al. (1989). The approximation derived by Leonard et al. requires a conditional information matrix Rηto be positive definite for every fixed η. However, in many cases, not all Rηare positive definite. In such cases, the computations of their approximations fail, since the approximation cannot be normalized. However, the new approximation may be modified so that the corresponding conditional information matrix can be made positive definite for every fixed η. In addition, a Bayesian procedure for contingency-table model checking is provided. An example of cross-classification between the educational level of a wife and fertility-planning status of couples is used for explanation. Various Laplacian approximations are computed and compared in this example and in an example of public school expenditures in the context of Bayesian analysis of the multiparameter Fisher-Behrens problem. /// Cet article présente une nouvelle approximation laplacienne de la densité a posteriori de η = g(θ). Sa forme analytique est plus simple que celle décrite par Leonard et al. (1989). L'approximation de Leonard et al. exige qu'une matrice d'information conditionnelle Rηsoit définie positive pour tout η fixé. Dans de nombreux cas, cependant, les Rηne sont pas toutes définies positives. Le calcul de leur approximation échoue donc, car cette approximation est alors impossible à normaliser. En revanche, l'approximation proposée ici peut être modifiée de manière à ce que la matrice d'information conditionnelle soit définie positive pour tout η fixé. Une procédure bayésienne de vérification de modèles pour tableaux de fréquence est également présentée. Un exemple de tri-croisé entre le niveau de scolarité de femmes mariées et les moyens de contrôle des naissances privilégiés par leur couple sert à illustrer la méthodologie. Plusieurs approximations laplaciennes sont calculées et comparées dans cet exemple, ainsi que dans le contexte d'une approche bayésienne du problème de Fisher-Behrens multiparamétrique appliquée à l'analyse des dépenses d'une école du secteur public.