书名Linear and Generalized Linear Mixed Models and Their Applications

出版年代2007

出版商 Springer

页数268

1 Linear Mixed Models: Part I . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1
1.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1
1.1.1 Effect of Air Pollution Episodes on Children . . . . . . . . . . 2
1.1.2 Prediction of Maize Single-Cross Performance . . . . . . . . . 3
1.1.3 Small Area Estimation of Income . . . . . . . . . . . . . . . . . . . . 3
1.2 Types of Linear Mixed Models . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4
1.2.1 Gaussian Mixed Models . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4
1.2.2 Non-Gaussian Linear Mixed Models . . . . . . . . . . . . . . . . . 8
1.3 Estimation in Gaussian Models. . . . . . . . . . . . . . . . . . . . . . . . . . . . 9
1.3.1 Maximum Likelihood . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9
1.3.2 Restricted Maximum Likelihood. . . . . . . . . . . . . . . . . . . . . 12
1.4 Estimation in Non-Gaussian Models . . . . . . . . . . . . . . . . . . . . . . . 15
1.4.1 Quasi-Likelihood Method. . . . . . . . . . . . . . . . . . . . . . . . . . . 16
1.4.2 Partially Observed Information. . . . . . . . . . . . . . . . . . . . . . 18
1.4.3 Iterative Weighted Least Squares . . . . . . . . . . . . . . . . . . . . 20
1.4.4 Jackknife Method . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24
1.5 Other Methods of Estimation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25
1.5.1 Analysis of Variance Estimation . . . . . . . . . . . . . . . . . . . . . 25
1.5.2 Minimum Norm Quadratic Unbiased Estimation . . . . . . 28
1.6 Notes on Computation and Software . . . . . . . . . . . . . . . . . . . . . . . 29
1.6.1 Notes on Computation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 29
1.6.2 Notes on Software . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33
1.7 Real-Life Data Examples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34
1.7.1 Analysis of Birth Weights of Lambs . . . . . . . . . . . . . . . . . . 35
1.7.2 Analysis of Hip Replacements Data . . . . . . . . . . . . . . . . . . 37
1.8 Further Results and Technical Notes . . . . . . . . . . . . . . . . . . . . . . . 39
1.9 Exercises . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 48

2 Linear Mixed Models: Part II . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 51
2.1 Tests in Linear Mixed Models . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 51
2.1.1 Tests in Gaussian Mixed Models . . . . . . . . . . . . . . . . . . . . 51
2.1.2 Tests in Non-Gaussian Linear Mixed Models . . . . . . . . . . 56
2.2 Confidence Intervals in Linear Mixed Models . . . . . . . . . . . . . . . . 66
2.2.1 Confidence Intervals in Gaussian Mixed Models . . . . . . . 66
2.2.2 Confidence Intervals in Non-Gaussian Linear Mixed
Models . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 72
2.3 Prediction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 74
2.3.1 Prediction of Mixed Effect . . . . . . . . . . . . . . . . . . . . . . . . . . 74
2.3.2 Prediction of Future Observation . . . . . . . . . . . . . . . . . . . . 80
2.4 Model Checking and Selection. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 88
2.4.1 Model Diagnostics . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 88
2.4.2 Model Selection . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 93
2.5 Bayesian Inference . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 99
2.5.1 Inference about Variance Components . . . . . . . . . . . . . . . 100
2.5.2 Inference about Fixed and Random Effects . . . . . . . . . . . 101
2.6 Real-Life Data Examples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 102

2.6.1 Analysis of the Birth Weights of Lambs (Continued) . . . 102
2.6.2 The Baseball Example . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 103
2.7 Further Results and Technical Notes . . . . . . . . . . . . . . . . . . . . . . . 105
2.8 Exercises . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 113
3 Generalized Linear Mixed Models: Part I . . . . . . . . . . . . . . . . . . 119
3.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 119
3.2 Generalized Linear Mixed Models . . . . . . . . . . . . . . . . . . . . . . . . . 120
3.3 Real-Life Data Examples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 122
3.3.1 The Salamander Mating Experiments . . . . . . . . . . . . . . . . 122
3.3.2 A Log-Linear Mixed Model for Seizure Counts . . . . . . . . 124
3.3.3 Small Area Estimation of Mammography Rates . . . . . . . 124
3.4 Likelihood Function under GLMM. . . . . . . . . . . . . . . . . . . . . . . . . 125
3.5 Approximate Inference . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 127
3.5.1 Laplace Approximation . . . . . . . . . . . . . . . . . . . . . . . . . . . . 127
3.5.2 Penalized Quasi-Likelihood Estimation . . . . . . . . . . . . . . . 128
3.5.3 Tests of Zero Variance Components . . . . . . . . . . . . . . . . . . 132
3.5.4 Maximum Hierarchical Likelihood . . . . . . . . . . . . . . . . . . . 134
3.6 Prediction of Random Effects . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 136
3.6.1 Joint Estimation of Fixed and Random Effects . . . . . . . . 136
3.6.2 Empirical Best Prediction . . . . . . . . . . . . . . . . . . . . . . . . . . 142
3.6.3 A Simulated Example . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 149
3.7 Further Results and Technical Notes . . . . . . . . . . . . . . . . . . . . . . . 151
3.7.1 More on NLGSA . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 151
3.7.2 Asymptotic Properties of PQWLS Estimators . . . . . . . . . 152
3.7.3 MSE of EBP. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 155
3.7.4 MSPE of the Model-Assisted EBP . . . . . . . . . . . . . . . . . . . 158

3.8 Exercises . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 161
4 Generalized Linear Mixed Models: Part II . . . . . . . . . . . . . . . . . 163
4.1 Likelihood-Based Inference . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 163
4.1.1 A Monte Carlo EM Algorithm for Binary Data . . . . . . . . 164
4.1.2 Extensions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 167
4.1.3 MCEM with I.I.D. Sampling . . . . . . . . . . . . . . . . . . . . . . . . 170
4.1.4 Automation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 171
4.1.5 Maximization by Parts . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 174
4.1.6 Bayesian Inference . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 178
4.2 Estimating Equations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 183
4.2.1 Generalized Estimating Equations (GEE) . . . . . . . . . . . . 184
4.2.2 Iterative Estimating Equations . . . . . . . . . . . . . . . . . . . . . . 186
4.2.3 Method of Simulated Moments . . . . . . . . . . . . . . . . . . . . . . 190
4.2.4 Robust Estimation in GLMM . . . . . . . . . . . . . . . . . . . . . . . 196
4.3 GLMM Selection . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 199
4.3.1 A General Principle for Model Selection . . . . . . . . . . . . . . 200
4.3.2 A Simulated Example . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 203
4.4 Real-Life Data Examples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 205
4.4.1 Fetal Mortality in Mouse Litters . . . . . . . . . . . . . . . . . . . . 205
4.4.2 Analysis of Gc Genotype Data: An Application of the
Fence Method. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 207

4.4.3 The Salamander-Mating Experiments: Various
Applications of GLMM. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 209
4.5 Further Results and Technical Notes . . . . . . . . . . . . . . . . . . . . . . . 214
4.5.1 Proof of Theorem 4.3 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 214
4.5.2 Linear Convergence and Asymptotic Properties
of IEE . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 214
4.5.3 Incorporating Informative Missing Data in IEE . . . . . . . 217
4.5.4 Consistency of MSM Estimator . . . . . . . . . . . . . . . . . . . . . 218
4.5.5 Asymptotic Properties of First and
Second-Step Estimators . . . . . . . . . . . . . . . . . . . . . . . . . . . . 221
4.5.6 Further Results of the Fence Method. . . . . . . . . . . . . . . . . 225
4.6 Exercises . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 229
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 230
A List of Notations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 231
B Matrix Algebra . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 233
B.1 Kronecker Products . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 233
B.2 Matrix Differentiation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 233
B.3 Projection . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 234
B.4 Generalized Inverse . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 235
B.5 Decompositions of Matrices . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 235
B.6 The Eigenvalue Perturbation Theory . . . . . . . . . . . . . . . . . . . . . . . 236

C Some Results in Statistics . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 237
C.1 Multivariate Normal Distribution . . . . . . . . . . . . . . . . . . . . . . . . . . 237
C.2 Quadratic Forms . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 237
C.3 OP and oP . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 238
C.4 Convolution . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 238
C.5 Exponential Family and Generalized Linear Models . . . . . . . . . . 239
References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 241
Index . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 255