Preface
How to Use This Guide . . . . . . . . . . . . . . . . . . x
Related Products List . . .  . . . . . . . . . . . . . . .  xii
Typographical Conventions . . . . . . . . . . . . . . . .  xiv

1
Introduction
What Is the Statistics Toolbox? . . . . . . . . . . . . .  1-2
Primary Topic Areas . . . . . . . . . . . . . . . . . . .  1-3
Random Numbers in Examples . . . . . . . . . . . . . . . . 1-5
Mathematical Notation . . . . . . . . . . . . . . . . . .  1-6

2
Probability Distributions
Introduction . . . . . . . . . . . . . . . . . . . .. . .  2-2
Overview of the Functions . . . . . . . . . . . . . . . .  2-4
Probability Density Function (pdf) . . . . . . . . . . . . 2-4
Cumulative Distribution Function (cdf) . . . . . . . . . . 2-5
Inverse Cumulative Distribution Function . . . . . . . . . 2-5
Random Number Generator . . . . . . . . . . . . . . . . . .2-7
ii Contents
Mean and Variance as a Function of Parameters . . . . . . .2-9
Overview of the Distributions . . . . . . . . . . . . . . .2-11
Beta Distribution . . . . . . . . . . . . . . . . . . . . .2-11
Binomial Distribution . . . . . . . . . . . . . . . . . . . 2-13
Chi-Square Distribution . . . . . . . . . . . . . . . . . 2-16
Noncentral Chi-Square Distribution . . . . . . . . . . . . . . . . . . . . . 2-17
Discrete Uniform Distribution . . . . . . . . . . . . . . . . . . . . . . . . . 2-19
Exponential Distribution . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2-20
F Distribution . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2-22
Noncentral F Distribution . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2-23
Gamma Distribution . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2-25
Geometric Distribution . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2-27
Hypergeometric Distribution . . . . . . . . . . . . . . . . . . . . . . . . . . . 2-28
Lognormal Distribution . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2-29
Negative Binomial Distribution . . . . . . . . . . . . . . . . . . . . . . . . 2-31
Normal Distribution . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2-34
Poisson Distribution . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2-36
Rayleigh Distribution . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2-38
Student’s t Distribution . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2-39
Noncentral t Distribution . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2-40
Weibull Distribution . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2-43
3
Descriptive Statistics
Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3-2
Measures of Central Tendency (Location) . . . . . . . . . . . . . . . 3-3
Measures of Dispersion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3-5
Functions for Data with Missing Values (NaNs) . . . . . . . . . . 3-7
Function for Grouped Data . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3-9
Percentiles and Graphical Descriptions . . . . . . . . . . . . . . . . 3-11
iii
Percentiles . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3-11
Probability Density Estimation . . . . . . . . . . . . . . . . . . . . . . . . . 3-13
Empirical Cumulative Distribution Function . . . . . . . . . . . . . 3-16
The Bootstrap . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3-19
4
Linear Models
Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4-2
One-Way Analysis of Variance (ANOVA) . . . . . . . . . . . . . . . . . 4-4
Example: One-Way ANOVA . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4-4
Multiple Comparisons . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4-6
Example: Multiple Comparisons . . . . . . . . . . . . . . . . . . . . . . . . . 4-6
Two-Way Analysis of Variance (ANOVA) . . . . . . . . . . . . . . . . 4-9
Example: Two-Way ANOVA . . . . . . . . . . . . . . . . . . . . . . . . . . . 4-10
N-Way Analysis of Variance . . . . . . . . . . . . . . . . . . . . . . . . . . . 4-12
Example: N-Way ANOVA with Small Data Set . . . . . . . . . . . . 4-12
Example: N-Way ANOVA with Large Data Set . . . . . . . . . . . . 4-14
Multiple Linear Regression . . . . . . . . . . . . . . . . . . . . . . . . . . . 4-18
Mathematical Foundations of Multiple Linear Regression . . . 4-18
Example: Multiple Linear Regression . . . . . . . . . . . . . . . . . . . 4-20
Quadratic Response Surface Models . . . . . . . . . . . . . . . . . . . 4-22
Exploring Graphs of Multidimensional Polynomials . . . . . . . . 4-22
Stepwise Regression . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4-24
Example: Stepwise Regression . . . . . . . . . . . . . . . . . . . . . . . . . 4-24
Stepwise Regression Plot . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4-25
Stepwise Regression Diagnostics Table . . . . . . . . . . . . . . . . . . 4-25
Generalized Linear Models . . . . . . . . . . . . . . . . . . . . . . . . . . . 4-28
Example: Generalized Linear Models . . . . . . . . . . . . . . . . . . . . 4-28
iv Contents
Robust and Nonparametric Methods . . . . . . . . . . . . . . . . . . . 4-32
Robust Regression . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4-32
Kruskal-Wallis Test . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4-34
Friedman’s Test . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4-34
5
Nonlinear Regression Models
Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5-2
Nonlinear Least Squares . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5-3
Example: Nonlinear Modeling . . . . . . . . . . . . . . . . . . . . . . . . . . . 5-3
An Interactive GUI for Nonlinear Fitting and Prediction . . . . . 5-7
Regression and Classification Trees . . . . . . . . . . . . . . . . . . . . 5-8
6
Hypothesis Tests
Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6-2
Hypothesis Test Terminology . . . . . . . . . . . . . . . . . . . . . . . . . . 6-3
Hypothesis Test Assumptions . . . . . . . . . . . . . . . . . . . . . . . . . . 6-4
Example: Hypothesis Testing . . . . . . . . . . . . . . . . . . . . . . . . . . . 6-5
Available Hypothesis Tests . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6-9
v
7
Multivariate Statistics
Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7-2
Principal Components Analysis . . . . . . . . . . . . . . . . . . . . . . . . 7-3
Example: Principal Components Analysis . . . . . . . . . . . . . . . . . 7-4
The Principal Components (First Output) . . . . . . . . . . . . . . . . . 7-7
The Component Scores (Second Output) . . . . . . . . . . . . . . . . . . 7-7
The Component Variances (Third Output) . . . . . . . . . . . . . . . . 7-10
Hotelling’s T2 (Fourth Output) . . . . . . . . . . . . . . . . . . . . . . . . . 7-12
Factor Analysis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7-13
Example: Finding Common Factors Affecting Stock Prices . . 7-13
Factor Rotation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7-16
Predicting Factor Scores . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7-17
Comparison of Factor Analysis and Principal Components
Analysis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7-19
Multivariate Analysis of Variance (MANOVA) . . . . . . . . . . . 7-20
Example: Multivariate Analysis of Variance . . . . . . . . . . . . . . 7-20
Cluster Analysis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7-26
Hierarchical Clustering . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7-26
K-Means Clustering . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7-40
Classical Multidimensional Scaling . . . . . . . . . . . . . . . . . . . . 7-47
Overview . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7-47
Reconstructing a Map from Inter-City Distances . . . . . . . . . . 7-49
8
Statistical Plots
Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8-2
Box Plots . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8-3
vi Contents
Distribution Plots . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8-4
Normal Probability Plots . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8-4
Quantile-Quantile Plots . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8-6
Weibull Probability Plots . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8-7
Empirical Cumulative Distribution Function (CDF) . . . . . . . . . 8-8
Scatter Plots . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8-10
9
Statistical Process Control
Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9-2
Control Charts . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9-3
Xbar Charts . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9-3
S Charts . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9-4
EWMA Charts . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9-5
Capability Studies . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9-6
10
Design of Experiments
Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10-2
Full Factorial Designs . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10-4
Fractional Factorial Designs . . . . . . . . . . . . . . . . . . . . . . . . . . 10-6
Response Surface Designs . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10-8
Central Composite Designs . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10-8
Box-Behnken Designs . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10-9
D-Optimal Designs . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10-11
vii
Generating D-Optimal Designs . . . . . . . . . . . . . . . . . . . . . . . . 10-11
Augmenting D-Optimal Designs . . . . . . . . . . . . . . . . . . . . . . . 10-14
Designing Experiments with Uncontrolled Inputs . . . . . . . . 10-16
Controlling Candidate Points . . . . . . . . . . . . . . . . . . . . . . . . . 10-16
Including Categorical Factors . . . . . . . . . . . . . . . . . . . . . . . . . 10-17
11
Demos
Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11-2
The disttool Demo . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11-3
The polytool Demo . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11-5
Confidence Bounds . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11-7
Overfitting . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11-8
The aoctool Demo . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11-10
Example: aoctool with Sample Data . . . . . . . . . . . . . . . . . . . . 11-11
The randtool Demo . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11-18
The rsmdemo Demo . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11-19
Part 1 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11-19
Part 2 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11-20
The glmdemo Demo . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11-21
The robustdemo Demo . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11-22
12
Reference
Functions — By Category . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12-3
viii Contents
Probability Distributions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12-4
Descriptive Statistics . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12-9
Statistical Plotting . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12-10
Statistical Process Control . . . . . . . . . . . . . . . . . . 12-11
Linear Models . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12-11
Nonlinear Regression . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12-12
Design of Experiments . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12-13
Multivariate Statistics . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12-13
Decision Tree Techniques . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12-15
Hypothesis Tests . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12-15
Distribution Testing . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12-15
Nonparametric Testing . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12-15
File I/O . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12-16
Demonstrations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12-16
Data . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12-16
Functions — Alphabetical List . . . . . . . . . . . . . . . . . . . . . . . 12-18
A
Selected Bibliography
Index
Preface
How to Use This Guide . . . . . . . . . . . . . . . . x
Related Products List . . . . . . . . . . . . . . . . .xii
Typographical Conventions . . . . . . . . . . . . . xiv