Preface . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . xi
1 Random Variables . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1
1.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1
1.2 Probability Space. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2
1.3 Random Variable, Probability Distribution . . . . . . . . . . . . . . . . . 4
1.4 Expectation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7
1.5 Multiple Random Variables . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9
1.6 A Hilbert Space of Random Variables . . . . . . . . . . . . . . . . . . . . . . 13
1.7 Convergence of Sequences of Random Variables . . . . . . . . . . . . . 17
1.8 Computer Generation of Random Numbers . . . . . . . . . . . . . . . . . 20
1.9 Monte Carlo . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23
Exercises . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27
Computer Programs . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30
2 Stochastic Processes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33
2.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33
2.2 Discrete Stochastic Processes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34
2.3 Continuous Stochastic Processes . . . . . . . . . . . . . . . . . . . . . . . . . . . 39
2.4 A Hilbert Space of Stochastic Processes . . . . . . . . . . . . . . . . . . . . 45
2.5 Computer Generation of Stochastic Processes . . . . . . . . . . . . . . . 50
2.6 Examples of Stochastic Processes . . . . . . . . . . . . . . . . . . . . . . . . . . 52
Exercises . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 55
Computer Programs . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 59
3 Stochastic Integration . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 63
3.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 63
3.2 Integrals of the Form
t
a f(s, ω) ds . . . . . . . . . . . . . . . . . . . . . . . . . 63
3.3 It?o Stochastic Integrals . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 67
3.4 Approximation of Stochastic Integrals . . . . . . . . . . . . . . . . . . . . . . 72
3.5 Stochastic Differentials and It?o’s Formula. . . . . . . . . . . . . . . . . . . 74
vii
viii Contents
3.6 Stratonovich Stochastic Integrals . . . . . . . . . . . . . . . . . . . . . . . . . . 80
3.7 Multidimensional It?o’s Formula . . . . . . . . . . . . . . . . . . . . . . . . . . . 82
Exercises . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 83
Computer Programs . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 87
4 Stochastic Differential Equations . . . . . . . . . . . . . . . . . . . . . . . . . . 89
4.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 89
4.2 Existence of a Unique Solution . . . . . . . . . . . . . . . . . . . . . . . . . . . . 91
4.3 Properties of Solutions to Stochastic Differential Equations . . . 93
4.4 It?o’s Formula and Exact Solutions . . . . . . . . . . . . . . . . . . . . . . . . . 95
4.5 Approximating Stochastic Differential Equations . . . . . . . . . . . . 99
4.6 Systems of Stochastic Differential Equations . . . . . . . . . . . . . . . . 107
4.7 Forward Kolmogorov (Fokker-Planck) Equation . . . . . . . . . . . . . 109
4.8 Stability . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 111
4.9 Parameter Estimation for Stochastic Differential Equations . . . 118
4.9.1 A maximum likelihood estimation method . . . . . . . . . . . . 118
4.9.2 A nonparametric estimation method . . . . . . . . . . . . . . . . . 121
Exercises . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 123
Computer Programs . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 127
5 Modeling . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 135
5.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 135
5.2 Population Biology Examples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 145
5.2.1 General model of two interacting populations . . . . . . . . . 145
5.2.2 Epidemic model and predator-prey model . . . . . . . . . . . . 147
5.2.3 Persistence-time estimation . . . . . . . . . . . . . . . . . . . . . . . . . 150
5.2.4 A population model with a time delay . . . . . . . . . . . . . . . 152
5.2.5 A model including environmental variability . . . . . . . . . . 153
5.3 Physical Systems . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 156
5.3.1 Mechanical vibration. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 156
5.3.2 Seed dispersal . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 158
5.3.3 Ion transport . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 160
5.3.4 Nuclear reactor kinetics . . . . . . . . . . . . . . . . . . . . . . . . . . . . 161
5.3.5 Precipitation. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 165
5.3.6 Chemical reactions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 166
5.3.7 Cotton fiber breakage . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 169
5.4 Some Stochastic Finance Models . . . . . . . . . . . . . . . . . . . . . . . . . . 174
5.4.1 A stock-price model . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 174
5.4.2 Option pricing . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 177
5.4.3 Interest rates . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 180
5.5 A Goodness-of-Fit Test for an SDE Model . . . . . . . . . . . . . . . . . . 183
5.6 Alternate Equivalent SDE Models . . . . . . . . . . . . . . . . . . . . . . . . . 186
Exercises . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 193
Computer Programs . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 199
Contents ix
References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 217
Basic Notation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 223
Index . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 225