Contents
1 Introduction. 4
2 Review of probability. 5
2.1 Properties of expectation. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5
2.2 Convergence of random variables. . . . . . . . . . . . . . . . . . . . . . . . . 5
2.3 Convergence in probability. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6
2.4 Norms. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7
2.5 Information and independence. . . . . . . . . . . . . . . . . . . . . . . . . . 8
2.6 Conditional expectation. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9
3 Continuous time stochastic processes. 13
3.1 Examples. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13
3.2 Filtrations. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14
3.3 Stopping times. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15
3.4 Brownian motion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16
3.5 Poisson process . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16
4 Martingales. 18
4.1 Optional sampling theorem and Doob’s inequalities. . . . . . . . . . . . . . . 18
4.2 Local martingales. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19
4.3 Quadratic variation. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20
4.4 Martingale convergence theorem. . . . . . . . . . . . . . . . . . . . . . . . . 21
5 Stochastic integrals. 22
5.1 Definition of the stochastic integral. . . . . . . . . . . . . . . . . . . . . . . . 22
5.2 Conditions for existence. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23
5.3 Semimartingales. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 28
5.4 Change of time variable. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30
5.5 Change of integrator. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31
5.6 Localization . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32
5.7 Approximation of stochastic integrals. . . . . . . . . . . . . . . . . . . . . . . 32
5.8 Connection to Protter’s text. . . . . . . . . . . . . . . . . . . . . . . . . . . . 33
6 Covariation and Itˆo’s formula. 35
6.1 Quadratic covariation. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 35
6.2 Continuity of the quadratic variation. . . . . . . . . . . . . . . . . . . . . . . 36
6.3 Ito’s formula. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 38
6.4 The product rule and integration by parts. . . . . . . . . . . . . . . . . . . . 40
6.5 Itˆo’s formula for vector-valued semimartingales. . . . . . . . . . . . . . . . . 41
7 Stochastic Differential Equations 42
7.1 Examples. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 42
7.2 Gronwall’s inequality and uniqueness for ODEs. . . . . . . . . . . . . . . . . 42
7.3 Uniqueness of solutions of SDEs. . . . . . . . . . . . . . . . . . . . . . . . . 44
7.4 A Gronwall inequality for SDEs . . . . . . . . . . . . . . . . . . . . . . . . . 45
7.5 Existence of solutions. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 48
7.6 Moment estimates. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 50
8 Stochastic differential equations for diffusion processes. 53
8.1 Generator for a diffusion process. . . . . . . . . . . . . . . . . . . . . . . . . 53
8.2 Exit distributions in one dimension. . . . . . . . . . . . . . . . . . . . . . . . 54
8.3 Dirichlet problems. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 55
8.4 Harmonic functions. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 55
8.5 Parabolic equations. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 56
8.6 Properties of X(t, x). . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 56
8.7 Markov property. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 56
8.8 Strong Markov property. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 58
8.9 Equations for probability distributions. . . . . . . . . . . . . . . . . . . . . . 59
8.10 Stationary distributions. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 60
8.11 Diffusion with a boundary. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 61
9 Poisson random measures 63
9.1 Poisson random variables . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 63
9.2 Poisson sums of Bernoulli random variables . . . . . . . . . . . . . . . . . . . 64
9.3 Poisson random measures . . . . . . . . . . . . . . . . . . . . . . . . . . . . 65
9.4 Integration w.r.t. a Poisson random measure . . . . . . . . . . . . . . . . . . 66
9.5 Extension of the integral w.r.t. a Poisson random measure . . . . . . . . . . 68
9.6 Centered Poisson random measure . . . . . . . . . . . . . . . . . . . . . . . . 71
9.7 Time dependent Poisson random measures . . . . . . . . . . . . . . . . . . . 74
9.8 Stochastic integrals for time-dependent Poisson random measures . . . . . . 75
10 Limit theorems. 79
10.1 Martingale CLT. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 79
10.2 Sequences of stochastic differential equations. . . . . . . . . . . . . . . . . . 82
10.3 Approximation of empirical CDF. . . . . . . . . . . . . . . . . . . . . . . . . 83
10.4 Diffusion approximations for Markov chains. . . . . . . . . . . . . . . . . . . 83
10.5 Convergence of stochastic integrals. . . . . . . . . . . . . . . . . . . . . . . . 86
11 Reflecting diffusion processes. 87
11.1 The M/M/1 Queueing Model. . . . . . . . . . . . . . . . . . . . . . . . . . . 87
11.2 The G/G/1 queueing model. . . . . . . . . . . . . . . . . . . . . . . . . . . . 89
11.3 Multidimensional Skorohod problem. . . . . . . . . . . . . . . . . . . . . . . 89
11.4 The Tandem Queue. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 91
12 Change of Measure 93
12.1 Applications of change-of-measure. . . . . . . . . . . . . . . . . . . . . . . . 93
12.2 Bayes Formula. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 94
12.3 Local absolute continuity. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 95
12.4 Martingales and change of measure. . . . . . . . . . . . . . . . . . . . . . . . 95
12.5 Change of measure for Brownian motion. . . . . . . . . . . . . . . . . . . . . 96
12.6 Change of measure for Poisson processes. . . . . . . . . . . . . . . . . . . . . 97
13 Finance. 99
13.1 Assets that can be traded at intermediate times. . . . . . . . . . . . . . . . . 100
13.2 First fundamental “theorem”. . . . . . . . . . . . . . . . . . . . . . . . . . . 103
13.3 Second fundamental “theorem”. . . . . . . . . . . . . . . . . . . . . . . . . . 105
14 Filtering. 106
15 Problems. 109