一、随机变量
1、概率密度函数
二、高斯分布（最美分布）
1、一元概率密度
2、多远概率密度
3、中心极限定理
独立同分布的随机变量，求和以后，依概率收敛于高斯分布。一些杂乱无章的情况，加起来却服从高斯分布。
三、贝叶斯公式（机器学习中最重要的公式）
通
常
，
P
(
A
|
B
)
6
=
P
(
B
|
A
)
，
但
是
如
何
确
定
两
者
的
关
系
？（
溯源
）
I
P
(
A
|
B
) =
P
(
A
∩
B
)
P
(
B
)
，
同
样
有
P
(
B
|
A
) =
P
(
A
∩
B
)
P
(
A
)
，
因
此
有
P
(
A
|
B
)
P
(
B
) =
P
(
A
∩
B
) =
P
(
B
|
A
)
P
(
A
)
I
可
得
P
(
B
|
A
) =
P
(
A
|
B
)
P
(
B
)
P
(
A
)
和
P
(
A
|
B
) =
P
(
B
|
A
)
P
(
A
)
P
(
B
)
I
先
验
概
率
，
后
验
概
率
解
释
二
则
一
：
P
(
B
) =
P
(
A
,
B
)+
P
(
A
C
,
B
) =
P
(
B
|
A
)
P
(
A
)+
P
(
B
|
A
C
)
P
(
A
C
)
故
有
P
(
A
|
B
) =
P
(
B
|
A
)
P
(
A
)
P
(
B
|
A
)
P
(
A
)+
P
(
B
|
A
C
)
P
(
A
C
)
(9)
概
率
密
度
形式
：
f
(
x
|
y
) =
f
(
x
,
y
)
f
(
y
)
=
f
(
y
|
x
)
f
(
x
)
f
(
y
)
=
f
(
y
|
x
)
f
(
x
)
∫
∞
−
∞
f
(
y
|
x
)
f
(
x
)
dx
通
常
，
P
(
A
|
B
)
6
=
P
(
B
|
A
)
，
但
是
如
何
确
定
两
者
的
关
系
？（
溯源
）
I
P
(
A
|
B
) =
P
(
A
∩
B
)
P
(
B
)
，
同
样
有
P
(
B
|
A
) =
P
(
A
∩
B
)
P
(
A
)
，
因
此
有
P
(
A
|
B
)
P
(
B
) =
P
(
A
∩
B
) =
P
(
B
|
A
)
P
(
A
)
I
可
得
P
(
B
|
A
) =
P
(
A
|
B
)
P
(
B
)
P
(
A
)
和
P
(
A
|
B
) =
P
(
B
|
A
)
P
(
A
)
P
(
B
)
I
先
验
概
率
，
后
验
概
率
解
释
二
则
一
：
P
(
B
) =
P
(
A
,
B
)+
P
(
A
C
,
B
) =
P
(
B
|
A
)
P
(
A
)+
P
(
B
|
A
C
)
P
(
A
C
)
故
有
P
(
A
|
B
) =
P
(
B
|
A
)
P
(
A
)
P
(
B
|
A
)
P
(
A
)+
P
(
B
|
A
C
)
P
(
A
C
)
(9)
概
率
密
度
形式
：
f
(
x
|
y
) =
f
(
x
,
y
)
f
(
y
)
=
f
(
y
|
x
)
f
(
x
)
f
(
y
)
=
f
(
y
|
x
)
f
(
x
)
∫
∞
−
∞
f
(
y
|
x
)
f
(
x
)
dx