定义1
设
是数域P上线性变换，W是V的子空间。如果W中的向量在下的像仍在W中，换句话说，对于W中任一向量
，有
我们就称W是的不变子空间，简称
子空间。
例1：整个空间V和零子空间
，对于每个线性变换来说都是子空间。
例2：的值域与核都是的子空间。
例3：若线性变换与
是可交换的，则的核与值域都是子空间。
在的核V中任取一向量,则
所以
在下的像是零,即
.这就证明了V。是子空间，在的值域
中任取一向量
则
因此也是子空间。
因为的多项式
是和可交换的，所以的值域与核都是子空间。
例4：任何一个子空间都是数乘变换的不变子空间。
的属于特征值
的特征子空间
也是的不变子空间，子空间的和与交还是子空间。
设是线性空间V的线性变换，W是的不变子空间，由于W中向量在下的像仍在W中，这就使得有可能不必在整个空间V中来
考虑，而只在不变子空间W中考虑，即把看成是W的一个线性变换，称为在不变子空间W上引起的变换，为了区别起见，
用符号
来表示它;但是在很多情况下，仍然可用来表示而不致引起混淆.
和的异同：
是V的线性变换,V中每个向量在下都有确定的像;是不变子空间W上的线性变换,对于W中任一向量，有
但是对于V中不属于W的向量
来说，
是没有意义的.
任一线性变换在它的核上引起的变换就是零变换，而在特征子空间上引起的变换是数乘变换.
不变子空间与线性变换矩阵花间之间的关系。
1） 设是n维线性空间V的线性变换,W是V的子空间.在W中取一组基
并且把它扩充成V的一组基
那么,在这组基下的矩阵就具有下列形状
并且左上角的k级矩阵
就是在W的基
下的矩阵.
反之,如果在基(1)下的矩阵是(2),那么不难证明,由生成的子空间W是的不变子空间.
2）设V分解成若干个子空间的直和:
在每一个子空间
中取基
并把它们合并起来成为V的一组基
.则在这组基下,的矩阵具有准对角形状
其中
就是
在基（3）下的矩阵。
反之，如果线性变换在基下的矩阵是准对角形（4），则有（3）生成的子空间是子空间。
应用哈密顿-凯莱定理将空间V按特征值分解成不变子空间的直和。
定理
设线性变换的特征多项式为
它可分解成一次因式的乘积
则V可分解为成不变子
空间的直和
其中
定义2
V，，
如定理，我们称为的属于特征值
的根子空间，常记为
