学习笔记《最优化理论与算法》（一）

从本文开始，按课堂笔记逐章节梳理《最优化理论与算法第二版》（陈宝林）。同时，逐章节采用MATLAB实现优化算法（参考《精通最优化算法》。

小目标：多琢磨几个算法，多跑跑代码，多做做题。

第一章 引言

第一节

介绍目标函数与可行域的概念：

第二节

1. 线性规划的定义：
   目标函数和约束均为线性，则可以称之为线性规划。
2. 线性表达式重要的性质：

• 线性可叠加，叠加之后仍然线性
• 线性表达可以转化为矩阵表达，方便计算
  

3. 表达式的等价表达
   既可以是线性的不等式，也可以转化为矩阵形式。下面一个表达形式要牢记：
   

第三节

三个重要的概念：

1. 向量范数
2. 矩阵范数
3. 梯度
   

第四节