1.深度学习的基本流程是
设计神经网络结构，形成计算图，选择一个合适的损失函数，使用损失函数衡量预测值与真实值之间的差异。具体到一轮计算：我们需要将一个批次的数据喂给神经网络，神经网络前向传播（Forward），求得损失函数的值；然后是反向传播（Back Propagation）过程：求得损失函数对模型各参数的导数，利用梯度下降法来更新模型各参数。深度学习框架的最重要的一项功能就是帮我们完成了求导的过程。
2。关于微积分的几点思考
3.微分，差分，变分
其中变分法在NLP中LDA中也有应用和设计。
4.最小二乘法
基于 均方误差最小化来进行模型求解的方法成为“最小二乘法”。