一些激活函数:
为什么需要非线性的激活函数:
Stochastic Gradient Descent 随机梯度下降
Gradients:
Jacobian Matrix: Generalization of the Gradient
Chain Rule: