自动微分是什么?(续)都知道DL中参数是通过梯度下降迭代求得的,那梯度又是如何计算的呢?自动微分!说到自动微分自然离不开计算图。本系列文章将深入讲解现代深度学习框架中扩展计算图的实现细节,并尝试在NumPy的基础上动手实现一个可以求解自动微分的计算图。
自动微分是什么?都知道DL中参数是通过梯度下降迭代求得的,那梯度又是如何计算的呢?自动微分!说到自动微分自然离不开计算图。本系列文章将深入讲解现代深度学习框架中扩展计算图的实现细节,并尝试在NumPy的基础上动手实现一个可以求解自动微分的计算图。