8.前向传播、反向传播、计算图

内容概述：

• 前向传播
• 反向传播
• 计算图

8.1前向传播

前向传播是指从输入层开始，逐层计算输出，直到得到最终预测结果的过程。 按照计算图的拓扑顺序，从输入层开始逐层计算输出，直到得到最终预测结果的过程。每一层的输出作为下一层的输入，依次进行计算，最终得到模型的预测值。前向传播的核心是通过计算图来组织和管理计算过程，确保每个操作的输入和输出正确连接，最终实现模型的预测功能。

8.2反向传播

反向传播是指从输出层开始，逐层计算误差梯度，反向传播误差，更新模型参数的过程。 反向传播是指从输出层开始，逐层计算误差梯度，反向传播误差，更新模型参数的过程。通过链式法则，计算每个参数对损失函数的贡献，并根据这些贡献来调整参数，以最小化损失函数。反向传播的核心是通过计算图来组织和管理计算过程，确保每个操作的输入和输出正确连接，最终实现模型的训练功能。

8.3计算图

计算图是指将计算过程表示为一个有向图，其中节点表示操作或变量，边表示数据流动的路径。

计算图是指将计算过程表示为一个有向图，其中节点表示操作或变量，边表示数据流动的路径。计算图可以清晰地展示计算过程中的依赖关系，帮助我们理解和分析模型的结构和行为。在深度学习中，计算图是实现前向传播和反向传播的基础，通过计算图，我们可以高效地进行自动微分，计算梯度，并更新模型参数。