一个典型的残差网络结构如图所示，该网络由由个残差模块堆叠而成，第个残差模块可以按照以下关系将输入变换为：记该网络所接的损失函数为：为了便于理解残差网络，我们可以对以上损失函数进行递归的泰勒展开，那么当展开到第个block时，损失函数的表达式为：

单选题

一个典型的残差网络结构如图所示，该网络由由 $l$ 个残差模块堆叠而成，第 $i$ 个残差模块可以按照以下关系将输入 $h_i$ 变换为 $h_{i+1}$ ：

$h_{i+1}=h_i+F_i(h_i)$

记该网络所接的损失函数 $L$ 为：

$L(h_l)=L(h_{l-1}+F_{l-1}(h_{l-1}))$

为了便于理解残差网络，我们可以对以上损失函数进行递归的泰勒展开，那么当展开到第 $i$ 个block时，损失函数 $L$ 的表达式为：

$L(h_l)=L(h_i)+\sum_{j=1}^{l-1}h_j\frac{\partial L(h_j)}{\partial F_j(h_j)}+o(F_j^2(h_j))$

$L(h_l)=L(h_i)+\sum_{j=1}^{l-1}F_j(h_j)\frac{\partial L(h_j)}{\partial F_j(h_j)}+o(F_j^2(h_j))$

$L(h_l)=L(h_i)+\sum_{j=1}^{l-1}h_j(1+\frac{\partial L(h_j)}{\partial h_j})+o(F_j^2(h_j))$

其余选项皆错

上一题

下一题

题目信息

校招真题

正确率

点击

我的笔记