深度学习构建块:映射,非线性和目标

深度学习包括以巧妙的方式组合具有非线性的线性。非线性的引入允许强大的模型。在本节中,我们将使用这些核心组件,组成一个目标函数,并查看模型是如何训练的。

映射

深度学习的一个工作核心就是映射,他是函数f(x),定义为:f(x) = Ax + b ,对于一个矩阵A和向量x及b。这里要学习的参数是 A 和 b。通常 b 被称为偏差项。

人话:就是高中数学里面的函数映射,y = ax+b, 这里就是学习参数a和b。

PyTorch和大多数其他深度学习框架的工作方式与传统的线性代数有一点区别。它映射输入的行而不是列。也就是说,下面输出的第i行是A下输入的第i行的映射,加上偏差项。请看下面的例子。

人话:这里就是线性代数里面的的外积或叉乘。

import torchimport torch.nn as nnimp
收藏 打印