深度学习简介：前馈神经网络FFNN（又名多层感知器MLP）

qdzs2000

深度前馈神经网络(FFNN) -又名多层感知器(MLP)
4 E( n2 J# n  M6 f+ U8 s9 v0 y( X( D人工神经网络(ANN)由许多相互连接的神经元组成:
3 i! L8 \/ d4 A5 y- @( g4 m( a: U0 o来自人工神经网络（ANN）的单个神经元
每个神经元接受一些浮点数(例如1.0、0.5、-1.0)，并将它们乘以一些称为权重的其他浮点数（例如0.7,0.6,1.4）（1.0 * 0.7 = 0.7,0.5 * 0.6 = 0.3， -1.0 * 1.4 = -1.4）。权重作为一种机制，用于关注或忽略某些输入。然后将加权输入(例如0.7 + 0.3 + -1.4 = -0.4)和偏差值(例如-0.4 + -0.1 = -0.5)相加。
根据神经元的激活函数(y = f(x))，将求和后的值(x)转换为输出值(y)。以下是一些常用的激活函数:
' o+ r" d) `, e0 `+ G" t/ P. H0 t8 U一些热门激活函数
+ x4 \* `: o/ M" Z+ r# y例如-0.5→-0.05，如果我们使用Leaky ReLU激活函数：y = f(x) = f(-0.5) = max(0.1*-0.5， -0.5) = max(-0.05， -0.5) = -0.05
6 C% z) V6 h1 t( K. E* C# N神经元的输出值（例如-0.05）通常是另一个神经元的输入。
& @( D! n" l- {+ @! y2 ~
神经元的输出值经常作为人工神经网络（ANN）中其他神经元的输入
. f- n, s* F; y5 q# m  k) p) {Perceptron是最早的神经网络之一，仅由一个神经元组成
  M* j  A% i6 U$ ~$ t最早的神经网络之一被称为感知器，它只有一个神经元。
1 h3 s0 j' `6 R1 @! B* w感知器
9 I3 Y$ c* O3 n# J感知器神经元的输出作为最终的预测。


1 p# Y' v& R  R- g+ l每个神经元都是一个线性二元分类器（例如输出值> = 0表示蓝色类，而输出值