|
深度前馈神经网络(FFNN) -又名多层感知器(MLP)
$ f( j* J! t* X. @2 l人工神经网络(ANN)由许多相互连接的神经元组成:
3 j0 H& Z; ~& N( T- _$ } 来自人工神经网络(ANN)的单个神经元) e6 o. z* d4 Z e8 _' |9 m0 ~2 d& C
每个神经元接受一些浮点数(例如1.0、0.5、-1.0),并将它们乘以一些称为权重的其他浮点数(例如0.7,0.6,1.4)(1.0 * 0.7 = 0.7,0.5 * 0.6 = 0.3, -1.0 * 1.4 = -1.4)。权重作为一种机制,用于关注或忽略某些输入。然后将加权输入(例如0.7 + 0.3 + -1.4 = -0.4)和偏差值(例如-0.4 + -0.1 = -0.5)相加。
9 I, {$ p( O4 h Q根据神经元的激活函数(y = f(x)),将求和后的值(x)转换为输出值(y)。以下是一些常用的激活函数:
/ {/ x/ C: @9 V2 h7 J# F 一些热门激活函数
% J7 z9 w7 }5 \: X: G例如-0.5→-0.05,如果我们使用Leaky ReLU激活函数:y = f(x) = f(-0.5) = max(0.1*-0.5, -0.5) = max(-0.05, -0.5) = -0.05, P6 p! I9 @( N& \
神经元的输出值(例如-0.05)通常是另一个神经元的输入。
; T% h. d3 P4 e" v) q ' C% |! s# S7 ~8 B) x/ o; k$ p
神经元的输出值经常作为人工神经网络(ANN)中其他神经元的输入
6 n( j+ U1 L0 I* i: B4 w Perceptron是最早的神经网络之一,仅由一个神经元组成
; C8 \' o0 T! {6 r s最早的神经网络之一被称为感知器,它只有一个神经元。
* g, e/ y5 Q7 J: ^$ T* C% J+ N4 O) A 感知器
1 G& D, Z3 ^4 ~" r+ ^( M3 Q, N感知器神经元的输出作为最终的预测。
4 L4 s, Z8 O; y - D8 z6 Z, v8 ~! u5 b8 |
6 S/ h0 G& n# j l: ?: x- @; E每个神经元都是一个线性二元分类器(例如输出值> = 0表示蓝色类,而输出值 |
本帖子中包含更多资源
您需要 登录 才可以下载或查看,没有账号?立即注册
×
|