神经元如何组成神经网络？(3)

上节课我们讲解了神经网络是如何解决验证码识别问题，这节课我们开始讲解神经网络的组成要素神经元，神经元具体是如何工作的；是如何组成神经网络；神经元的数学表达式。

* O$ _4 S4 D5 a- U* E% X' A

首先我们来看一下什么是神经元？我们以生物体的神经元来做类比，比如人脑的神经元是如何工作和构造的？首先我们看下面这副图。

神经元如何组成神经网络？(3)

如示意图所示，它是由树突、轴突，还有连接树突和轴突的细胞核来组成。树突负责接收其他神经元传过来的信号，由神经细胞核汇总树突传过来的信号量，如果信号量超过了一个阀值，则细胞核通过轴突把信号传递给其他神经元。

具体工作过程见下图：

9 S/ D! P9 O! g# b6 d9 u6 l

神经元如何组成神经网络？(3)

神经细胞接收到树突传过来的信号之后，就开始变红并判断是不是应该输出信号，如果输入的信号之和小于阈值则不输出任何信号，反之则输出大小固定的信号。为什么有阈值这个要求，其实也非常好理解，我们看喜剧之所以会笑，是因为神神经脑细胞传递出来的这个信号超过了我们的笑点，所以我们就笑了，笑点就是阈值。输出信号就是笑和不笑，也可以这样表示，笑用1表示，不笑用0表示。

整个过程看下图：

神经元如何组成神经网络？(3)

$ O* T- k7 R5 t( {
/ M: f5 M0 V3 x. d2 n* d8 z

整理神经元工作结构如下：

1. 来自其他多个神经元的信号之和成为神经元的输入。

2. 如果这个信号之和超过神经元固有的阈值，则点火。

3. 神经元的输出信号可以用数字信号0和1来表示，即使有多个输出端，其值也是同一个。

" n& z% }, X) T" j2 n7 M1 @6 m: L在上述3点基础上，我们尝试用数学的方式来表达神经元的工作结构。

我们可以用数学式表示输入信号，由于输入信号是来自相邻神经元的输出信号，所以根据第3点输入信号，也可以用有、无两种信息表示，因此用变量X表示，输入信号时如下所示。

# M% ~2 w+ w0 s6 c; W: V# c" o$ }. r8 o

神经元如何组成神经网络？(3)

+ P$ L6 x4 Z1 P" s
# H5 S+ w8 e$ x" P

接下来我们用数学式表示输出信号，根据第3点输出信号可以用来表示点火与否的“有”“无”两种信息来表示，因此用变量y表示输出信号如下所示。

7 [2 _1 V0 Z4 Q' P/ A

神经元如何组成神经网络？(3)

从第1点和第2点可知神经元点火与否是根据来自其他神经元的输入信号的和来判定的，但是这个求和的方式应该不是简单的求和，比如我们在看喜剧小品的过程中之所以会笑，是因为我们看到了演员浮夸的表演，而不仅仅是听到了台词，在看喜剧表演的过程中，很明显视神经细胞所发出的信号量要明显高于听觉带来的信号量，所以对于输入信号的和大脑是通过改变权重来求和的。那么这个改变权重来求和是如何用数学的方式来进行表达呢？仔细看下面这幅图。

神经元如何组成神经网络？(3)

我们得到了图中的公式1，W1X1+ W2X2 + W3X3 。

根据我们总结的第2点，神经元在信号之和超过阀值时点火不超过阀值时不点火，于是利用公式1，点火条件可以如下公式2表示。

' P9 k) g6 t: Q( [* t

下面呢，我们将点火条件公式2图形化，以神经元的输入信号之和为横轴神经元的输出信号，y为纵轴将公式2用图形表示出来，如下图所示。当输入信号之和小于θ时，y取值0，反之y取值1。

8 p2 ^/ u8 b* T! D

神经元如何组成神经网络？(3)

  M! d, N+ U. k  {) z0 ^9 z( t

如果我们要用一个函数来表示这个图形，就需要用到下面的单位阶跃函数。其图形如下图所示。

! I% F/ s/ ?. {5 `1 h/ [" W

神经元如何组成神经网络？(3)

' H0 K1 w0 E( W' X2 z

利用单位阶跃函数，公式2就可以用公式3来表示，

! n6 N' c" X; o. F( m
6 r- b) `1 c& b/ A( [4 p2 x+ z0 K

神经元如何组成神经网络？(3)

通过下面这个表格可以证明公式2和公式3是等价的。

% K$ ]7 Q; Y, l

神经元如何组成神经网络？(3)

给大家留个作业吧：

: E, l* \3 B4 E% E* `* ?

如果你是产品经理，面向算法工程师提出实现神经元的需求，你要怎么提？如果你是算法工程师，你需要得到什么样的需求，才能够给出神经元的数学表示？

6 g) |6 v. ]! v6 q) k1 D