一、神经网络基础
咱先聊聊神经网络的基础概念。神经网络,简单来说,就是模仿人类大脑神经元结构构建的计算模型。它由大量的节点(也就是神经元)和连接这些节点的边组成。这些节点就像大脑里的一个个小处理器,而边则负责传递信息。
神经元
神经元是神经网络的基本单元。它接收来自其他神经元的输入信号,然后根据这些输入信号进行计算,最后输出一个结果。比如,一个神经元接收了三个输入信号 x1、x2、x3,每个输入信号都有对应的权重 w1、w2、w3,神经元会把输入信号和权重相乘后相加,再加上一个偏置 b,得到一个总和 z = w1x1 + w2x2 + w3*x3 + b 。然后,这个总和会经过一个激活函数,得到最终的输出。
激活函数
激活函数可太重要了!它给神经网络引入了非线性因素。要是没有激活函数,不管神经网络有多少层,它最终都只是一个线性变换,根本无法处理复杂的问题。常见的激活函数有 Sigmoid、ReLU、Tanh 等。Sigmoid 函数把输入值映射到 0 到 1 之间,公式是\(\sigma(z) = \frac{