wpBeta -
人工神经网络有很多模型，但是日前应用最广、基本思想最直观、最容易被理解的是多层前馈神经网络及误差逆传播学习算法（Error Back-Prooaeation），简称为BP网络。
在1986年以Rumelhart和McCelland为首的科学家出版的《Parallel Distributed Processing》一书中，完整地提出了误差逆传播学习算法，并被广泛接受。多层感知网络是一种具有三层或三层以上的阶层型神经网络。典型的多层感知网络是三层、前馈的阶层网络（图4.1），即：输入层、隐含层（也称中间层）、输出层，具体如下：
图4.1 三层BP网络结构
（1）输入层
输入层是网络与外部交互的接口。一般输入层只是输入矢量的存储层，它并不对输入矢量作任何加工和处理。输入层的神经元数目可以根据需要求解的问题和数据表示的方式来确定。一般而言，如果输入矢量为图像，则输入层的神经元数目可以为图像的像素数，也可以是经过处理后的图像特征数。
（2）隐含层
1989年，Robert Hecht Nielsno证明了对于任何在闭区间内的一个连续函数都可以用一个隐层的BP网络来逼近，因而一个三层的BP网络可以完成任意的n维到m维的映射。增加隐含层数虽然可以更进一步的降低误差、提高精度，但是也使网络复杂化，从而增加了网络权值的训练时间。误差精度的提高也可以通过增加隐含层中的神经元数目来实现，其训练效果也比增加隐含层数更容易观察和调整，所以一般情况应优先考虑增加隐含层的神经元个数，再根据具体情况选择合适的隐含层数。
（3）输出层
输出层输出网络训练的结果矢量，输出矢量的维数应根据具体的应用要求来设计，在设计时，应尽可能减少系统的规模，使系统的复杂性减少。如果网络用作识别器，则识别的类别神经元接近1，而其它神经元输出接近0。
以上三层网络的相邻层之间的各神经元实现全连接，即下一层的每一个神经元与上一层的每个神经元都实现全连接，而且每层各神经元之间无连接，连接强度构成网络的权值矩阵W。
BP网络是以一种有教师示教的方式进行学习的。首先由教师对每一种输入模式设定一个期望输出值。然后对网络输入实际的学习记忆模式，并由输入层经中间层向输出层传播（称为“模式顺传播”）。实际输出与期望输出的差即是误差。按照误差平方最小这一规则，由输出层往中间层逐层修正连接权值，此过程称为“误差逆传播”（陈正昌，2005）。所以误差逆传播神经网络也简称BP（Back Propagation）网。随着“模式顺传播”和“误差逆传播”过程的交替反复进行。网络的实际输出逐渐向各自所对应的期望输出逼近，网络对输入模式的响应的正确率也不断上升。通过此学习过程，确定下各层间的连接权值后。典型三层BP神经网络学习及程序运行过程如下（标志渊，2006）：
（1）首先，对各符号的形式及意义进行说明：
网络输入向量Pk=（a1，a2，...，an）；
网络目标向量Tk=（y1，y2，...，yn）；
中间层单元输入向量Sk=（s1，s2，...，sp），输出向量Bk=（b1，b2，...，bp）；
输出层单元输入向量Lk=（l1，l2，...，lq），输出向量Ck=（c1，c2，...，cq）；
输入层至中间层的连接权wij，i=1，2，...，n，j=1，2，...p；
中间层至输出层的连接权vjt，j=1，2，...，p，t=1，2，...，p；
中间层各单元的输出阈值θj，j=1，2，...，p；
输出层各单元的输出阈值γj，j=1，2，...，p；
参数k=1，2，...，m。
（2）初始化。给每个连接权值wij、vjt、阈值θj与γj赋予区间（-1，1）内的随机值。
（3）随机选取一组输入和目标样本
提供给网络。
（4）用输入样本
、连接权wij和阈值θj计算中间层各单元的输入sj，然后用sj通过传递函数计算中间层各单元的输出bj。
基坑降水工程的环境效应与评价方法
bj=f（sj） j=1，2，...，p （4.5）
（5）利用中间层的输出bj、连接权vjt和阈值γt计算输出层各单元的输出Lt，然后通过传递函数计算输出层各单元的响应Ct。
基坑降水工程的环境效应与评价方法
Ct=f（Lt） t=1，2，...，q （4.7）
（6）利用网络目标向量
，网络的实际输出Ct，计算输出层的各单元一般化误差
。
基坑降水工程的环境效应与评价方法
（7）利用连接权vjt、输出层的一般化误差dt和中间层的输出bj计算中间层各单元的一般化误差
。
基坑降水工程的环境效应与评价方法
（8）利用输出层各单元的一般化误差
与中间层各单元的输出bj来修正连接权vjt和阈值γt。
基坑降水工程的环境效应与评价方法
（9）利用中间层各单元的一般化误差
，输入层各单元的输入Pk=（a1，a2，...，an）来修正连接权wij和阈值θj。
基坑降水工程的环境效应与评价方法
（10）随机选取下一个学习样本向量提供给网络，返回到步骤（3），直到m个训练样本训练完毕。
（11）重新从m个学习样本中随机选取一组输入和目标样本，返回步骤（3），直到网路全局误差E小于预先设定的一个极小值，即网络收敛。如果学习次数大于预先设定的值，网络就无法收敛。
（12）学习结束。
可以看出，在以上学习步骤中，（8）、（9）步为网络误差的“逆传播过程”，（10）、（11）步则用于完成训练和收敛过程。
通常，经过训练的网络还应该进行性能测试。测试的方法就是选择测试样本向量，将其提供给网络，检验网络对其分类的正确性。测试样本向量中应该包含今后网络应用过程中可能遇到的主要典型模式（宋大奇，2006）。这些样本可以直接测取得到，也可以通过仿真得到，在样本数据较少或者较难得到时，也可以通过对学习样本加上适当的噪声或按照一定规则插值得到。为了更好地验证网络的泛化能力，一个良好的测试样本集中不应该包含和学习样本完全相同的模式（董军，2007）。
meira -
原文链接：http://tecdat.cn/?p=19936
在本教程中，您将学习如何在R语言中创建神经网络模型。
神经网络（或人工神经网络）具有通过样本进行学习的能力。人工神经网络是一种受生物神经元系统启发的信息处理模型。它由大量高度互连的处理元件（称为神经元）组成，以解决问题。它遵循非线性路径，并在整个节点中并行处理信息。神经网络是一个复杂的自适应系统。自适应意味着它可以通过调整输入权重来更改其内部结构。
该神经网络旨在解决人类容易遇到的问题和机器难以解决的问题，例如识别猫和狗的图片，识别编号的图片。这些问题通常称为模式识别。它的应用范围从光学字符识别到目标检测。
本教程将涵盖以下主题：
神经网络概论
正向传播和反向传播
激活函数
R中神经网络的实现
案例
利弊
结论
识别函数 通过激活函数 Identity，节点的输入等于输出。它完美拟合于潜在行为是线性（与线性回归相似）的任务。当存在非线性，单独使用该激活函数是不够的，但它依然可以在最终输出节点上作为激活函数用于回归任务。。
在 二元阶梯函数（Binary Step Function）中，如果Y的值高于某个特定值（称为阈值），则输出为True（或已激活），如果小于阈值，则输出为false（或未激活）。这在分类器中非常有用。
S形函数 称为S形函数。逻辑和双曲正切函数是常用的S型函数。有两种：
Sigmoid函数 是一种逻辑函数，其中输出值为二进制或从0到1变化。
tanh函数 是一种逻辑函数，其输出值在-1到1之间变化。也称为双曲正切函数或tanh。
ReLU函数又称为修正线性单元（Rectified Linear Unit），是一种分段线性函数，其弥补了sigmoid函数以及tanh函数的梯度消失问题。它是最常用的激活函数。对于x的负值，它输出0。
- #创建训练数据集# 在这里，把多个列或特征组合成一组数据test=data.frame(专业知识,沟通技能得分)让我们构建神经网络分类器模型。
- 首先，导入神经网络库，并通过传递标签和特征的参数集，数据集，隐藏层中神经元的数量以及误差计算来创建神经网络分类器模型。
- # 拟合神经网络nn(成绩~专业知识+沟通技能得分, hidden=3,act.fct = "logistic",linear.output = FALSE)
- $model.list$model.list$response[1] "成绩"$model.list$variables[1] "专业知识" "沟通技能得分"$err.fctfunction (x, y) {1/2 * (y - x)^2}$act.fctfunction (x) {1/(1 + exp(-x))}$net.result$net.result[[1]][,1][1,] 0.980052980[2,] 0.001292503[3,] 0.032268860[4,] 0.032437961[5,] 0.963346989[6,] 0.977629865$weights$weights[[1]]$weights[[1]][[1]][,1] [,2] [,3][1,] 3.0583343 3.80801996 -0.9962571[2,] 1.2436662 -0.05886708 1.7870905[3,] -0.5240347 -0.03676600 1.8098647$weights[[1]][[2]][,1][1,] 4.084756[2,] -3.807969[3,] -11.531322[4,] 3.691784$generalized.weights$generalized.weights[[1]][,1] [,2][1,] 0.15159066 0.09467744[2,] 0.01719274 0.04320642[3,] 0.15657354 0.09778953[4,] -0.46017408 0.34621212[5,] 0.03868753 0.02416267[6,] -0.54248384 0.37453006$startweights$startweights[[1]]$startweights[[1]][[1]][,1] [,2] [,3][1,] 0.1013318 -1.11757311 -0.9962571[2,] 0.8583704 -0.15529112 1.7870905[3,] -0.8789741 0.05536849 1.8098647$startweights[[1]][[2]][,1][1,] -0.1283200[2,] -1.0932526[3,] -1.0077311[4,] -0.5212917$result.matrix[,1]error 0.002168460reached.threshold 0.007872764steps 145.000000000Intercept.to.1layhid1 3.058334288专业知识.to.1layhid1 1.243666180沟通技能得分.to.1layhid1 -0.524034687Intercept.to.1layhid2 3.808019964专业知识.to.1layhid2 -0.058867076沟通技能得分.to.1layhid2 -0.036766001Intercept.to.1layhid3 -0.996257068专业知识.to.1layhid3 1.787090472沟通技能得分.to.1layhid3 1.809864672Intercept.to.成绩 4.0847555221layhid1.to.成绩 -3.8079690871layhid2.to.成绩 -11.5313215341layhid3.to.成绩 3.691783805
- # 绘图神经网络plot(nn)
- # 创建测试集test=data.frame(专业知识,沟通技能得分)
- ## 使用神经网络进行预测Pred$result
- 0.99282020800.33355439250.9775153014
- # 将概率转换为设置阈值0.5的二进制类别pred <- ifelse(prob>0.5, 1, 0)pred
- 101
模式识别： 神经网络非常适合模式识别问题，例如面部识别，物体检测，指纹识别等。
异常检测： 神经网络擅长异常检测，它们可以轻松检测出不适合常规模式的异常模式。
时间序列预测： 神经网络可用于预测时间序列问题，例如股票价格，天气预报。
自然语言处理： 神经网络在自然语言处理任务中提供了广泛的应用，例如文本分类，命名实体识别（NER），词性标记，语音识别和拼写检查。
神经网络概论
神经网络是受人脑启发执行特定任务的算法。它是一组连接的输入/输出单元，其中每个连接都具有与之关联的权重。在学习阶段，网络通过调整权重进行学习，来预测给定输入的正确类别标签。
人脑由数十亿个处理信息的神经细胞组成。每个神经细胞都认为是一个简单的处理系统。被称为生物神经网络的神经元通过电信号传输信息。这种并行的交互系统使大脑能够思考和处理信息。一个神经元的树突接收来自另一个神经元的输入信号，并根据这些输入将输出响应到某个其他神经元的轴突。
请点击输入图片描述
树突接收来自其他神经元的信号。单元体将所有输入信号求和以生成输出。当总和达到阈值时通过轴突输出。突触是神经元相互作用的一个点。它将电化学信号传输到另一个神经元。
请点击输入图片描述
请点击输入图片描述
x1，x2 .... xn是输入变量。w1，w2 .... wn是各个输入的权重。b是偏差，将其与加权输入相加即可形成输入。偏差和权重都是神经元的可调整参数。使用一些学习规则来调整参数。神经元的输出范围可以从-inf到+ inf。神经元不知道边界。因此，我们需要神经元的输入和输出之间的映射机制。将输入映射到输出的这种机制称为激活函数。
前馈和反馈人工神经网络
人工神经网络主要有两种类型：前馈和反馈人工神经网络。前馈神经网络是非递归网络。该层中的神经元仅与下一层中的神经元相连，并且它们不形成循环。在前馈中，信号仅在一个方向上流向输出层。
反馈神经网络包含循环。通过在网络中引入环路，信号可以双向传播。反馈周期会导致网络行为根据其输入随时间变化。反馈神经网络也称为递归神经网络。
请点击输入图片描述
激活函数
激活函数定义神经元的输出。激活函数使神经网络具有非线性和可表达性。有许多激活函数：
请点击输入图片描述
在R中实现神经网络
创建训练数据集
我们创建数据集。在这里，您需要数据中的两种属性或列：特征和标签。在上面显示的表格中，您可以查看学生的专业知识，沟通技能得分和学生成绩。因此，前两列（专业知识得分和沟通技能得分）是特征，第三列（学生成绩）是二进制标签。
这里得到模型的因变量、自变量、损失函数、激活函数、权重、结果矩阵（包含达到的阈值，误差，AIC和BIC以及每次重复的权重的矩阵）等信息：
绘制神经网络
让我们绘制您的神经网络模型。
请点击输入图片描述
创建测试数据集
创建测试数据集：专业知识得分和沟通技能得分
预测测试集的结果
使用计算函数预测测试数据的概率得分。
现在，将概率转换为二进制类。
预测结果为1,0和1。
利弊
神经网络更灵活，可以用于回归和分类问题。神经网络非常适合具有大量输入（例如图像）的非线性数据集，可以使用任意数量的输入和层，可以并行执行工作。
还有更多可供选择的算法，例如SVM，决策树和回归算法，这些算法简单，快速，易于训练并提供更好的性能。神经网络更多的是黑盒子，需要更多的开发时间和更多的计算能力。与其他机器学习算法相比，神经网络需要更多的数据。NN仅可用于数字输入和非缺失值数据集。一位著名的神经网络研究人员说： “神经网络是解决任何问题的第二好的方法。最好的方法是真正理解问题。”
神经网络的用途
神经网络的特性提供了许多应用方面，例如：
最受欢迎的见解
1.r语言用神经网络改进nelson-siegel模型拟合收益率曲线分析
2.r语言实现拟合神经网络预测和结果可视化
3.python用遗传算法-神经网络-模糊逻辑控制算法对乐透分析
4.用于nlp的python：使用keras的多标签文本lstm神经网络分类
5.用r语言实现神经网络预测股票实例
6.R语言基于Keras的小数据集深度学习图像分类
7.用于NLP的seq2seq模型实例用Keras实现神经机器翻译
8.python中基于网格搜索算法优化的深度学习模型分析糖
9.matlab使用贝叶斯优化的深度学习
余辉 -
科普中国·科学百科：BP神经网络
LuckySXyd -
Back Propagation
BP (Back Propagation)神经网络，即误差反传误差反向传播算法的学习过程，由信息的正向传播和误差的反向传播两个过程组成。输入层各神经元负责接收来自外界的输入信息，并传递给中间层各神经元；中间层是内部信息处理层，负责信息变换，根据信息变化能力的需求，中间层（隐含层）可以设计为单隐层或者多隐层结构；最后一个隐层传递到输出层各神经元的信息，经进一步处理后，完成一次学习的正向传播处理过程，由输出层向外界输出信息处理结果。
神经网络很多种，BP神经网络最常用。