哪种算法的非线性映射能力比较好 数据降维 线性映射和非线性映射的区别

哪种算法的非线性映射能力比较好

我自己总结的：
1、神经网络算法隐含层的选取
1.1 构造法
首先运用三种确定隐含层层数的方法得到三个隐含层层数，找到最小值和最大值，然后从最小值开始逐个验证模型预测误差，直到达到最大值。最后选取模型误差最小的那个隐含层层数。该方法适用于双隐含层网络。
1.2 删除法
单隐含层网络非线性映射能力较弱，相同问题，为达到预定映射关系，隐层节点要多一些，以增加网络的可调参数，故适合运用删除法。
1.3黄金分割法
算法的主要思想：首先在[a,b]内寻找理想的隐含层节点数，这样就充分保证了网络的逼近能力和泛化能力。为满足高精度逼近的要求，再按照黄金分割原理拓展搜索区间，即得到区间[b,c]（其中b=0.619*（c-a） a），在区间[b,c]中搜索最优，则得到逼近能力更强的隐含层节点数，在实际应用根据要求，从中选取其一即可。

数据降维 线性映射和非线性映射的区别

神经元的广泛互联与并行工作必然使整个网络呈现出高度的非线性特点。在客观世界中，许多系统的输入与输出之间存在着复杂的非线性关系，对于这类系统，往往很难用传统的数理方法建立其数学模型。设计合理地神经网络通过对系统输入输出样本对进行自动学习，能够以任意精度逼近任何复杂的非线性映射。神经网络的这一优点能使其可以作为多维非线性函数的通用数学模型。该模型的表达式非解析的，输入输出数据之间的映射规则由神经网络在学习阶段自动抽取并分布式存储在网络的所有连接中。具有非线性映射功能的神经网络应用十分广阔，几乎涉及所有领域。

SVM中为什么要使用非线性映射将输入向量映射到高维

lim[(x a)/(x-a)]^x
=lim[1 2a/(x-a)]^x 设 t = 2a/(x-a)，则 x = 2a/t a。当 x→∞时，t→0
=lim(1 t)^(2a/t a)
=lim[(1 t)^(1/t)]^(2a) * (1 t)^a
=[ lim (1 t)^(1/t)]^(2a) * lim (1 t)^a
=e^(2a) * 1
=e^(2a)

卷积层的输出结果为什么要做非线性映射

当有限长序列x(n)和h(n)的长度分别为N1和N2，取N>=max(N1,N2)，当N>=N1 N2-1，则线性卷积与圆周卷积相同。线性卷积是在时域描述线性系统输入和输出之间关系的一种运算。这种运算在线性系统分析和信号处理中应用很多，通常简称卷积。两个函数的圆周卷积是由他们的周期延伸所来定义的。周期延伸意思是把原本的函数平移某个周期T的整数倍后再全部加起来所产生的新函数。离散信号的圆周卷积可以经由圆周卷积定理使用快速傅立叶变换（FFT）而有效率的计算。因此，若原本的（线性）卷积能转换成圆周卷积来计算，会远比直接计算更快速。考虑到长度L和长度M的有限长度离散信号，做卷积之后会成为长度L＋M－1的信号，因此只要把两离散信号补上适当数目的零（zero-padding）成为N点信号，其中N≥L＋M－1，则它们的圆周卷积就与卷积相等。即可接着用N点FFT作计算。

神经网络（深度学习）的几个基础概念

从广义上说深度学习的网络结构也是多层神经网络的一种。传统意义上的多层神经网络是只有输入层、隐藏层、输出层。其中隐藏层的层数根据需要而定，没有明确的理论推导来说明到底多少层合适。而深度学习中最著名的卷积神经网络CNN，在原来多层神经网络的基础上，加入了特征学习部分，这部分是模仿人脑对信号处理上的分级的。具体操作就是在原来的全连接的层前面加入了部分连接的卷积层与降维层，而且加入的是一个层级。输入层 - 卷积层 -降维层 -卷积层 - 降维层 -- .... -- 隐藏层 -输出层简单来说，原来多层神经网络做的步骤是：特征映射到值。特征是人工挑选。深度学习做的步骤是 信号->特征->值。 特征是由网络自己选择。