我要加入 登录
声振论坛 返回首页

friendchj的个人空间 http://home.vibunion.com/?89781 [收藏] [复制] [分享] [RSS]

日志

数据归一化汇总[zz]

已有 1393 次阅读2009-5-4 22:16 |个人分类:matlab|

=================================
Matlab 数字归一化问题(by yingzhilian)
http://www.ilovematlab.cn/viewthread.php?tid=26409&extra=page%3D1&sid=Xs3tJM
-------------------------------------------------------
归一化化定义:我是这样认为的,归一化化就是要把你需要处理的数据经过处理后(通过某种算法)限制在你需要的一定范围内。首先归一化是为了后面数据处理的方便,其次是保正程序运行时收敛加快。
matlab里面,用于归一化的方法共有三种
:
1premnmxpostmnmx
tramnmx
2prestdpoststd
trastd
3)是用matlab语言自己编程

premnmx指的是归一到[1 1],prestd归一到单位方差和零均值。(3)关于自己编程一般是归一到[0.1   0.9] 。具体用法见下面实例。
为什么要用归一化呢?首先先说一个概念,叫做奇异样本数据,所谓奇异样本数据数据指的是相对于其他输入样本特别大或特别小的样本矢量。
下面举例:
m=[0.11 0.15 0.32 0.45 30;
   0.13 0.24 0.27 0.25 45];
其中的第五列数据相对于其他4列数据就可以成为奇异样本数据(下面所说的网络均值bp)。奇异样本数据存在所引起的网络训练时间增加,并可能引起网络无法收敛,所以对于训练样本存在奇异样本数据的数据集在训练之前,最好先进形归一化,若不存在奇异样本数据,则不需要事先归一化。
具体举例:
close all
clear
echo on
clc
%BP
建模
%原始数据归一化
m_data=[1047.92 1047.83 0.39 0.39 1.0 3500 5075;
1047.83 1047.68 0.39 0.40   1.0 3452 4912;
1047.68 1047.52   0.40   0.41 1.0   3404 4749;
1047.52   1047.27   0.41   0.42 1.0   3356 4586;
1047.27   1047.41 0.42 0.43   1.0   3308   4423;
1046.73   1046.74 1.70 1.80 0.75   2733   2465;
1046.74   1046.82   1.80   1.78 0.75   2419 2185;
1046.82 1046.73   1.78   1.75   0.75 2105   1905;
1046.73   1046.48 1.75 1.85 0.70 1791   1625;
1046.48   1046.03   1.85   1.82   0.70 1477 1345;
1046.03 1045.33 1.82 1.68   0.70   1163   1065;
1045.33   1044.95   1.68   1.71 0.70   849   785;
1044.95   1045.21 1.71   1.72   0.70   533   508;
1045.21 1045.64   1.72   1.70 0.70 567   526;
1045.64 1045.44 1.70   1.69   0.70   601   544;
1045.44 1045.78   1.69   1.69 0.70   635   562;
1045.78 1046.20   1.69   1.52 0.75   667   580];
%
定义网络输入p和期望输出t
pause
clc
p1=m_data(:,1:5);
t1=m_data(:,6:7);
p=p1';t=t1';
[pn,minp,maxp,tn,mint,maxt]=premnmx(p,t)
%
设置网络隐单元的神经元数(5~30验证后5个最好)
n=5;
%
建立相应的BP网络
pause
clc
net=newff(minmax(pn),[n,2],{'tansig','purelin'},'traingdm');
inputWeights=net.IW{1,1};
inputbias=net.b{1};
layerWeights=net.IW{1,1};
layerbias=net.b{2};
pause
clc
%
训练网络
net.trainParam.show=50;
net.trainParam.lr=0.05;
net.trainParam.mc=0.9;
net.trainParam.epochs=200000;
net.trainParam.goal=1e-3;
pause
clc
%
调用TRAINGDM算法训练BP网络
net=train(net,pn,tn);
%
BP网络进行仿真
A=sim(net,pn);
E=A-tn;
M=sse(E)
N=mse(E)
pause
clc
p2=[1046.20 1046.05 1.52 1.538 0.75;
1046.05 1046.85 1.538 1.510 0.75;
1046.85 1046.60 1.510 1.408 0.75;
1046.60 1046.77 1.408 1.403 0.75;
1046.77 1047.18 1.403 1.319 0.75];
p2=p2';
p2n=tramnmx(p2,minp,maxp);
a2n=sim(net,p2n);
a2=postmnmx(a2n,mint,maxt)
echo off
pause
clc
程序说明:所用样本数据(见m_data)包括输入和输出数据,都先进行归一化,还有一个问题就是你要进行预测的样本数据(见本例p2)在进行仿真前,必须要用tramnmx函数进行事先归一化处理,然后才能用于预测,最后的仿真结果要用postmnmx进行反归一,这时的输出数据才是您所需要的预测结果。
个人认为:tansigpurelinlogsig是网络结构的传递函数,本身和归一化没什么直接关系,归一化只是一种数据预处理方法。
==================================================================================

需要说明的事并不是任何问题都必须事先把原始数据进行规范化,也就是数据规范化这一步并不是必须要做的,要具体问题具体看待,测试表明有时候规范化后的预测准确率比没有规范化的预测准确率低很多.就最大最小值法而言,当你用这种方式将原始数据规范化后,事实上意味着你承认了一个假设就是测试数据集的每一模式的所有特征分量的最大值(最小值)不会大于(小于)训练数据集的每一模式的所有特征分量的最大值(最小值),但这条假设显然过于强,实际情况并不一定会这样.使用平均数方差法也会有同样类似的问题.故数据规范化这一步并不是必须要做的,要具体问题具体看待. [faruto ]

====================================================

==================
关于神经网络matlab)归一化的整理(by strongbox)
http://www.ilovematlab.cn/viewthread.php?tid=12186
----------------------------------------------------------------------
由于采集的各数据单位不一致,因而须对数据进行[-11]归一化处理,归一化方法主要有如下几种,供大家参考:(by james
1、线性函数转换,表达式如下:
y=(x-MinValue)/(MaxValue-MinValue)
说明:xy分别为转换前、后的值,MaxValueMinValue分别为样本的最大值和最小值。
2、对数函数转换,表达式如下:
y=log10(x)
说明:以10为底的对数函数转换。
3、反余切函数转换,表达式如下:
y=atan(x)*2/PI
归一化是为了加快训练网络的收敛性,可以不进行归一化处理


归一化的具体作用是归纳统一样本的统计分布性。归一化在0-1之间是统计的概率分布,归一化在-1--+1之间是统计的坐标分布。归一化有同一、统一和合一的意思。无论是为了建模还是为了计算,首先基本度量单位要同一,神经网络是以样本在事件中的统计分别几率来进行训练(概率计算)和预测的,归一化是同一在0-1之间的统计概率分布;

当所有样本的输入信号都为正值时,与第一隐含层神经元相连的权值只能同时增加或减小,从而导致学习速度很慢。为了避免出现这种情况,加快网络学习速度,可以对输入信号进行归一化,使得所有样本的输入信号其均值接近于0或与其均方差相比很小。

归一化是因为sigmoid函数的取值是01之间的,网络最后一个节点的输出也是如此,所以经常要对样本的输出归一化处理。所以这样做分类的问题时用[0.9 0.1 0.1]就要比用[1 0 0]要好。

但是归一化处理并不总是合适的,根据输出值的分布情况,标准化等其它统计变换方法有时可能更好。
关于用premnmx语句进行归一化:
premnmx语句的语法格式是:[Pn,minp,maxp,Tn,mint,maxt]=premnmx(P,T)
其中PT分别为原始输入和输出数据,minpmaxp分别为P中的最小值和最大值。mintmaxt分别为T的最小值和最大值。
premnmx函数用于将网络的输入数据或输出数据进行归一化,归一化后的数据将分布在[-1,1]区间内。
我们在训练网络时如果所用的是经过归一化的样本数据,那么以后使用网络时所用的新数据也应该和样本数据接受相同的预处理,这就要用到tramnmx
下面介绍tramnmx函数:
[Pn]=tramnmx(P,minp,maxp)
其中PPn分别为变换前、后的输入数据,maxpminp分别为premnmx函数找到的最大值和最小值。
by terry2008

matlab中的归一化处理有三种方法
1. premnmxpostmnmxtramnmx
2. restdpoststdtrastd
3. 自己编程
具体用那种方法就和你的具体问题有关了
by happy
pm=max(abs(p(i,:))); p(i,:)=p(i,:)/pm;

for i=1:27
p(i,:)=(p(i,:)-min(p(i,:)))/(max(p(i,:))-min(p(i,:)));
end 可以归一到0 1 之间
0.1+(x-min)/(max-min)*(0.9-0.1)其中maxmin分别表示样本最大值和最小值。
这个可以归一到0.1-0.9

=================================by  ratbaby
补充一个吧, 归一还可以用 mapminmax。
这个函数可以把矩阵的每一行归一到[-1 1].
[y1,PS] = mapminmax(x1). 其中x1 是需要归一的矩阵 y1是结果
当需要对另外一组数据做归一时,比如SVM 中的 training data用以上方法归一,而test data就可以用下面的方法做相同的归一了
y2 = mapminmax('apply',x2,PS)
当需要把归一的数据还原时,可以用以下命令
x1_again = mapminmax('reverse',y1,PS)

=================================

转自:http://www.ilovematlab.cn/thread-27021-1-1.html(整理者:faruto)

PS:新版本中:函数premnmx、postmnmx、tramnmx由mapminmax取代;prestd、poststd、trastd由mapstd取代。

评论 (0 个评论)

facelist doodle 涂鸦板

您需要登录后才可以评论 登录 | 我要加入

QQ|小黑屋|Archiver|手机版|联系我们|声振论坛

GMT+8, 2024-4-28 20:00 , Processed in 0.080456 second(s), 16 queries , Gzip On.

Powered by Discuz! X3.4

Copyright © 2001-2021, Tencent Cloud.

返回顶部