新息与残差有什么区别?

作者: 心理学  发布:2019-10-26

  可选中1个或多个下面的关键词,搜索相关资料。也可直接点“搜索资料”搜索整个问题。

  新息与残差的区别在于:二者指代不同、二者特征不同、二者代表相关分析不同。

  (1)由于其也是序列,所以也被称为新息序列:x(t)=x(t)+e(t),此式表明,x(t)可表达为两项之和:第一项,x(t)它是被序列历史所确定的;第二项e(t),根据历史数对其预报为零。

  直观而言,在无偏预报意义下,原序列历史不包含对e(t)的信息,故此时称为它对原序列的新息。对极特殊的情况下,e(t)恒等于0时,此序列无新息,这样的序列称为纯确定型。

  (2)在回归分析中,测定值与按回归方程预测的值之差,以δ表示。残差δ遵从正态分布N(0,σ2)。(δ-残差的均值)/残差的标准差,称为标准化残差,以δ*表示。δ*遵从标准正态分布N(0,1)。实验点的标准化残差落在(-2,2)区间以外的概率≤0.05。

  若某一实验点的标准化残差落在(-2,2)区间以外,可在95%置信度将其判为异常实验点,不参与回归直线拟合。显然,有多少对数据,就有多少个残差。残差分析就是通过残差所提供的信息,分析出数据的可靠性、周期性或其它干扰。

  (1)新息定理是新息预报的基础。新息预报虽然公式较复杂,但占用的内存是有限的,并不随t而增长,而且每步预报是用递推计算,特别是MA序列,由新息预报公式可以看出,只要能判断出MA模型的阶数,不必计算出滑动平均参数就可以递推进行新息预报。

  由新息定理可以看出,时刻t的新息et是随着样本数据xt的输入经过递推而得到的。

  可以证明,无论是AR、MA或ARMA序列,当k充分大后,新息适时预报都与平稳预报渐近趋于一致。因此,在实际应用时,对于连续预报问题如果要求从较少的数据开始预报,并希望尽可能给出精确的预报值,那么,在开始一个阶段,可以进行新息适时预报。

  (2)残差中残差图的分布趋势可以帮助判明所拟合的线性模型是否满足有关假设。如残差是否近似正态分布、是否方差齐次,变量间是否有其它非线性关系及是否还有重要自变量未进入模型等。

  当判明有某种假设条件欠缺时, 进一步的问题就是加以校正或补救。需分析具体情况,探索合适的校正方案,如非线性处理,引入新自变量,或考察误差是否有自相关性。

  深度残差网络。如果深层网络的后面那些层是恒等映射,那么模型就退化为一个浅层网络。那当前要解决的就是学习恒等映射函数了。 但是直接让一些层去拟合一个潜在的恒等映射函数H(x)=x,比较困难,这可能就是深层网络难以训练的原因。

  但是,如果把网络设计为H(x)=F(x)+x,可以转换为学习一个残差函数F(x)=H(x)-x。只要F(x)=0,就构成了一个恒等映射H(X)=x。 而且,拟合残差肯定更加容易。

  F是求和前网络映射,H是从输入到求和后的网络映射。比如把5映射到5.1,那么引入残差前是:F(5)=5.1,引入残差后是H(5)=5.1,H(5)=F(5)+5,F(5)=0.1。这里的F和F都表示网络参数映射,引入残差后的映射对输出的变化更敏感。

  比如s输出从5.1变到5.2,映射的输出增加了2%,而对于残差结构输出从5.1到5.2,映射F是从0.1到0.2,增加了100%。明显后者输出变化对权重的调整作用更大,所以效果更好。残差的思想都是去掉相同的主体部分,从而突出微小的变化。

本文由永利皇宫643.com于2019-10-26日发布