1.   引言

自适应信号处理作为现代信号处理学科的一个重要分支，已经获得了极大的发展，并且已广泛应用于系统参数辨识、主动噪声控制、回声消除、波束形成、信道均衡和电网谐波参数估计等领域中^[1]。然而，大多数经典的自适应滤波算法，如最小均方(Least Mean Square, LMS)算法、递归最小二乘(Recursive Least Squares, RLS)算法以及仿射投影(Affine Projection, AP)算法等，它们都是基于测量噪声只存在于期望信号中，而滤波器输入信号完全精确的假设。然而，在实际环境中，由于采样误差、人工误差以及工具误差等误差的存在，滤波器输入信号完全精确有时候是不现实的^[2]。在这种情况下，传统的自适应滤波算法会产生有偏估计，并且其性能也严重恶化。为了解决这个问题，研究者提出了各种各样消除偏差的方法。其中一个重要的解决方法就是总体最小二乘(Total Least Squares, TLS)法。基于总体最小二乘原则，研究者开发了一些相关的自适应滤波算法。如最基本的梯度下降总体最小二乘(Gradient Descent TLS, GD-TLS)算法^[2]。此外，基于不同优化策略，如线性搜索^[3,4]和逆功率迭代^[5,6]，研究者提出了几种不同的递归总体最小二乘(Recursive TLS, RTLS)算法。

需要说明的是，上述的经典自适应滤波算法包括总体最小二乘算法都是在高斯噪声模型下取得最优值的。尽管高斯分布是广泛用于信号处理中的噪声模型，很多信号处理及估值理论都是来自于高斯分布的假设。但在现实环境中，我们会遇到很多信号或噪声不服从高斯分布，如通信系统噪声、低频大气噪声、雷达信号等。这些非高斯噪声往往在短时间内呈现明显的冲击特性，即使其冲击量很少也会严重影响自适应算法的性能。在文献中，这类非高斯噪声通常使用Alpha稳定分布或伯努利-高斯(Bernoulli-Gaussian, BG)联合分布来描述或者建模。并且为了解决这类问题，研究者提出了许多解决方法来提高经典自适应滤波算法抗冲击噪声的能力^[7,8]。近年来，一些常用的抗冲击噪声算法也被应用到TLS算法中。如通过利用最小误差熵准则，Shen等人^[9]提出了一种最小总误差熵(Minimum Total Error Entropy, MTEE)算法。由于MTEE算法具有较高的计算复杂度，Wang等人^[10]利用另一种信息理论学习方法，即最大相关熵准则，提出了一种复杂度相对较低的最大总相关熵(Maximum Total Correntropy, MTC)算法。此外，通过利用M估计函数的抗冲击特性，一种鲁棒的总体最小M估计(Total Least Mean M-Estimate, TLMM)算法也被提出^[11]。另外，Sayin等人^[12]提出了一族基于对数函数的自适应滤波算法，为自适应滤波算法的改进提供了新的思路。此后，Xiong等人^[13]定义了一种新的对数函数形式，并提出了一个鲁棒的最小对数均方(Robust Least Mean Logarithmic Square, RLMLS)算法，该算法具有抗冲击噪声的特点，在非高斯噪声环境中仍能很好地工作。然而，在输入信号含有噪声的环境中，RLMLS算法仍然会产生有偏估计。因此，本文利用该对数函数形式具有抗冲击特性，对TLS算法进行了改进，提出了一种新颖的抗冲击噪声的对数总体最小二乘(Logarithmic Total Least Squares, L-TLS)自适应算法，该新算法融合了TLS算法和RLMLS算法的优势，不仅在非高斯环境中具有较好的收敛性能，并且当输入与输出信号均被噪声干扰时仍能实现无偏估计。最后通过计算机仿真实验对L-TLS算法的收敛性能进行了验证。

2.   总体最小二乘法概述

2.1   EIV系统辨识模型

尽管自适应滤波器的应用场景很多，但是其本质都是通过利用输入信号和期望信号来计算估计误差，然后自动调整滤波器的抽头系数来适应和跟踪外部环境的变化。为了更加精确地描述实际环境中系统输入与输出均含有噪声的情形，研究者在传统的系统辨识模型上增加了输入噪声干扰，如图1所示。这一新模型被称作Errors-In-Variables(EIV)模型^[14]。

图 1  EIV系统辨识模型

下载: 全尺寸图片 幻灯片

其中，${{x}}(n)$是未知系统在时刻$n$的输入信号向量，$d(n)$是相应的输出信号。${{y}}(n)$是滤波器的实际输出信号。本文假设该未知系统为$L$阶线性系统，即未知系统向量${{h}} \in {{\rm{R}}^{L \times 1}}$。并且满足

从图1中可以看出，滤波器的输入信号${\tilde {{x}}}(n)$和期望信号$\tilde d(n)$可以表示为

其中，${{u}}(n)$和$v(n)$分别是自协方差矩阵为$\sigma _i^2{{{I}}_L}$的输入噪声和方差为$\sigma _o^2$的输出噪声。误差信号$e(n)$是滤波器的期望信号$\tilde d(n)$与实际输出信号$y(n)$的差。

2.2   总体最小二乘自适应算法

TLS方法的目的是同时最小化滤波器输入信号与期望信号中的噪声干扰，它可以被总结为下面的最小化问题^[10]

其中，参数$\gamma$是输出噪声方差与输入噪声方差的比值，即$\gamma = \sigma _o^2/\sigma _i^2$。将式(3)中的样本均值运算替换为期望运算，便可以得到梯度下降总体最小二乘(GD-TLS)算法的代价函数，即

其中，误差$e(n) = \tilde d(n) - {{{w}}^{\rm{T}}}\tilde {{x}}(n)$，而$\bar {{w}} = \left[ \sqrt \gamma - {{{w}}^{\rm{T}}} \right]^{\rm{T}}$表示修正的增广权向量。从式(4)可以看出，比起LMS算法的代价函数${J_{\rm{lms}}}({{w}}) = {\rm{E}}\left[ {{e^2}(n)} \right]$, GD-TLS算法的不同点在于多了一个加权的因子$\frac{1}{{{{\left\| {\bar {{w}}} \right\|}^2}}}$。这里，直接给出GD-TLS算法的权向量更新公式^[2]

3.   提出的对数总体最小二乘法

本文结合对数函数用于抗冲击干扰的优势，提出了一种新的鲁棒的总体最小二乘算法，即对数总体最小二乘(L-TLS)算法，它的代价函数被定义为

其中，$\alpha > 0$是一个尺度参数，用于改变算法抗冲击噪声的能力。通过式(6)中的代价函数，我们利用梯度下降法获得该函数的极值点。即对${J_{{\rm{l}} {\text{-}} {\rm{tls}}}}({{w}})$求导，可以获得梯度向量${{{g}}_{{\rm{l}} {\text{-}} {\rm{tls}}}}({{w}})$的表达式

然后，使用瞬时值代替期望值，可以进一步获得瞬时梯度向量

如此，利用瞬时梯度向量，可以得到L-TLS算法的权向量更新公式

其中$\mu = 2\eta$为步长参数，当$\mu$越大时，算法的收敛速度就越快，同时其稳态误差也会增大；而$\mu$较小时，算法稳态误差减小，同时收敛速度将会降低。对式(9)进行简单的代数转换可以得到

其中$\mu (n) = \mu \dfrac{{{{\left\| {\bar {{w}}(n)} \right\|}^2}}}{{{{\left\| {\bar {{w}}(n)} \right\|}^2} + \alpha {e^2}(n)}}$，因此不难看出L-TLS算法本质上是一种变步长GD-TLS算法。当误差$e(n)$较大时，该步长将会趋近于零，从而有效避免冲击噪声带来的错误更新。而当误差$e(n)$较小时，步长将会接近原来的固定步长值，此时L-TLS算法与原来的GD-TLS算法有着相似的收敛性能。为了更加清晰地说明L-TLS算法的执行步骤，将该算法的流程总结在表1中。

表 1  L-TLS算法流程

算法初始化	${{w}}(0) = 0$
算法实现	for i=0, 1, 2
	$e(n) = \tilde d(n) - {{{w}}^{\rm{T}}}\tilde {{x}}(n)$
	$\bar {{w}} = {\left[ {\sqrt \gamma {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} - {{{w}}^{\rm{T}}}} \right]^{\rm{T}}}$
	$a(n) = \dfrac{ { { {\left\| {\bar {{w} }(n)} \right\|}^2}e(n)\tilde {{x} }(n){\rm{ + } }{e^2}(n){{w} }(n)} }{ { { {\left\| {\bar {{w} }(n)} \right\|}^4} + { {\left\| {\bar {{w} }(n)} \right\|}^2}\alpha {e^2}(n)} }$
	${{w}}(n + 1) = {{w}}(n) + \mu {{a}}(n)$
	end

下载: 导出CSV 

| 显示表格

最后，通过算法完成1次迭代总共需要的加/减法、乘法、除法的操作次数来衡量该算法的计算复杂度，并将本文提出的L-TLS算法与基本LMS算法和GD-TLS算法，以及文献[13]中提出的RLMLS算法进行了比较。从表2中可以看出，尽管L-TLS算法的计算量最大，但是比起GD-TLS算法，L-TLS算法的计算复杂度并没有明显增加，这在实际应用中是可以接受的。

表 2  算法的计算复杂度

算法	加/减法	乘法	除法
LMS	$2L$	$2L + 1$	0
RLMLS	$2L + 1$	$2L + 4$	1
GD-TLS	$4L$	$5L + 3$	1
L-TLS	$4L + 1$	$5L + 7$	1

下载: 导出CSV 

| 显示表格

4.   仿真实验

本节使用计算机仿真实验来验证算法的有效性。首先设置未知系统向量的维数$L = 16$。未知向量的元素在–0.5～0.5之间随机生成并被归一化为${\left\| {{h}} \right\|^2}{\rm{ = }}1$。此外，输入噪声是零均值方差为$\sigma _i^2 = 0.1$的高斯噪声。而输出噪声$v(n)$包括背景噪声${v_{\rm{A}}}(n)$和冲击噪声${v_{\rm{B}}}(n)$两部分。其中背景噪声与输入噪声相同，为零均值方差$\sigma _{\rm{A}}^2 = 0.1$的高斯噪声，而冲击噪声由伯努利-高斯(BG)过程产生，即${v_{\rm{B}}}(n) = b(n)p(n)$，这里$p(n)$是零均值方差为$\sigma _{\rm{B}}^2$的高斯过程，并且$\sigma _{\rm{B}}^2 \gg \sigma _{\rm{A}}^2$; $b(n)$是伯努利过程，其概率密度函数为$P(b(n) = 1) = {P_{\rm{r}}}$和$P(b(n) = 0) = 1 - {P_{\rm{r}}}$。参数${P_{\rm{r}}}$用来控制冲击噪声发生的概率，${P_{\rm{r}}}$值越大，算法受到的冲击效果越强烈。本实验中，使用归一化均方误差(Normalized Mean-Square-Deviation, NMSD)来评估算法的收敛性能，其表达式为

所有的仿真实验结果都是200次独立运行的平均值。

4.1   参数讨论

本小节中讨论了参数$\alpha$对L-TLS算法性能的影响。设置冲击噪声发生的频率为${P_{\rm{r}}} = 0.05$，方差$\sigma _{\rm{B}}^2 = 8$。在图2中，输入信号由零均值单位方差的高斯分布独立产生，而图3中的输入信号为相关信号，由零均值单位方差的高斯信号通过1阶系统$G(z) = 1/ (1 - 0.8{z^{ - 1}})$产生。从图2和图3中可以看出，当参数$\alpha$值越大，则L-TLS算法的稳态误差越小，但是其收敛速度也随之降低。另外，也可以发现当$\alpha$值较小时(如$\alpha = 0.1$)，算法的收敛性能明显恶化，说明其抗冲击噪声的能力严重降低。

图 2  L-TLS算法在高斯信号输入的NMSD曲线($\mu = 0.02$)

下载: 全尺寸图片 幻灯片

图 3  L-TLS算法在相关信号输入的NMSD曲线($\mu = 0.02$)

下载: 全尺寸图片 幻灯片

4.2   算法性能比较

本小节比较了LMS, GD-TLS, RLMLS和L-TLS算法的收敛性能。其中，图4输入信号为零均值单位方差的高斯信号，图5输入信号为相关信号。针对每一种输入信号，分别考虑了两种噪声环境，即高斯噪声环境(${P_{\rm{r}}} = 0$)和冲击噪声环境(${P_{\rm{r}}} = 0.05$)。本文选择步长使得所有算法有相同的初始收敛速率，从而便于观察稳态误差的相对大小。通过图4和图5的仿真结果，可以得出无论输入信号是高斯信号还是相关信号，GD-TLS算法高斯噪声环境(${P_{\rm{r}}} = 0$)中的收敛性能都好于L-TLS算法，但是在冲击噪声环境(${P_{\rm{r}}} = 0.05$)中，L-TLS算法则更具有优势，而GD-TLS算法性能严重恶化。另外，也可以发现，在所有的仿真结果中，L-TLS算法比文献[13]中的RLMLS算法具有更低的稳态误差。

图 4  LMS, GD-TLS, RLMLS和L-TLS算法在高斯信号输入的NMSD曲线

下载: 全尺寸图片 幻灯片

图 5  LMS, GD-TLS, RLMLS和L-TLS算法在相关信号输入的NMSD曲线

下载: 全尺寸图片 幻灯片

5.   结论

本文针对在含有冲击噪声的非高斯环境中总体最小二乘(TLS)自适应算法性能严重恶化的问题。利用一种广义的对数函数，提出了一种能够抗冲击噪声干扰的鲁棒总体最小二乘自适应算法，即L-TLS算法。该算法不仅在未知系统输入与输出信号均被噪声干扰的环境中能够实现无偏估计，并且对冲击噪声的干扰也有很好的抑制能力。最后，本文通过计算机仿真实验验证了这一结论。