Винеровское оценивание

Винеровское оценивание — задача нахождения импульсной характеристики линейной стационарной системы, дающей на выходе оптимальную в смысле минимума математического ожидания средней квадратической ошибки оценку значений полезного сигнала, поступающего на вход в аддитивной смеси с шумом.

Условия

Требуется найти импульсную характеристику w ( t ) {displaystyle w(t)} линейной стационарной системы, на вход которой поступает аддитивная смесь f ( t ) {displaystyle f(t)} полезного сигнала y ( t ) {displaystyle y(t)} с шумом e ( t ) {displaystyle e(t)} : f ( t ) = y ( t ) + e ( t ) {displaystyle f(t)=y(t)+e(t)} , а на выходе должна получаться оценка значения полезного сигнала d ( t ) = ∫ − ∞ + ∞ w ( τ ) f ( t − τ ) d τ {displaystyle d(t)=int _{-infty }^{+infty }w( au )f(t- au )d au } , которая минимизирует математическое ожидание средней квадратической ошибки между оценкой и реальным значением полезного сигнала ϵ 2 ( t ) = m 1 { ( y ( t ) − d ( t ) ) 2 } {displaystyle epsilon ^{2}(t)=m_{1}left{(y(t)-d(t))^{2} ight}} .

Предполагается, что условия применения, характер сигналов и помех остаются достаточно стабильными, их статистические характеристики меняются мало. Если же условия переменны и помехи в процессе работы систем изменяются существенно, то возникает необходимость автоматической оптимизации параметров систем. Это осуществляется в различного рода экстремальных, адаптивных, обучаемых системах.

Решение задачи

Ошибка системы равна разности между оценкой d ( t ) {displaystyle d(t)} и реальным значением y ( t ) {displaystyle y(t)} полезного сигнала e ( t ) = d ( t ) − y ( t ) {displaystyle e(t)=d(t)-y(t)} . Минимальная среднеквадратическая ошибка по определению равна:

η = e 2 ¯ = d 2 ¯ − 2 d y ¯ + y 2 ¯ {displaystyle eta ={overline {e^{2}}}={overline {d^{2}}}-2,{overline {d,y}}+{overline {y^{2}}}} =

d 2 ¯ − 2 ∫ − ∞ + ∞ w ( τ ) f ( t − τ ) d ( t ) ¯ d τ + ∫ − ∞ + ∞ ∫ − ∞ + ∞ w ( ξ ) w ( μ ) f ( t − ξ ) f ( t − μ ) ¯ d ξ d μ {displaystyle {overline {d^{2}}}-2int _{-infty }^{+infty }w( au ){overline {f(t- au )d(t)}},mathrm {d} au +int _{-infty }^{+infty }int _{-infty }^{+infty }w(xi )w(mu ){overline {f(t-xi )f(t-mu )}},mathrm {d} xi ,mathrm {d} mu } =

d 2 ¯ − 2 ∫ − ∞ + ∞ w ( τ ) ρ f d ( τ ) d τ + ∫ − ∞ + ∞ ∫ − ∞ + ∞ w ( ξ ) w ( μ ) ρ f f ( ξ − μ ) d ξ d μ {displaystyle {overline {d^{2}}}-2int _{-infty }^{+infty }w( au ) ho _{fd}( au )mathrm {d} au +int _{-infty }^{+infty }int _{-infty }^{+infty }w(xi )w(mu ) ho _{ff}(xi -mu ),mathrm {d} xi ,mathrm {d} mu } .

Здесь используются обозначения для корреляционных функций:

ρ f d ( τ ) = f ( t ) d ( t + τ ) ¯ {displaystyle ho _{fd}( au )={overline {f(t),d(t+ au )}}}

ρ f f ( τ ) = f ( t ) f ( t + τ ) ¯ {displaystyle ho _{ff}( au )={overline {f(t),f(t+ au )}}} .

Черта над формулой означает осреднение по времени. Будем считать, что оптимальная импульсная характеристика системы существует и равна w opt {displaystyle w_{ ext{opt}}} .

Тогда любая отличающаяся от неё импульсная характеристика системы может быть представлена в виде

w ( t ) = w opt ( t ) + α θ ( t ) {displaystyle w(t)=w_{ ext{opt}}(t)+alpha , heta (t)} ,

где θ ( t ) {displaystyle heta (t)} — произвольная функция времени, α {displaystyle alpha } — варьируемый коэффициент.

Минимум среднеквадратической ошибки отклонения достигается при α = 0 {displaystyle alpha =0} . Для поиска w opt ( t ) {displaystyle w_{ ext{opt}}(t)} нужно найти производную показателя качества η {displaystyle eta } по коэффициенту вариации α {displaystyle alpha } и приравнять её нулю при α = 0 {displaystyle alpha =0} :

∂ η ∂ α | α = 0 {displaystyle {frac {partial eta }{partial alpha }}|_{alpha =0}} =

− 2 ∫ − ∞ + ∞ θ ( τ ) ρ f d ( τ ) d τ + ∫ − ∞ + ∞ ∫ − ∞ + ∞ [ w opt ( ξ ) θ ( μ ) + w opt ( μ ) θ ( ξ ) ] ρ f f ( ξ − μ ) d ξ d μ {displaystyle -2int _{-infty }^{+infty } heta ( au ), ho _{fd}( au ),mathrm {d} au +int _{-infty }^{+infty }int _{-infty }^{+infty }left[w_{ ext{opt}}(xi ), heta (mu )+w_{ ext{opt}}(mu ), heta (xi ) ight], ho _{ff}(xi -mu ),mathrm {d} xi ,mathrm {d} mu } =

− 2 ∫ − ∞ + ∞ θ ( ξ ) ρ f d ( ξ ) d ξ + 2 ∫ − ∞ + ∞ ∫ − ∞ + ∞ θ ( ξ ) w opt ( μ ) ρ f f ( ξ − μ ) d ξ d μ {displaystyle -2int _{-infty }^{+infty } heta (xi ) ho _{fd}(xi ),mathrm {d} xi +2int _{-infty }^{+infty }int _{-infty }^{+infty } heta (xi ),w_{ ext{opt}}(mu ), ho _{ff}(xi -mu ),mathrm {d} xi ,mathrm {d} mu } =

2 ∫ − ∞ + ∞ θ ( ξ ) [ ∫ − ∞ + ∞ w opt ( μ ) ρ f f ( ξ − μ ) d μ − ρ f d ( ξ ) ] d ξ = 0 {displaystyle 2int _{-infty }^{+infty } heta (xi ),left[int _{-infty }^{+infty }w_{ ext{opt}}(mu ) ho _{ff}(xi -mu )mathrm {d} mu - ho _{fd}(xi ) ight],mathrm {d} xi =0}

Поскольку θ ( ξ ) {displaystyle heta (xi )} — произвольная функция, последнее равенство выполняется тогда и только тогда, когда:

∫ − ∞ + ∞ w opt ( μ ) ρ f f ( ξ − μ ) d μ − ρ f d ( ξ ) = 0 {displaystyle int _{-infty }^{+infty }w_{ ext{opt}}(mu ), ho _{ff}(xi -mu ),mathrm {d} mu - ho _{fd}(xi )=0} .

Это и есть уравнение Винера-Хопфа, определяющее оптимальную импульсную характеристику системы по критерию минимальной среднеквадратической ошибки. Для решения применим преобразование Лапласа к полученному уравнению. Известно, что преобразование Лапласа от свертки равно произведению преобразований Лапласа, тогда:

w opt ( p ) S f f ( p ) − S f d ( p ) = 0 {displaystyle w_{ ext{opt}}(p)S_{ff}(p)-S_{fd}(p)=0} ,

где w opt ( p ) = L w opt ( t ) {displaystyle w_{ ext{opt}}(p)=L{w_{ ext{opt}}(t)}} ; S f f ( p ) = L ρ f f ( t ) {displaystyle S_{ff}(p)=L{ ho _{ff}(t)}} ; S f d ( p ) = L ρ f d ( t ) {displaystyle S_{fd}(p)=L{ ho _{fd}(t)}} .

Таким образом определяем оптимальный винеровский фильтр 1-го рода:

W opt I = S f d ( p ) S f f ( p ) {displaystyle W_{ ext{opt I}}={frac {S_{fd}(p)}{S_{ff}(p)}}} .

Когда порядок полинома в числителе оказывается выше порядка полинома в знаменателе, винеровский фильтр 1-го рода физически нереализуем. Для решения задачи, после определения импульсной характеристики её принудительно приравнивают нулю при отрицательных значениях t {displaystyle t} (именно отличие w ( t ) {displaystyle w(t)} от нуля при t < 0 {displaystyle t<0} характеризует физическую нереализуемость системы) и таким образом получают физически реализуемый винеровский фильтр 2-го рода.

История

Во время Второй мировой войны перед американским математиком Н. Винером встала задача отделения полезного сигнала от шума при решении задач автоматизации систем противовоздушной обороны, использующих радиолокационную технику. В 1942 г. Н. Винер теоретически решил эту задачу, допустив, что искомая система должна быть линейной с постоянными параметрами, время наблюдения бесконечно, входной и выходной сигналы системы являются стационарными и стационарно связанными случайными процессами, и система минимизирует среднюю квадратическую ошибку между полезным входным и выходным сигналами. Были созданы и опробованы экспериментальные аналоговые устройства, использующие этот метод, но по ряду причин применить их в реальных системах ПВО не удалось.