前面一篇文章介绍了宽平稳过程的概念和性质，并在时域中对其进行了一定的分析，本文将继续从傅里叶变换开始，以不同的角度继续分析该过程，进而引入功率谱密度的概念，并简单介绍其性质。本文属于随机过程笔记，根据清华大学电子工程系张颢副研究员的随机过程线上课程笔记整理而成，这是课程链接。
确定性信号的频谱分析
所谓谱分析，实际上就是试图将复杂对象分解为若干简单信号的过程。谈到谱分析时，主要得弄清楚两个概念，即
- 分解什么样的对象；
- 从什么角度来分解。
实际上光谱、抗菌谱都是谱分解过程的产物，它们可以让我们从不同角度认识特定对象，进而使我们有机会可以更深入地了解这些对象。在本文中我们要讨论的对象是一个宽平稳随机过程\(\mathbb{X}(t)\)，这里的谱也就是我们熟悉的频率。
首先我们先回顾一下确定性函数的傅里叶分解。
对于一个周期为\(T\)的实函数\(X(t)\)，有 \[ X(t) = \sum_{k=-\infty}^{\infty} \alpha_k \exp (\mathrm{i}\omega_kt) , \] 其中，\(\omega_k=\cfrac{2k\pi}{T}\)，\(\cfrac{2\pi}{T}\)被称作基频，并且 \[ \alpha_k = \cfrac{1}{T} \int_{-T/2}^{T/2} X(t) \exp(-\mathrm{i}\omega_kt)\mathrm{d}t . \] 而如果\(X(t)\)是非周期函数，则对于给定的一个\(T\)，上式在区间\(\left[-\cfrac{T}{2},\cfrac{T}{2}\right]\)内仍成立，而在该区间外，表达式右端不再等于左端，而是对\(X(t)\)基于区间\(\left[-\cfrac{T}{2},\cfrac{T}{2}\right]\)做周期延拓。
此时令\(T\rightarrow \infty\)，上式中q求和将被表示为积分，进而得到我们熟悉的傅里叶变换： \[ \begin{eqnarray} \hat{X}(\omega) & = & \int_{-\infty}^\infty X(t) \exp (-\mathrm{i}\omega t) \mathrm{d}t , \\ X(t) & = & \cfrac{1}{2\pi} \int_{-\infty}^\infty \hat{X}(\omega) \exp (\mathrm{i}\omega t) \mathrm{d}\omega , \end{eqnarray} \]
积分和的形式可以简单记为 \[ \sum_k f(x_k) \Delta x_k \stackrel{\Delta x_k\rightarrow 0}{\longrightarrow} \int f(x) \mathrm{d}x , \] 其中，\(\Delta x_k = x_k - x_{k-1}\)。这里要注意\(\Delta x_k\)的形式和前面\(x_k\)的形式保持一致。
需要注意的是，函数\(X(t)\)的傅里叶变换存在的充分条件是其在无限区间内绝对可积，即 \[ \int_{-\infty}^\infty \left| X(t) \right| \mathrm{d} t < +\infty . \] 但这并非必要条件。 当引入广义函数的概念后，许多不满足绝对可积条件的函数也能进行傅里叶变换。
随机过程的谱分析：功率谱密度
对于宽平稳随机过程\(\mathbb{X}(t)\)，我们仍然可以将上述过程进行到 \[ \mathbb{X}(t) = \cfrac{1}{2\pi} \sum_{k=-\infty}^\infty \left(\int_{-T/2}^{T/2} X(s) \exp(-\mathrm{i} \cfrac{2k\pi}{T} s)\mathrm{d}s\right) \exp (\mathrm{i} \cfrac{2k\pi}{T} t) \cfrac{2\pi}{T} . \] 然而，此后并不能直接令\(T\rightarrow \infty\)来得到\(\mathbb{X}\)的傅里叶变换，因为宽平稳过程在无穷远处并不能保证绝对收敛，从而不满足绝对可积这一条件。
此时我们可以另辟蹊径，既然不能考察\(\mathbb{X}\)本身，是否可以考察其相关函数\(R_{\mathbb{X}}(\tau)\)呢？答案是肯定的。
我们从这一积分式开始 \[ \int_{-T/2}^{T/2} \mathbb{X}(t) \exp(-\mathrm{i} \omega t)\mathrm{d}t \]
注意这个积分式并非\(\mathbb{X}\)的傅里叶变换，因为虽然这里的变量是连续的，但积分区间并非无穷。
取该积分的模平方的期望，乘以\(\cfrac{1}{T}\)，再令\(T\rightarrow\infty\)，即 \[ \lim_{T\rightarrow\infty} \cfrac{1}{T} E \left| \int_{-T/2}^{T/2} \mathbb{X}(t) \exp(-\mathrm{i} \omega t)\mathrm{d}t \right| ^2 \]
这里取模方的过程实际上损失了这段信号的相位信息，得到的结果可以认为是这段信号的“能量”，继而再乘以\(\cfrac{1}{T}\)并取极限后得到的结果可以认为是“能量密度”。比如，若\(\mathbb{X}\)是一段电信号，代表单位电阻上的电流\(I\)，那么其对时间\(t\)积分后取模方，再乘以\(\cfrac{1}{T}\)所对应的量纲应该是\(I\)的功率；若\(\mathbb{X}\)表示作用在单位质量上的力\(F\)，那么其对时间\(t\)积分后取模方，再乘以\(\cfrac{1}{T}\)所对应则是\(F\)的功率。
进一步计算该式，
\[ \begin{eqnarray} \cfrac{1}{T} E \left| \int_{-T/2}^{T/2} \mathbb{X}(t) \exp(-\mathrm{i} \omega t)\mathrm{d}t \right| ^2 & = & \cfrac{1}{T} E \left( \int_{-T/2}^{T/2} \mathbb{X}(t) \exp(-\mathrm{i} \omega t)\mathrm{d}t \right) \overline{ \left( \int_{-T/2}^{T/2} \mathbb{X}(s) \exp(-\mathrm{i} \omega s)\mathrm{d}s \right) } \\ & = & \cfrac{1}{T} \int_{-T/2}^{T/2} \int_{-T/2}^{T/2} E\left( \mathbb{X}(t) \overline{\mathbb{X}(s)} \right) \exp (-\mathrm{i} \omega (t-s)) \mathrm{d}t \mathrm{d}s \end{eqnarray} \]
其中，\(E\left( \mathbb{X}(t) \overline{\mathbb{X}(s)} \right)\)是\(\mathbb{X}\)的自相关函数\(R_\mathbb{X}(t,s) = R_\mathbb{X}(t-s)\)（\(\mathbb{X}\)是宽平稳的）。
于是，上式可以继续写为 \[ \cdots = \cfrac{1}{T} \int_{-T/2}^{T/2} \int_{-T/2}^{T/2} R_\mathbb{X}(t-s) \exp (-\mathrm{i} \omega (t-s)) \mathrm{d}t \mathrm{d}s \] 这里被积函数看似有两个变量\(t, s\)，实际上只与二者之差有关系，于是我们可以考虑换元。令\(u=t-s, v=t+s\)，上式可以写为 \[ \begin{eqnarray} \cdots & = & \int_{-T}^{T} \left( 1- \cfrac{|u|}{T} \right) R_\mathbb{X}(u) \exp (-\mathrm{i} \omega u) \mathrm{d}u \\ & \stackrel{T \rightarrow \infty}{\longrightarrow} & \int_{-\infty}^{\infty} R_\mathbb{X}(u) \exp (-\mathrm{i} \omega u) \mathrm{d}u \end{eqnarray} \]
关于多元积分的换元，这里不再过多赘述了。主要需要注意：
- 被积函数中自变量的替换；
- 积分元 \(\mathrm{d}t\mathrm{d}s = \left| \det \left( \cfrac{\partial(t,s)}{\partial(u,v)} \right) \right| \mathrm{d}u \mathrm{d} v\)；
- 积分区间的需要对应考虑。
这正好是\(\mathbb{X}\)相关函数\(R_\mathbb{X}\)的傅里叶变换，可以记为 \[ S_\mathbb{X} (\omega) = \int_{-\infty}^{\infty} R_\mathbb{X}(u) \exp (-\mathrm{i} \omega u) \mathrm{d}u . \] \(S_\mathbb{X}\)又被称为\(\mathbb{X}\)的功率谱密度(Power Spectral Density, PSD)。宽平稳过程\(\mathbb{X}\)的功率谱密度实际上就是其自相关函数的傅里叶变换。
相应的傅里叶变换对就表示为 \[ \begin{eqnarray} S_\mathbb{X} (\omega) & = & \int_{-\infty}^{\infty} R_\mathbb{X}(u) \exp (-\mathrm{i} \omega u) \mathrm{d}u , \\ R_\mathbb{X}(u) & = & \cfrac{1}{2\pi} \int_{-\infty}^\infty S_\mathbb{X} (\omega) \exp (\mathrm{i}\omega u) \mathrm{d}\omega , \end{eqnarray} \] 令逆变换中\(u=0\)，则有 \[ \begin{eqnarray} E \left| \mathbb{X}(t) \right| ^2 & = & R_\mathbb{X}(0) \\ & = & \cfrac{1}{2\pi} \int_{-\infty}^\infty S_\mathbb{X} (\omega) \mathrm{d}\omega \end{eqnarray} \] 即功率谱密度在无穷区间上的积分是一个常量，而功率谱密度本身反应了随机过程在每一个频点上的功率大小。
从物理概念的角度入手，能量、功率本身应该是非负的，因此功率谱密度显然应该是非负的；而从数学角度来看，前面一篇文章已经介绍过，宽平稳过程\(\mathbb{X}(t)\)的相关函数\(R_\mathbb{X}\)是正定的，因此，其傅里叶变换得到的功率谱密度也是非负的。
功率谱密度的性质
非线性性质
由于功率谱密度是一个二阶量，一个宽平稳过程的线性变换后，相应的功率谱密度应该是 \[ S_{\alpha\mathbb{X}}(\omega) = \left| \alpha \right| ^2 S_\mathbb{X}(\omega) . \]
同样地，两段宽平稳过程\(\mathbb{X},\mathbb{Y}\)之和的功率谱密度，通常不等于各自功率谱密度之和，而是相差一个交叉项 \[ S_{\mathbb{X} + \mathbb{Y}}(\omega) = S_\mathbb{X}(\omega) + S_\mathbb{Y}(\omega) + 2S_\mathbb{XY}(\omega) , \] 其中，\(S_\mathbb{XY}(\omega)\)被称作\(\mathbb{X}\)和\(\mathbb{Y}\)的互功率谱密度，是它们的互相关函数的傅里叶变换。
若\(\mathbb{X}\)是实函数，则其功率谱密度是偶函数。
证明： \[ \begin{eqnarray} S_\mathbb{X} (\omega) & = & \int_{-\infty}^\infty R_\mathbb{X}(u)\exp(-\mathrm{i}\omega u) \mathrm{d}u \\ & = & \int_{-\infty}^\infty R_\mathbb{X}(u) (\cos \omega u + \mathrm{i}\sin \omega u) \mathrm{d}u , \end{eqnarray} \] 其中，\(R_\mathbb{X}(u) \sin \omega u\)这一项是奇函数，这一部分在对称区间内积分为0，因此上式可以继续写为 \[ \begin{eqnarray} \cdots & = & \int_{-\infty}^\infty R_\mathbb{X}(u) \cos \omega u \mathrm{d}u \\ & = & 2\int_0^\infty R_\mathbb{X}(u) \cos \omega u \mathrm{d}u , \end{eqnarray} \] 于是， \[ \begin{eqnarray} S_\mathbb{X} (-\omega) & = & 2\int_0^\infty R_\mathbb{X}(u) \cos (-\omega u) \mathrm{d}u\\ & = & 2\int_0^\infty R_\mathbb{X}(u) \cos \omega u \mathrm{d}u \\ & = & S_\mathbb{X} (\omega) , \end{eqnarray} \] 即，\(S_\mathbb{X} (\omega)\)是偶函数。证毕。
另外关于相关函数，有这样一个不等式 \[ R_\mathbb{X}(0) - R_\mathbb{X}(n\tau) \geq \cfrac{1}{4^n}(R_\mathbb{X}(0) - R_\mathbb{X}(2^n\tau)) , \] 实际上要证明这个不等式，只需要证明\(n=1\)情况下成立即可，其后可以通过数学归纳法证明。
证明：
\(n=1\)时，上述不等式等价于\(3R_\mathbb{X}(0) - 4R_\mathbb{X}(\tau) + R_\mathbb{X}(2\tau) \geq 0 .\)
由于宽平稳过程的自相关函数\(R_\mathbb{X}\)是正定的，由定义，对于\(\forall n \in \mathbb{N}^+\)，取\(\forall \alpha = (\alpha_1, \cdots \alpha_n)^\top\)，都有 \[ \alpha ^\top \left[\begin{array}[] \\ R_\mathbb{X}(0) & R_\mathbb{X}(\tau) & R_\mathbb{X}(2\tau) \\ R_\mathbb{X}(\tau) & R_\mathbb{X}(2\tau) & R_\mathbb{X}(0) \\ R_\mathbb{X}(2\tau) & R_\mathbb{X}(0) & R_\mathbb{X}(\tau) \end{array} \right] \alpha \geq 0 . \] 上式可以表示为这样的形式 \[ f_1(\alpha) R_\mathbb{X}(0) + f_2(\alpha) R_\mathbb{X}(\tau) + f_3(\alpha) R_\mathbb{X}(2\tau) \geq 0 , \] 其中\(f_1, f_2, f_3\)的具体形式省略，且对\(\alpha\)的取值只需要确保\(f_1(\alpha) = 3, f_2(\alpha) = 4, f_3(\alpha) = 1\)即可。证毕。
实际上，利用功率谱密度函数的性质也可以证明。
证明：
根据功率谱密度与相关函数的关系可知 \[ \begin{eqnarray} R_\mathbb{X}(0) & = & \cfrac{1}{2\pi} \int_{-\infty}^\infty S_\mathbb{X} (\omega) \mathrm{d}\omega , \\ R_\mathbb{X}(u) & = & \cfrac{1}{2\pi} \int_{-\infty}^\infty S_\mathbb{X} (\omega) \exp (\mathrm{i}\omega u) \mathrm{d}\omega , \\ \end{eqnarray} \] 于是， \[ \begin{eqnarray} 3R_\mathbb{X}(0) - 4R_\mathbb{X}(\tau) + R_\mathbb{X}(2\tau) & = & \cfrac{1}{2\pi} \int_{-\infty}^\infty S_\mathbb{X} (\omega) \left[3-4\exp(\mathrm{i}\omega \tau) + \exp(\mathrm{i}\omega 2\tau)\right] \mathrm{d}\omega \\ & = & \cfrac{1}{2\pi} \int_{-\infty}^\infty S_\mathbb{X} (\omega) \left(3-4\cos\omega\tau + \cos2\omega\tau\right) \mathrm{d}\omega , \end{eqnarray} \] 其中， \[ \begin{eqnarray} 3-4\cos(\omega\tau) + \cos(2\omega\tau) & = & 3-4\cos(\omega\tau) + 2\cos^2(\omega\tau) - 1 \\ & = & 2(1-\cos\omega \tau)^2 , \end{eqnarray} \] 于是，上式可继续写作 \[ \begin{eqnarray} \cdots & = & \cfrac{1}{\pi} \int_{-\infty}^\infty S_\mathbb{X} (\omega) (1-\cos\omega \tau)^2 \mathrm{d}\omega \end{eqnarray} , \] 被积函数中，\(S_\mathbb{X}\)和\((1-\cos\omega \tau)^2\)都是非负的，因此积分结果也是非负的，即 \[ 3R_\mathbb{X}(0) - 4R_\mathbb{X}(\tau) + R_\mathbb{X}(2\tau) = \cfrac{1}{\pi} \int_{-\infty}^\infty S_\mathbb{X} (\omega) (1-\cos\omega \tau)^2 \mathrm{d}\omega \geq 0 . \] 证毕。
卷积与功率谱密度
现在我们考察随机过程通过一个线性系统后，其功率谱密度将有何变化。
设\(\mathbb{X}(t)\)是一个宽平稳的随机过程，现用一线性时不变系统\(h\)作用与它，得到 \[ \mathbb{Y}(t) = (h \ast \mathbb{X}) (t) = \int_{-\infty}^\infty h(t-\tau) \mathbb{X}(\tau) \mathrm{d}\tau . \] 那么\(\mathbb{Y}\)的相关函数和功率谱密度将是怎样的呢？
首先看相关函数 \[ \begin{eqnarray} R_\mathbb{Y}(t,s) & = & E\left( \mathbb{Y}(t) \overline{\mathbb{Y}(s)} \right) \\ & = & E\left( \int_{-\infty}^\infty h(t-\tau) \mathbb{X}(\tau) \mathrm{d}\tau \right) \overline{ \left( \int_{-\infty}^\infty h(s-r) \mathbb{X}(r) \mathrm{d}r \right) } \\ & = & \int_{-\infty}^\infty \mathrm{d}\tau \int_{-\infty}^\infty \mathrm{d}r h(t-\tau) \overline{h(s-r)} E(\mathbb{X}(\tau) \overline{\mathbb{X}(r)}) \\ & = & \int_{-\infty}^\infty \mathrm{d}\tau \int_{-\infty}^\infty \mathrm{d}r h(t-\tau) \overline{h(s-r)} R_\mathbb{X}(\tau-r) . \end{eqnarray} \]
如何看一个积分式是否是卷积呢？主要看如下两点：
- 所有被积函数的自变量之和刚好把积分变量消掉；
- 卷积的结果是一个函数，其自变量就是被积函数自变量之和的结果。
目前来看上述积分还不满足卷积的定义。实际上，我们构造\(h^\prime(t) = \overline{h(-t)}\)，那么上式可继续写为 \[ \begin{eqnarray} R_\mathbb{Y}(t,s) & = & \int_{-\infty}^\infty \mathrm{d}\tau \int_{-\infty}^\infty \mathrm{d}r h(t-\tau) h^\prime(r-s) R_\mathbb{X}(\tau-r) \\ & = & (h\ast h^\prime \ast R_\mathbb{X}) (t-s). \end{eqnarray} \] 即随机过程\(\mathbb{Y}(t) = (h \ast \mathbb{X}) (t)\)仍然是一个宽平稳过程。
进而我们可以根据卷积定理知道，\(\mathbb{Y}\)的功率谱密度可以表示为 \[ S_\mathbb{Y}(\omega) = S_\mathbb{X}(\omega) H(\omega) H^\prime (\omega) , \] 其中\(H\)被称作系统的传递函数。现计算\(H^\prime\)： \[ \begin{eqnarray} H^\prime (\omega) & = & \int_{-\infty}^\infty h^\prime(t) \exp(-\mathrm{i}\omega t) \mathrm{d}t \\ & = & \int_{-\infty}^\infty \overline{h(-t)} \exp(-\mathrm{i}\omega t) \mathrm{d}t \\ & = & \overline{ \int_{-\infty}^\infty h(-t) \exp(\mathrm{i}\omega t) \mathrm{d}t } \\ & \stackrel{t^\prime = -t}{=} & \overline{ \int_{-\infty}^\infty h(t^\prime) \exp(-\mathrm{i}\omega t^\prime) \mathrm{d} t^\prime} \\ & = & \overline{H(\omega)}， \end{eqnarray} \] 于是， \[ \begin{eqnarray} S_\mathbb{Y}(\omega) & = & S_\mathbb{X}(\omega) H(\omega) H^\prime (\omega) \\ & = & S_\mathbb{X}(\omega) H(\omega) \overline{H(\omega)} \\ & = & S_\mathbb{X}(\omega) \left| H(\omega) \right| ^2， \end{eqnarray} \] 即宽平稳随机过程\(\mathbb{X}\)通过线性系统变换得到新的宽平稳随机过程\(\mathbb{Y}\)，二者的功率谱密度相差因子正是系统的传递函数的模平方。