复旦大学-861概率论与数理统计-2021年-解析

复旦大学861-861概率论与数理统计-2021年

一、 (20 分) 随机变量 $X, Y$ 相互独立, 均服从参数为 $p$ 的几何分布, 记 $Z=$ $\max \{X, Y\}$, 试求

(1) 随机向量 $(Z, X)$ 的联合分布;

(2) $X$ 关于 $Z$ 的条件分布.

Solution: (1) 因为 $X, Y$ 服从参数为 $p$ 的几何分布, 有

$P(X=k)=P(Y=k)=p(1-p)^{k-1}, k=1,2,3, \cdots,$

考虑 $(Z, X)$ 的联合分布, 当 $i>j$ 时, 有

$P(Z=i, X=j)=P(Y=i, X=j)=p^{2}(1-p)^{i+j-2},$

当 $i=j$ 时, 有

$\begin{aligned} P(Z=i, X=j) &=\sum_{k=1}^{j} P(Y=k, X=j) \\ &=p(1-p)^{j-1} \sum_{k=1}^{j} p(1-p)^{k-1} \\ &=p(1-p)^{j-1}\left[1-(1-p)^{j}\right] \end{aligned}$

当 $i<j$ 时, 显然 $P(Z=i, X=j)=0$.
综上所述, 有 $(Z, X)$ 的联合分布是

$P(Z=i, X=j)= \begin{cases}p^{2}(1-p)^{i+j-2}, & i>j \\ p(1-p)^{j-1}\left[1-(1-p)^{j}\right], & i=j \\ 0, & i<j\end{cases}$

(2)先求 $Z$ 的边际分布, 有

$\begin{aligned} P(Z=i) &=\sum_{j=1}^{\infty} P(Z=i, X=j) \\ &=\sum_{j=1}^{i-1} P(Z=i, X=j)+P(Z=i, X=i) \\ &=p(1-p)^{i-1}\left[1-(1-p)^{i-1}\right]+p(1-p)^{i-1}\left[1-(1-p)^{i}\right], \end{aligned}$

因此, $X$ 关于 $Z$ 的条件分布是

$P(X=j \mid Z=i)= \begin{cases}\frac{p(1-p)^{j-1}}{\left[1-(1-p)^{i-1}\right]+\left[1-(1-p)^{i}\right]}, & i>j, \\ \frac{(1-p)\left[1-(1-p)^{i}\right]}{\left[1-(1-p)^{i-1}\right]+\left[1-(1-p)^{i}\right]}, & i=j, \\ 0, & i<j .\end{cases}$

二、 (20 分) 将 $k$ 个不同的球随机放人 $n$ 个盒子中 $(k \geq n)$, 用 $X$ 表示空盒的个 数, 试求 $E X$ 与 $D X$.

Solution: 令

$X_{i}= \begin{cases}1, & \text { 第 } i \text { 个盒子为空盒 } \\ 0, & \text { 第 } i \text { 个盒子不为空盒 }\end{cases}$

则有 $X_{1}, \cdots, X_{n}$ 同服从 $B\left(1,\left(1-\frac{1}{n}\right)^{k}\right)$, 但不独立. 设 $Y=\sum_{k=1}^{n} X_{k}$ 是总的空盒数, 有

$\begin{aligned} E Y=n E X_{1}=n\left(1-\frac{1}{n}\right)^{k}=\frac{(n-1)^{k}}{n^{k-1}} \text {. 至于方差, 由于 } \\ E\left(Y^{2}\right)=E\left(\sum_{i=1}^{n} \sum_{j=1}^{n} X_{i} X_{j}\right)=n E\left(X_{1}^{2}\right)+n(n-1) E\left(X_{1} X_{2}\right) \end{aligned}$

其中 $E\left(X_{1}^{2}\right)=\frac{(n-1)^{k}}{n^{k}}$, 而

$E\left(X_{1} X_{2}\right)=P\left(X_{1}=1, X_{2}=1\right)=\left(\frac{n-2}{n}\right)^{k} \text {, }$

故有 $E\left(Y^{2}\right)=\frac{(n-1)^{k}}{n^{k-1}}+\frac{(n-1)(n-2)^{k}}{n^{k-1}}$, 因此有

$\begin{aligned} D(Y) &=E\left(Y^{2}\right)-(E Y)^{2} \\ &=\frac{(n-1)^{k}}{n^{k-1}}+\frac{(n-1)(n-2)^{k}}{n^{k-1}}-\frac{(n-1)^{2 k}}{n^{2 k-2}} . \end{aligned}$

三、 (20 分) 设 $\left\{X_{i}\right\}$ 是来自标准正态分布的随机样本, 尝试解决以下问题

(1) 试求 $S_{n}=\sum_{i=1}^{n} X_{i}$ 的分布;

(2) 试求 $\lim _{n \rightarrow \infty} P\left(\left|\frac{1}{n} S_{n}\right| \leq \frac{1}{\sqrt{n}}\right)$.

Solution: (1)由正态分布的再生性(可加性), 因为 $X_{i} \sim N(0,1)$, 所以

$S_{n}=\sum_{i=1}^{n} X_{i} \sim N(0, n)$

(2)因为 $\frac{S_{n}}{n} \leq N\left(0, \frac{1}{n}\right)$, 因此有

$\lim _{n \rightarrow \infty} P\left(\left|\frac{1}{n} S_{n}\right| \leq \frac{1}{\sqrt{n}}\right)=\lim _{n \rightarrow \infty} P\left(\sqrt{n}\left|\frac{1}{n} S_{n}\right| \leq 1\right)=\Phi(1)-\Phi(-1)$

四、(40 分) 设 $\left\{X_{i}\right\}$ 是来自均匀分布 $U(0, \theta)$ 的简单随机样本, 解决以下问题

(1) 求 $\theta$ 的矩估计及其均方误差;

(2) 求 $\theta$ 的极大似然估计及其均方误差;

(3) 求 $\theta$ 的充分完备统计量;

(4) 求 $\theta$ 的一致最小方差无偏估计;

(5) 给出一个 $\frac{1}{\theta}$ 的无偏估计;

Solution: (1)由于 $E(X)=\int_{0}^{\theta} x f(x) d x=\frac{\theta}{2}$, 由替换原理, 知 $\hat{\theta}=2 \bar{x}$. 根据

$\operatorname{Var}(2 \bar{x})=\frac{4}{n} \operatorname{Var}\left(X_{1}\right)=\frac{\theta^{2}}{3 n}$

以及 $\hat{\theta}$ 的无偏性, 知 $\operatorname{mse}(\hat{\theta})=\frac{\theta^{2}}{3 n}$.
(2)样本对应的似然函数是

$L(\theta)=\frac{1}{\theta^{n}} I_{\left\{x_{(n)}<\theta\right\}},$

要使似然函数尽可能大, 则 $\theta$ 要在定义域内尽可能小, 所以 $\theta$ 的极大似然估计是

$\hat{\theta}_{L}=X_{(n)},$

由于 $\frac{X_{(n)}}{\theta} \sim \operatorname{Be}(n, 1)$, 很快得到

$\begin{gathered} E\left(X_{(n)}\right)=\frac{n}{n+1} \theta \\ \operatorname{Var}\left(X_{(n)}\right)=\frac{n \theta^{2}}{(n+2)(n+1)^{2}} \end{gathered}$

因此得到

$\operatorname{mse}\left(\hat{\theta}_{L}\right)=\operatorname{Var}\left(X_{(n)}\right)+\left(E\left(X_{(n)}\right)-\theta\right)^{2}=\frac{2 \theta^{2}}{(n+1)(n+2)}$

(3)由因子分解定理可知 $T=X_{(n)}$ 为充分统计量, 下证其完备.
设函数 $g(\cdot)$ 满足对 $\forall \theta>0, E_{\theta}(g(T))=0$, 即有

$\int_{0}^{\theta} g(t) \frac{n t^{n-1}}{\theta^{n}} d t=0$

等价于 $\int_{0}^{\theta} t^{n-1} g(t) d t=0$ 对任意 $\theta>0$ 成立, 等式两边对 $\theta$ 求导有 $\theta^{n-1} g(\theta)=0$ 对任意 $\theta>0$ 成立, 故可以得到 $g(\theta) \equiv 0, \forall \theta>0$, 所以 $T=X_{(n)}$ 是完备统计量.
(4)由于 $E\left(X_{(n)}\right)=\frac{n}{n+1} \theta$, 令 $W=\frac{n+1}{n} X_{(n)}$ 有 $E(W)=\theta$, 而 $T=X_{(n)}$ 是 $\theta$ 的充分 完备统计量, 根据 Lehmann-Scheffe 定理, $W=\frac{n+1}{n} X_{(n)}$ 是 UMVUE.
(5)可以发现, $E\left(\frac{1}{X_{(n)}}\right)=\int_{0}^{\theta} \frac{1}{x} \cdot \frac{n x^{n-1}}{\theta^{n}} d x=\frac{n}{\theta^{n}} \int_{0}^{\theta} x^{n-2} d x=\frac{n}{(n-1) \theta}$, 因此有 $\frac{1}{\theta}$ 的无偏估计是 $\frac{n-1}{n X_{(n)}}$.

五、 (30 分) $X_{1}, X_{2}, \cdots, X_{n}$ 是来自泊松分布 $\operatorname{Poisson}(\theta)$ 的随机样本, 解决以下问题

(1) 求 $\theta$ 的充分统计量;

(2) 基于该统计量求 $\theta$ 的 $1-\alpha$ 置信区间;

(3) 这个置信区间具有哪些优良性?

Solution: (1)样本对应的似然函数是 $L(\theta)=\frac{\theta^{\sum_{i=1}^{n} x_{i}}}{x_{1} ! x_{2} ! \cdots x_{n} !} e^{-n \theta}$, 由因子分解定理知 $T=\sum_{i=1}^{n} X_{i} \sim \mathcal{P}(n \theta)$ 是 $\theta$ 的充分统计量.
(2) 考虑反转拒绝域的方法, 讨论假设检验问题

$H_{0}: \theta=\theta_{0} \quad \text { vs } \quad H_{1}: \theta \neq \theta_{0}$

其优良等尾拒绝域应是 $\{T \leq a\} \cup\{T \leq b\}$ 且

$\sup _{\theta<\theta_{0}} P_{\theta}(T \leq a)=\sup _{\theta>\theta_{0}} P_{\theta}(T \geq b)=\frac{\alpha}{2},$

而泊松分布是指数族, 上述上确界实际表明

$P_{\theta_{0}}(T \leq a)=P_{\theta_{0}}(T \geq b)=\frac{\alpha}{2},$

在 $n$ 较大时, 由 N-P 引理, 这是近似 UMPU 检验. 考虑泊松-伽马恒等式

$\begin{aligned} &\sum_{k=m}^{\infty} \frac{(n \theta)^{k}}{k !} e^{-n \theta}=\int_{0}^{n} \frac{\theta^{m}}{\Gamma(m)} x^{m-1} e^{-\theta x} d x \\ &\sum_{k=0}^{m-1} \frac{(n \theta)^{k}}{k !} e^{-n \theta}=\int_{n}^{+\infty} \frac{\theta^{m}}{\Gamma(m)} x^{m-1} e^{-\theta x} d x \end{aligned}$

当样本值 $t_{0}=\sum_{k=1}^{n} x_{k}$ 给定, 我们会在 $P_{\theta_{0}}\left(T \leq t_{0}\right)<\frac{\alpha}{2}$ 或者 $P_{\theta_{0}}\left(T \geq t_{0}\right)<\frac{\alpha}{2}$ 时拒绝原假 设, 反之, $P_{\theta_{0}}\left(T \leq t_{0}\right) \geq \frac{\alpha}{2}$ 且 $P_{\theta_{0}}\left(T \geq t_{0}\right) \geq \frac{\alpha}{2}$ 时接受原假设, 根据泊松-伽马恒等式, 有

$P_{\theta_{0}}\left(T \leq t_{0}\right)=\int_{n}^{+\infty} G_{t_{0}+1, \theta_{0}}(x) d x=\int_{2 \theta_{0} n}^{+\infty} \chi_{2\left(t_{0}+1\right)}^{2}(x) d x \geq \frac{\alpha}{2}$

等价于 $\theta_{0} \leq \frac{\chi_{1-\frac{\alpha}{2}}^{2}\left(2\left(t_{0}+1\right)\right)}{2 n}$, 同理有

$P_{\theta_{0}}\left(T \geq t_{0}\right)=\int_{0}^{n} G_{t_{0}, \theta_{0}}(x) d x=\int_{0}^{2 \theta_{0} n} \chi_{2 t_{0}}^{2}(x) d x \geq \frac{\alpha}{2}$

等价于 $\theta_{0} \leq \frac{\chi_{\frac{\alpha}{2}}^{2}\left(2 t_{0}\right)}{2 n}$, 这说明接受域可以写成

$\bar{W}=\left\{T(X): \frac{\chi_{\frac{\alpha}{2}}^{2}(2 T)}{2 n}<\theta_{0}<\frac{\chi_{1-\frac{\alpha}{2}}^{2}(2(T+1))}{2 n}\right\},$

反转接受域得到置信区间为

$\theta \in\left[\frac{\chi_{\frac{\alpha}{2}}^{2}(2 T)}{2 n}, \frac{\chi_{1-\frac{\alpha}{2}}^{2}(2(T+1))}{2 n}\right] .$

值得注意的是样本的值是位于自由度上的.
(3)由于该置信区间由渐近 UMPU 拒绝域反转得到, 故其是渐近无偏区间, 且比起正态近似 好在它的水平是精确1 $1-\alpha$ 的.

六、 (20 分) 设 $\left\{X_{i}\right\}$ 是来自正态分布 $N\left(\mu, \sigma^{2}\right)$ 的简单随机样本, 考虑假设检验问 题：

$H_{0}: \mu \leq \mu_{0} \text { vs } H_{1}: \mu>\mu_{0}$

(1) 假设 $\sigma^{2}=\sigma_{0}^{2}$ 已知, 该假设检验问题是否存在一致最大功效拒绝域? 如果有请在检验水平 $\alpha$ 下给出它并说明理由, 如果无请说明理由并给出一个检验水平 $\alpha$ 的拒绝域;

(2) 假设 $\sigma^{2}$ 未知, 那么该假设检验问题是否存在一致最大功效拒绝域? 如果有请在检验水平 $\alpha$ 下给出它并说明理由, 如果无请说明理由并给出一个检验水平 $\alpha$ 的拒绝域.

Solution: (1)存在, 当 $\sigma^{2}=\sigma_{0}^{2}$ 已知时, 该样本是单参指数族, 由 N-P 引理, 可以利用充分 统计量构造 UMPT, 即其拒绝域是 $W=\left\{\sum_{k=1}^{n} X_{i}>C\right\}$, 其中 $C$ 使得该拒绝域水平恰为 $\alpha$, 因此必须满足

$\alpha=P_{\mu_{0}}\left(\sum_{k=1}^{n} X_{k}>C\right)=P_{\mu_{0}}\left(\frac{\bar{X}-\mu_{0}}{\sigma / \sqrt{n}}>C_{1}\right),$

因此 $C_{1}=z_{1-\frac{\alpha}{2}}$, 故 UMP 拒绝域是

$W=\left\{\frac{\bar{X}-\mu_{0}}{\sigma / \sqrt{n}}>z_{1-\alpha}\right\} .$

(2)不存在 UMPT, 因为当 $\sigma^{2}$ 末知时, 该样本是双参指数族, 无法构造 UMPT，但存在 UMPUT. 可以通过检验统计量 $T=\frac{\bar{X}-\mu_{0}}{s / \sqrt{n}} \sim \sim \mu_{0} \sim(n-1)$ 来构造一个水平为 $\alpha$ 的拒绝域, 即 $W=\left\{T>t_{1-\alpha}(n-1)\right\}$. 并且可以证明它恰是 UMPUT.