Exercice 1
On définit la densité \(f_a\) par \(f_a(x) = \frac{a}{\pi(x^2 + a^2)}\) pour \(a>0\). Si \(X \sim f_a, Y \sim f_b, X \perp\!\!\!\perp Y\) quelle est la densité de la loi de \(X+Y\)?
Suggestion: passez par les fonctions caractéristiques.
Exercice 2 (Marche symétrique arrêtée)
On considère une suite de variables aléatoires \((X_n)_{n \geq 1}\) sur \((\Omega,\mathcal{A},\mathbb{P})\) de loi \(\mathbb{P}(X_1=1)=1/2=1-\mathbb{P}(X_1=-1)\). On se donne un entier \(x\) entre \(0\) et \(n\) et on pose pour \(t\geq 1\), \(S_t= x + \sum_{k=1}^t X_k\), et \(\tau_x=\inf\{t \geq 0, S_t=0 \text{ ou } S_t=n\}\). Le but de l’exercice est de calculer \(u_x=\mathbb{E}(\tau_x)\).
- \(\tau_x\) est-elle une variable aléatoire?
- Calculer \(u_0\) et \(u_n\).
- Écrire une équation reliant \(u_k\), \(u_{k+1}\) et \(u_{k-1}\).
- Poser \(v_k=u_k-u_{k-1}\) et en déduire \(u_k\), puis \(\max_{k \in [0,n]} u_k\).
- Ecrire un programme permettant de simuler des réalisations aléatoires de \(\tau_x\).
- Estimer numériquement les \(u_k\) à partir des simulations de la question précédente.
- Représenter graphiquement les estimations de \(u_k\) en fonction de \(k\).
Exercice 3 (Théorème d’approximation de Weierstrass)
Soit \(f : [0, 1] → \mathbb{R}\) une fonction continue.
Soit \(S_n\) une variable aléatoire distribuée selon une loi binomiale de paramètres \(n\) et \(x \in (0,1)\).
Montrer que :
\[ \lim_n \sup_{0\leq x \leq 1} \left| f(x) - \sum_{k=0}^n \binom{n}{k} x^k (1-x)^{n-k} f\left(\frac{k}{n}\right)\right| = 0 \]
Suggestion: Utiliser \[ \mathbb{E}(Z) = \mathbb{E}(Z \mathbb{I}_A ) + \mathbb{E}(Z \mathbb{I}_{A^c} ) \] avec \(Z = f (x) − f (S_n/n )\) et \[ A = \{|S_n/n − x| > δ\}, \]
Exercice 4 (Fonctions quantiles)
Montrer que si \((f_n)_n\) est une suite de fonctions croissantes sur \([a,b]\subset \mathbb{R}\) qui converge simplement vers \(f\) une autre fonction croissante sur \([a,b]\) en tout point de continuité de \(f\), alors la suite \((f_n^\leftarrow(y))\) converge simplement vers \(f^\leftarrow(y)\) en tout \(y\in [f(a),f(b)]\) où \(f^\leftarrow\) est continue.
Soit \(F\) une fonction de répartition, on définit la fonction quantile associée \(F^\leftarrow\) par
\[F^{\leftarrow}(p) = \inf \{ x : F(x) \geq p\} \qquad \text{ pour } p\in ]0,1[ \, .\]
Vérifier que si deux fonctions de répartitions ont même fonction quantiles alors elles sont égales.
Dans cette définition \(F\) est une fonction de répartition, \(F^\leftarrow\) la fonction quantile associée.
Montrer que pour tout \(x\in \mathbb{R}, p\in ]0,1[\),
- \(F^\leftarrow (p)\leq x \Leftrightarrow p\leq F(x).\)
- \(F\circ F^\leftarrow(p) \geq p\) avec égalité si et seulement si il existe \(x\) tel que \(F(x)=p.\)\ Si \(F\circ F^{\leftarrow}(p)>p\) alors \(F^{\leftarrow}\) est discontinue en \(p\).
- \(F^\leftarrow\circ F(x)\leq x\).\ Si \(F^\leftarrow\circ F(x)< x\), alors il existe \(\epsilon>0\) tel que \(F(x-\epsilon)=F(x)\).
- \((F\circ G)^\leftarrow = G^\leftarrow \circ F^\leftarrow\)
Exercice 5 (Statistiques d’ordre)
Si \(Y_{1:n}\leq Y_{2:n}\leq\ldots\leq Y_{n:n}\) forme les statistiques d’ordre d’un \(n\)-échantillon de la loi exponentielle d’espérance \(1\), et si \(X_{1:n}\leq X_{2:n}\leq\ldots\leq X_{n:n}\) désigne les statistiques d’ordre d’un \(n\)-échantillon d’une loi de fonction de répartition \(F\) qui admet une densité partout positive, montrer que
\[\left( X_{1:n}, X_{2:n},\ldots, X_{n:n} \right) \sim \left( F^\leftarrow (1-\exp(-Y_{1:n})),\ldots, F^\leftarrow(1-\exp(-Y_{n:n}))\right)\, .\]
La fonction quantile empirique \(F_n^\leftarrow\) est la fonction quantile associée à la fonction de répartition empirique \(F_n\). Si les points de l’échantillon sont deux à deux distincts
\[F_n^\leftarrow\left(p\right) = X_{k:n} \, \qquad \text{ pour } \frac{k-1}{n}< p\leq \frac{k}{n} \, .\]
Soit \(F\) une fonction de répartition qui est dérivable en \(F^{\leftarrow}(p)\) de dérivée non nulle notée \(f(p)\) pour une valeur \(p\in ]0,1[\). Montrer que
\[\sqrt{n} \left( F_n^\leftarrow(p) -F^\leftarrow(p)\right) + \sqrt{n}\frac{1}{f(p)}\left(F_n(F^\leftarrow(p)) -p \right) = o_P(1) \, . \]
Quelle est la loi limite de \(\sqrt{n} \left( F_n^\leftarrow(p) -F^\leftarrow(p)\right)\) ?
Exercice 6 (Convergences (relations))
Si \(X_1, \ldots, X_n, \ldots\) sont définies sur le même espace probabilisé, et convergent en distribution vers \(Z\) (définie sur le même espace), peut-on affirmer que :
- \(X_1, \ldots, X_n, \ldots\) convergent en probabilité vers \(Z\) ?
- \(X_1, \ldots, X_n, \ldots\) convergent presque sûrement vers \(Z\) ?
Exercice 7 (Convergence en distribution vers une constante)
Si \(X_1, \ldots, X_n, \ldots\) sont définies sur le même espace probabilisé, et convergent en distribution vers \(c\) (une variable aléatoire constante/dégénérée) égale à \(c\) avec probabilité 1), montrer que \(X_1, \ldots, X_n, \ldots\) converge en probabilité vers \(c\).
Exercice 8 (Lemme de Slutsky)
Si les suites de variables aléatoires \(X_1, \ldots, X_n, \ldots\), \(Y_1, \ldots, Y_n, \ldots\) sont définies sur le même espace probabilisé, et convergent respectivement en distribution vers \(X\) et vers \(c\) (constante), montrer que
- \(X_nY_n \rightsquigarrow cX\)
- \(X_n/Y_n \rightsquigarrow X/c\) si \(c\neq 0\)
- \(g(X_n, Y_n) \rightsquigarrow g(X,c)\) si \(g : \mathbb{R}^2 \to \mathbb{R}\) est continue
Exercice 9 (representation-mediane-uniforme) Dans cet exercice \(Y_1, Y_2, \ldots, Y_{n+1}\) sont i.i.d. exponentielles. On suppose \(n\) impair montrer que
\[\frac{\sum_{i=1}^{\lfloor(n+1)/2\rfloor} Y_i}{\sum_{i=1}^{n+1} Y_i}\]
est distribuée comme la médiane empirique d’un \(n\)-échantillon de la loi uniforme sur \([0,1]\).
Exercice 10 (tcl-mediane-uniforme)
Dans cet exercice \(Y_1, Y_2, \ldots, Y_{n+1}\) sont i.i.d. exponentielles.
Montrer que
\[\frac{\sum_{i=1}^{k} Y_i}{\sum_{i=1}^{n+1} Y_i}\]
est distribué comme la \(k^{\text{eme}}\) statistique d’ordre d’un \(n\) échantillon de ;la loi uniforme sur \([0,1]\)
Pour \(n\) pair, \(k=n/2\),
\[\sqrt{n}\left(\frac{\sum_{i=1}^{k} Y_i}{\sum_{i=1}^{n+1} Y_i}- \frac{1}{2} \right)\]
converge en distribution vers une Gaussienne centrée. Précisez la la variance de la loi limite.
Suggestion : utilisez le lemme de Slutsky (Exercice 8).
Exercice 11 (Lemme de Scheffé)
- Vérifier que la convergence simple des densités vers une densité implique la convergence en distribution.
- La réciproque est-elle vérifiée? A-t-elle un sens bien défini?
Exercice 12 (Convergence Poisson/Gaussienne)
Si \(X_n \sim \text{Poisson}(n)\), montrer que \(\frac{X_n -n}{\sqrt{n}} \rightsquigarrow \mathcal{N}(0,1)\)
Exercice 13 (Convergence Gamma/Gaussienne)
Si \(X_n \sim \text{Gamma}(n,\lambda)\), montrer que \(\frac{X_n - n/\lambda}{\sqrt{n}} \rightsquigarrow \mathcal{N}(0,1/\lambda)\)
Exercice 14 (Convergence Maxima d’échantillon uniforme)
Si \(X_1, \ldots, X_n, \ldots \sim_{\text{i.i.d.}} \text{Unif}[0,1]\), \(M_n = \max(X_1, \ldots, X_n)\), pouvez-vous trouvez \((a_n, b_n)_n\) avec \(a_n >0\), tels que \(\left((M_n -b_n)/a_n\right)_n\) convergent en loi vers une variable aléatoire non-dégénérée?
Exercice 15 (Loi faible des grands nombres)
Vérifier la loi faible des grands nombres si on suppose que les sommants \(X_i\) ont un moment d’ordre \(4\).