valori <- c(1, 2, 4); prob <- c(0.3, 0.5, 0.2)
praguri <- cumsum(prob) # s_1, s_2, s_3 = 0.3, 0.8, 1
niv <- c(0.2, 0.5, 0.9, 0.3, 0.8) # nivelurile u
nr <- findInterval(niv, praguri, left.open = TRUE) # câte praguri sunt < u
rbind(u = niv, praguri_sub_u = nr, cuantila = valori[nr + 1])
#> [,1] [,2] [,3] [,4] [,5]
#> u 0.2 0.5 0.9 0.3 0.8
#> praguri_sub_u 0.0 1.0 2.0 0.0 1.0
#> cuantila 1.0 2.0 4.0 1.0 2.0Seminarul 4. Funcția cuantilă, metoda inversă și metoda Monte Carlo
Fișă de lucru (fără rezolvări)
Aceasta este fișa de lucru: enunțurile, exemplele rezolvate, scheletele de cod R și răspunsurile finale pentru exercițiile marcate „Dacă timpul permite” și „Pentru acasă”. Rezolvările complete vor fi publicate ulterior.
Ședința fixează, prin exerciții rezolvate matematic și verificate în R, două instrumente pe care le vom folosi în tot restul semestrului. Primul este funcția cuantilă (inversa generalizată a unei funcții de repartiție) împreună cu teorema de universalitate a repartiției uniforme, introduse în Cursul 3 pentru a construi șiruri de variabile aleatoare independente cu repartiții date. Al doilea este simularea: în prima parte a Cursul 4 am văzut cum universalitatea devine o metodă efectivă de generare, metoda inversă, și cum media empirică a unor simulări independente aproximează o medie teoretică, metoda Monte Carlo. Fiecare exercițiu are o rezolvare matematică (Seminar) și una în R (Laborator), iar funcțiile R scrise pe parcurs sunt refolosite de la un exercițiu la altul. Metoda respingerii și simularea prin transformări fac obiectul ședinței următoare (Seminarul 5).
Obiective. La sfârșitul ședinței studentul trebuie să poată:
- calcula funcția cuantilă a unei funcții de repartiție continue, discrete sau mixte (cu salturi și paliere) și folosi echivalența \(F^{-1}(u)\le x\iff u\le F(x)\) pentru a demonstra proprietăți ale cuantilelor (transformări monotone, extreme);
- aplica cele două puncte ale teoremei de universalitate și recunoaște când \(F(X)\) este, sau nu este, uniformă;
- scrie un algoritm de simulare prin metoda inversă pentru o repartiție discretă (căutare secvențială, recurența funcției de masă) sau continuă (inversarea lui \(F\), eventual pe ramuri) și calcula costul lui;
- scrie o probabilitate sau o integrală ca medie, construi estimatorul Monte Carlo, calcula eroarea lui standard, intervalul aproximativ și volumul simulării necesar pentru o precizie dată, absolută sau relativă;
- implementa în R aceste metode și verifica un generator: histograma față de densitate, funcția de repartiție empirică față de cea teoretică, distanța Kolmogorov.
Structura. Breviar; funcția cuantilă: calcul și proprietăți; universalitatea uniformei și metoda inversă; metoda Monte Carlo: eroarea și volumul simulării; exerciții suplimentare; temă. Pentru lecturi suplimentare: (Casella and Berger 2002, sec. 5.6), (Robert and Casella 2004, cap. 2–3), (Devroye 1986, cap. II).
De rezolvat la seminar, în această ordine:
- Exercițiul 1 — funcția cuantilă a unei densități definite pe ramuri, metoda inversă și verificarea generatorului în R;
- Exercițiul 2 — funcția cuantilă a unei repartiții discrete: metoda inversă, ordinea de parcurgere și costul ei, simularea prin recurență;
- Exercițiul 3 (a)–(c) — funcția cuantilă a unei repartiții mixte: saltul, palierul și proprietățile cuantilei;
- Exercițiul 8 — scorul la tir cu arcul: metoda Monte Carlo, eroarea standard, intervalul aproximativ și volumul simulării.
Dacă timpul permite:
- Exercițiul 4 — cuantilele unor transformări și simularea extremelor cu o singură uniformă;
- Exercițiul 5 — repartiția Pareto: momente prin funcția cuantilă, distanța Kolmogorov (
dist_ks); - Exercițiul 10 — probabilități mici: eroarea absolută și eroarea relativă.
Pentru acasă:
- subpunctele rămase din Exercițiul 3: (d) și (e);
- Exercițiile 6, 7 și 9;
- exercițiile suplimentare 11, 12 și 13;
- tema (Secțiunea 6).
Rezolvările complete vor fi publicate ulterior; scheletele de cod R se completează în locurile marcate cu ___.
1 Breviar
În toată nota, \(U,U_1,U_2,\dots\) sunt variabile aleatoare independente, repartizate \(\Unif(0,1)\), iar pentru o funcție de repartiție \(F\) notăm cu \(F^{-1}\) funcția ei cuantilă. Folosim rezultatele din a doua parte a Cursul 3 (Secțiunile 3 din Cursul 3, 4 din Cursul 3 și 5 din Cursul 3) și din prima parte a Cursul 4 (Secțiunile 2 din Cursul 4 și 3 din Cursul 4); la fiecare pas al rezolvărilor indicăm rezultatul aplicat.
- Funcția cuantilă (Definiția 7 din Cursul 3): \(F^{-1}(u)=\inf\{x\in\R:\ F(x)\ge u\}\), \(u\in(0,1)\); \(q_p=F^{-1}(p)\) este cuantila de ordin \(p\) (mediana \(q_{1/2}\), cuartilele \(q_{1/4}\), \(q_{3/4}\)). Lema fundamentală (Lema 8 din Cursul 3): pentru orice \(u\in(0,1)\) și \(x\in\R\), \[F^{-1}(u)\le x\iff u\le F(x),\qquad\text{echivalent}\qquad x<F^{-1}(u)\iff F(x)<u .\]
- Proprietăți (Propoziția 9 din Cursul 3): (1) \(F^{-1}\) este finită, crescătoare și boreliană; (2) \(F(F^{-1}(u))\ge u\) și \(F(F^{-1}(u)-)\le u\), cu \(F(F^{-1}(u))=u\) dacă \(F\) este continuă; (3) \(F^{-1}(F(x))\le x\) dacă \(0<F(x)<1\), cu egalitate dacă și numai dacă \(F(x')<F(x)\) pentru orice \(x'<x\); (4) \(F^{-1}\) este continuă la stânga; (6) dacă \(F\) este continuă și strict crescătoare pe intervalul unde \(0<F<1\), \(F^{-1}\) este inversa obișnuită.
- Salturi și paliere (Corolarul 10 din Cursul 3): un salt al lui \(F\) în \(x_0\) devine un palier al lui \(F^{-1}\), \(F^{-1}\equiv x_0\) pe \((F(x_0-),F(x_0)]\); un palier al lui \(F\) la nivelul \(u_0\) devine un salt al lui \(F^{-1}\) în \(u_0\) (se ia capătul stâng al palierului). Cazul discret (Exemplul 10 din Cursul 3): pentru valorile \(x_1<x_2<\cdots\) cu probabilitățile \(p_k\) și \(s_k=p_1+\dots+p_k\), \(s_0=0\), avem \(F^{-1}(u)=x_k\) dacă \(s_{k-1}<u\le s_k\).
- Universalitatea uniformei (Teorema 12 din Cursul 3): dacă \(U\sim\Unif(0,1)\), atunci \(F^{-1}(U)\) are funcția de repartiție \(F\) pentru orice \(F\); dacă \(X\sim F\) și \(F\) este continuă, atunci \(F(X)\sim\Unif(0,1)\) (dacă \(F\) are un salt, \(F(X)\) nu este uniformă). Cum \(1-U\sim\Unif(0,1)\) (Exemplul 11 din Cursul 3), putem înlocui \(1-U\) cu \(U\) în formulele de simulare.
- Existența eșantioanelor (Teorema 14 din Cursul 3): cifrele binare \(D_k=\lfloor2^kU\rfloor\bmod2\) ale unei uniforme sunt i.i.d. \(\Bern(\frac12)\) și \(U=\sum_kD_k2^{-k}\) (Lema 16 din Cursul 3); din ele se construiește un șir de uniforme independente (Propoziția 17 din Cursul 3), apoi, prin funcții cuantilă, un șir de variabile independente cu repartiții date.
- Metoda inversă (Secțiunea 3 din Cursul 4): \(X=F^{-1}(U)\). Discret (Propoziția 2 din Cursul 4): \(X=x_k\) dacă \(s_{k-1}<U\le s_k\); rezultatul rămâne corect pentru orice ordine de parcurgere a valorilor, iar căutarea secvențială costă în medie \(\sum_kk\,p_k\) comparații (minim în ordinea descrescătoare a probabilităților). Când \(F\) nu se inversează explicit, probabilitățile se calculează prin recurență (Exemplul 6 din Cursul 4). Continuu (Exemplele 7 din Cursul 4, 8 din Cursul 4, 10 din Cursul 4): \(\Exp(\lambda)\): \(-\frac1\lambda\ln U\); Weibull \((k,s)\): \(s(-\ln U)^{1/k}\); \(\Cauchy(\alpha,\beta)\): \(\alpha+\beta\tan(\pi(U-\frac12))\); Pareto \((\alpha,\beta)\): \(\alpha U^{-1/\beta}\).
- Metoda Monte Carlo (Propoziția 1 din Cursul 4): dacă \(I=\E[h(X)]\), cu \(\E|h(X)|<\infty\), și \(X_1,\dots,X_N\) sunt i.i.d. ca \(X\), atunci \(\hat I_N=\frac1N\sum_{i=1}^Nh(X_i)\) este nedeplasat și \(\hat I_N\asto I\); dacă \(\sigma^2=\Var(h(X))\in(0,\infty)\), atunci \(\Var(\hat I_N)=\sigma^2/N\), iar intervalul \(\hat I_N\pm z_{1-\alpha/2}\,\hat\sigma_N/\sqrt N\) are nivelul asimptotic \(1-\alpha\) (\(\hat\sigma_N/\sqrt N\) este eroarea standard). Pentru o eroare cel mult \(\varepsilon\) cu probabilitatea aproximativă \(1-\alpha\) este suficient un volum \(N\ge(z_{1-\alpha/2}\,\sigma/\varepsilon)^2\) (observația care urmează propoziției).
Instrumentele R din seminarele anterioare (vectori, funcții proprii, sapply, replicate, mean(conditie), familiile d/p/q/r) sunt completate astăzi de câteva funcții pentru lucrul cu funcții definite pe ramuri, cu praguri și cu funcția de repartiție empirică.
runif(n)— \(n\) numere pseudo-aleatoare uniforme pe \((0,1)\);set.seed(s)fixează sămânța și face simularea reproductibilă.ifelse(cond, a, b)— funcții definite pe ramuri (o funcție de repartiție sau o funcție cuantilă), aplicate unui vector.cumsum(p)— sumele parțiale \(s_k\);findInterval(u, s, left.open = TRUE)— numărul pragurilor \(s_k\) strict mai mici decât \(u\), adică \(k-1\) pentru \(s_{k-1}<u\le s_k\) (metoda inversă discretă, vectorizată).qexp,qbinom,qpois,qhyper, … — funcțiile cuantilă \(F^{-1}\) din Definiția 7 din Cursul 3;dhyper(x, m, n, k), cumbile albe,nbile negre șikextrageri.integrate(f, a, b)$value— integrala numerică \(\int_a^bf\);fprimește și întoarce vectori.hist(x, freq = FALSE)urmat decurve(f(x), add = TRUE)— histograma normalizată și densitatea;ecdf(x)— funcția de repartiție empirică \(F_n(t)=\frac1n\#\{i:\ x_i\le t\}\), reprezentată cuplot(ecdf(x));quantile(x, p)— cuantilele empirice ale eșantionuluix.apply(M, 1, max)— maximul pe fiecare linie a matriceiM;rowSums(M)— sumele pe linii;outer(a, b, f)— tabelul valorilor \(f(a_i,b_j)\);M %*% v— produsul dintre o matrice și un vector;expand.grid— toate combinațiile unor vectori (nodurile unei grile).- Funcții scrise azi:
dist_ks(x, F)— distanța Kolmogorov \(\sup_t|F_n(t)-F(t)|\) (Exercițiul 5);mc_rezumat(y)— estimația Monte Carlo, eroarea standard și intervalul (Exercițiul 8).
Vom folosi de mai multe ori următoarea consecință a universalității (Teorema 12 din Cursul 3, punctul 1). Dacă \(X\sim F\) și \(g\) este o funcție boreliană cu \(\E|g(X)|<\infty\), atunci \(g(X)\) și \(g(F^{-1}(U))\) au aceeași repartiție, iar formula de transport (Teorema 22 din Cursul 1) pentru variabila \(U\), cu densitatea \(\Ind_{(0,1)}\), dă \[ \E\big[g(X)\big]=\E\big[g(F^{-1}(U))\big]=\int_0^1g\big(F^{-1}(u)\big)\dd u . \tag{1}\] Pentru \(g\ge0\) relația are loc fără nicio condiție de integrabilitate, ambii membri putând fi \(+\infty\). Justificarea completă este cerută în Exercițiul 12(a).
2 Funcția cuantilă: calcul și proprietăți
Calculăm funcția cuantilă în cele trei situații posibile: o repartiție continuă, pentru care rezolvăm ecuația \(F(x)=u\) pe ramura potrivită; o repartiție discretă, pentru care \(F^{-1}\) este o funcție în scară; o repartiție mixtă, cu un salt și un palier. De fiecare dată căutăm, pentru nivelul \(u\), cel mai mic \(x\) cu \(F(x)\ge u\), iar funcția obținută devine imediat un generator: \(F^{-1}(U)\).
Începem cu un exemplu rezolvat pe cazul cel mai simplu, o variabilă cu trei valori: el arată cum se citește funcția cuantilă direct din definiție și ce se întâmplă la capetele intervalelor.
Fie \(X\) o variabilă aleatoare discretă cu valorile \(1\), \(2\), \(4\) și probabilitățile \(0.3\), \(0.5\), \(0.2\). Determinați \(F^{-1}(0.2)\), \(F^{-1}(0.5)\) și \(F^{-1}(0.9)\), apoi funcția cuantilă \(F^{-1}(u)\) pentru orice \(u\in(0,1)\).
Seminar Pasul 1: tabelul lui \(F\). Adunăm probabilitățile de la stânga la dreapta: \(s_1=0.3\), \(s_2=0.3+0.5=0.8\), \(s_3=0.8+0.2=1\). Funcția de repartiție \(F(x)=\PP(X\le x)\) este constantă între două valori consecutive ale lui \(X\) și sare în fiecare valoare: \[ \begin{array}{c|cccc} x & x<1 & 1\le x<2 & 2\le x<4 & x\ge4\\ \hline F(x) & 0 & 0.3 & 0.8 & 1 \end{array} \]
Pasul 2: citirea din definiție. Din Definiția 7 din Cursul 3, \(F^{-1}(u)\) este cel mai mic \(x\) cu \(F(x)\ge u\). Parcurgem tabelul de la stânga la dreapta și ne oprim la prima coloană în care \(F\ge u\); cuantila este capătul din stânga al acelei coloane.
- \(u=0.2\): în prima coloană \(F=0<0.2\), în a doua \(F=0.3\ge0.2\); mulțimea \(\{x:F(x)\ge0.2\}\) este \([1,\infty)\), deci \(F^{-1}(0.2)=1\).
- \(u=0.5\): \(0<0.5\) și \(0.3<0.5\), dar \(0.8\ge0.5\); mulțimea este \([2,\infty)\), deci \(F^{-1}(0.5)=2\) (mediana).
- \(u=0.9\): doar în ultima coloană \(F=1\ge0.9\); mulțimea este \([4,\infty)\), deci \(F^{-1}(0.9)=4\).
Pasul 3: capetele. Pentru \(u=0.3\) avem \(F(1)=0.3\ge0.3\), deci \(F^{-1}(0.3)=1\), nu \(2\); în schimb, pentru \(u=0.31\), \(F(1)<u\) și \(F^{-1}(0.31)=2\). La fel, \(F^{-1}(0.8)=2\) și \(F^{-1}(0.81)=4\). Un nivel egal cu o sumă parțială \(s_k\) aparține deci intervalului din stânga lui: \[ F^{-1}(u)=\begin{cases}1, & 0<u\le0.3,\\ 2, & 0.3<u\le0.8,\\ 4, & 0.8<u<1,\end{cases} \] adică formula din Exemplul 10 din Cursul 3: \(F^{-1}(u)=x_k\) pentru \(s_{k-1}<u\le s_k\); în particular \(F^{-1}(0.2)=1\), \(F^{-1}(0.5)=2\), \(F^{-1}(0.9)=4\). Cele trei intervale de niveluri au lungimile \(0.3\), \(0.5\), \(0.2\), adică probabilitățile valorilor; de aceea \(F^{-1}(U)\), cu \(U\sim\Unif(0,1)\), ia valorile \(1,2,4\) cu probabilitățile lui \(X\) (Teorema 12 din Cursul 3, punctul 1).
Pasul 4: cele două compuneri. \(F(F^{-1}(0.5))=F(2)=0.8>0.5\): nivelul \(0.5\) cade în interiorul saltului din \(x=2\), iar \(F\) nu ia această valoare. Invers, \(F^{-1}(F(3))=F^{-1}(0.8)=2<3\): punctul \(x=3\) se află pe un palier al lui \(F\), iar \(F^{-1}\) îl trimite în capătul din stânga al palierului. Sunt inegalitățile de la punctele 2 și 3 ale Propoziției 9 din Cursul 3. Aici ele sunt egalități doar pentru \(u\in\{0.3,0.8\}\), respectiv \(x\in\{1,2\}\) (de exemplu \(F(F^{-1}(0.8))=0.8\) și \(F^{-1}(F(2))=2\)); pentru \(F\) continuă și strict crescătoare sunt egalități peste tot.
Laborator În R, cumsum(prob) calculează sumele parțiale \(s_1,s_2,s_3\), iar findInterval(u, s, left.open = TRUE) numără, pentru fiecare nivel \(u\), câte praguri \(s_k\) sunt strict mai mici decât \(u\); opțiunea left.open = TRUE face ca intervalele să fie de forma \((s_{k-1},s_k]\), ca la Pasul 3 (fără ea s-ar număra pragurile \(s_k\le u\), iar \(u=0.3\) ar da, greșit, valoarea \(2\)). Dacă \(j\) praguri sunt sub \(u\), cuantila este valoarea cu numărul \(j+1\).
Linia praguri_sub_u este \(0,1,2,0,1\), deci cuantilele sunt \(1,2,4,1,2\): regăsim valorile de la Pasul 2, iar pentru nivelurile-capăt \(u=0.3\) și \(u=0.8\) se obține valoarea din stânga, ca la Pasul 3.
Primul exercițiu tratează cazul continuu, cu o densitate definită pe două ramuri: căutarea celui mai mic \(x\) cu \(F(x)\ge u\) se reduce acum la rezolvarea ecuației \(F(x)=u\) pe ramura potrivită.
La seminar Concentrația \(X\) de dioxid de sulf (în ppm) din aerul de lângă o rafinărie este modelată prin densitatea \[ f(x)=\begin{cases}\frac45x^3, & 0\le x<1,\\[2pt] \frac45e^{1-x}, & x\ge1,\end{cases}\qquad f(x)=0\ \text{pentru}\ x<0 . \]
Verificați că \(f\) este o densitate și determinați funcția de repartiție \(F\).
Determinați funcția cuantilă, mediana și un algoritm de simulare prin metoda inversă; interpretați algoritmul ca un amestec de două repartiții.
Calculați \(\E[X]\) direct și ca \(\int_0^1F^{-1}(u)\dd u\), apoi \(\Var(X)\) și \(\PP\big(\frac12<X<2\mid X\ge\frac13\big)\).
În R: scrieți \(f\) și \(F^{-1}\) și verificați numeric (a) și (b); simulați apoi \(10^5\) valori prin metoda inversă, comparați histograma lor cu densitatea și verificați rezultatele de la (c).
Laborator Schelet de cod pentru (d) — completați locurile marcate cu ___:
f_so2 <- function(x) ifelse(x < 0, 0, ifelse(x < 1, ___, ___)) # ramurile
q_so2 <- function(u) ifelse(u <= 1/5, ___, ___) # F^{-1}
arie1 <- integrate(f_so2, 0, 1)$value # masa ramurii [0, 1)
c(arie = arie1 + integrate(f_so2, 1, Inf)$value, mediana = q_so2(0.5),
F_mediana = arie1 + integrate(f_so2, 1, q_so2(0.5))$value)
set.seed(47)
x <- ___ # metoda inversă, 10^5 valori
rbind(simulat = c(media = mean(x), mediana = median(x), var = var(x),
P_cond = ___), # (c)
teoretic = ___) # din (b), (c)
hist(x, breaks = seq(0, max(x) + 0.1, by = 0.1), freq = FALSE, xlim = c(0, 7))
curve(f_so2(x), 0, 7, n = 701, add = TRUE, col = "red", lwd = 2)Trecem la o repartiție discretă, lucrată „de mână”. Funcția cuantilă este o funcție în scară, iar metoda inversă devine o căutare într-un tabel; două ordini de parcurgere a valorilor arată diferența dintre corectitudinea metodei (independentă de ordine) și costul ei (dependent de ordine).
La seminar Dintr-o urnă cu \(N=10\) bile, dintre care \(K=4\) albe, se extrag fără întoarcere \(n=3\) bile; \(X\) este numărul de bile albe extrase, \(X\sim\HGeom(10,4,3)\).
Scrieți funcția de masă și arătați că \(p_{k+1}=\dfrac{(K-k)(n-k)}{(k+1)(N-K-n+k+1)}\,p_k\). Calculați \(p_0,\dots,p_3\) cu această recurență.
Determinați funcția cuantilă, mediana și cuartilele. Folosind metoda inversă cu valorile în ordinea naturală \(0,1,2,3\), transformați uniformele \(0.08,\ 0.35,\ 0.71,\ 0.97,\ 0.66\) în observații din repartiția lui \(X\).
Refaceți transformarea parcurgând valorile în ordinea descrescătoare a probabilităților. De ce obținem alte valori, deși ambele eșantioane sunt corecte? Comparați numărul mediu de comparații al celor două variante.
În R: verificați (a)–(c) cu
dhyper,qhyperșifindInterval. Apoi, folosind doar recurența de la (a), simulați \(10^4\) valori din \(\HGeom(50,20,15)\) și comparați media și varianța lor cu valorile teoretice.
Laborator Schelet de cod pentru (d) — completați locurile marcate cu ___:
p <- dhyper(0:3, m = 4, n = 6, k = 3) # m albe, n negre, k extrase
u <- c(0.08, 0.35, 0.71, 0.97, 0.66); ord <- order(p, decreasing = TRUE)
rbind(qhyper = qhyper(u, 4, 6, 3), # pragurile s_k: sumele parțiale
natural = findInterval(u, ___, left.open = TRUE), # ordinea 0..3
descrescator = (0:3)[ord][findInterval(u, ___, left.open = TRUE) + 1])
gen_recurenta <- function(n, p0, r) sapply(1:n, function(j) {
u <- runif(1); k <- 0L; pk <- p0; Fk <- p0 # căutare secvențială
while (u > Fk) { pk <- ___; k <- k + 1L; Fk <- ___ } # p_{k+1}, F(k+1)
k })
set.seed(59); r_hyp <- function(k) ___ # p_{k+1}/p_k
x_hyp <- gen_recurenta(1e4, dhyper(0, 20, 30, 15), r_hyp)
c(media = mean(x_hyp), var = var(x_hyp)) # de comparat cu valorile teoreticeAl treilea exercițiu reunește, pe o singură funcție de repartiție, o porțiune continuă strict crescătoare, un salt și un palier. Calculul funcției cuantilă se face tot „ramură cu ramură”, dar ecuația \(F(x)=u\) poate să nu aibă nicio soluție sau să aibă o infinitate.
La seminar Fie funcția \[ F(x)=\begin{cases}0, & x<0,\\[2pt] \dfrac x2, & 0\le x<1,\\[4pt] \dfrac34, & 1\le x<2,\\[4pt] 1-\dfrac14e^{-(x-2)}, & x\ge2 .\end{cases} \]
Arătați că \(F\) este o funcție de repartiție. Fie \(X\sim F\). Calculați \(\PP(X=1)\), \(\PP(1<X\le2)\), \(\PP(X>3)\) și descrieți repartiția lui \(X\) ca amestec de repartiții cunoscute.
Determinați funcția cuantilă \(F^{-1}\) și precizați ce se întâmplă în dreptul saltului și al palierului.
Verificați pe acest exemplu că inegalitățile \(F(F^{-1}(u))\ge u\) și \(F^{-1}(F(x))\le x\) pot fi stricte și precizați unde sunt egalități.
Scrieți un algoritm de simulare pentru \(X\) și calculați \(\E[X]\) în două moduri: direct și ca \(\int_0^1F^{-1}(u)\dd u\). Calculați și \(\Var(X)\).
În R: scrieți \(F\) și \(F^{-1}\), verificați (c) și (d), simulați \(10^5\) observații și comparați funcția de repartiție empirică cu \(F\).
Laborator Schelet de cod pentru (e) — completați locurile marcate cu ___:
Fmix <- function(x) ifelse(x < 0, 0, ifelse(x < 1, x / 2,
ifelse(x < 2, 3 / 4, ___))) # x >= 2
qmix <- function(u) # cele trei ramuri ale lui F^{-1}
ifelse(u <= 1 / 2, ___, ifelse(u <= 3 / 4, ___, ___))
u <- c(0.3, 0.5, 0.6, 0.75, 0.9)
rbind(u = u, q = qmix(u), F_q = Fmix(qmix(u))) # F(F^{-1}(u)) >= u
c(media = ___, var = ___) # (d): integrale
set.seed(63)
xm <- ___ # metoda inversă, 10^5 valori
round(c(P_X_1 = mean(xm == 1), P_1_2 = mean(xm > 1 & xm < 2),
media = mean(xm), var = var(xm)), 4)
plot(ecdf(xm[1:2000]), do.points = FALSE, main = "") # F_n
curve(Fmix(x), -0.3, 6, n = 2001, add = TRUE, lty = 2, col = "red") # F3 Universalitatea uniformei și metoda inversă
Punctul 1 al Teoremei 12 din Cursul 3 transformă orice funcție cuantilă într-un generator, \(X=F^{-1}(U)\). În această secțiune îl aplicăm unor repartiții continue și verificăm generatoarele obținute, iar în cazul discret vedem ce rămâne adevărat din punctul 2 al teoremei, care cere ca \(F\) să fie continuă. Primul exercițiu arată cum echivalența \(F^{-1}(u)\le x\iff u\le F(x)\) dă cuantilele unor variabile transformate fără a le calcula „de la zero”; aplicația lui, simularea maximului a \(n\) observații cu o singură uniformă, este refolosită mai jos.
Înainte de exerciții, un exemplu rezolvat arată pașii metodei inverse pe o densitate simplă: funcția de repartiție, inversarea ei, algoritmul și verificarea lui.
Fie \(X\) o variabilă aleatoare cu densitatea \(f(x)=2x\) pentru \(0<x<1\) și \(f(x)=0\) în rest. Scrieți un algoritm de simulare a lui \(X\) prin metoda inversă, verificați-l și calculați mediana, media și varianța lui \(X\).
Seminar Pasul 1: funcția de repartiție. \(F(x)=0\) pentru \(x\le0\), \(F(x)=\int_0^x2t\dd t=x^2\) pentru \(0<x<1\) și \(F(x)=1\) pentru \(x\ge1\).
Pasul 2: funcția cuantilă. \(F\) este continuă și strict crescătoare pe \((0,1)\), cu \(F(0+)=0\) și \(F(1-)=1\); din punctul 6 al Propoziției 9 din Cursul 3, \(F^{-1}(u)\) este unica soluție din \((0,1)\) a ecuației \(x^2=u\), adică \(F^{-1}(u)=\sqrt u\) (cealaltă rădăcină, \(-\sqrt u\), nu este în \((0,1)\)). Mediana este \(F^{-1}(\frac12)=\frac1{\sqrt2}\approx0.7071\).
Pasul 3: algoritmul. (1) Generăm \(U\sim\Unif(0,1)\); (2) întoarcem \(X=\sqrt U\). De exemplu, uniformele \(0.04\), \(0.36\), \(0.81\) devin \(0.2\), \(0.6\), \(0.9\): valorile mici ale lui \(U\) sunt împinse spre dreapta, ceea ce produce o densitate crescătoare.
Pasul 4: verificarea. Pentru \(x\in[0,1]\), ridicarea la pătrat fiind strict crescătoare pe \([0,\infty)\), \[ \PP\big(\sqrt U\le x\big)=\PP\big(U\le x^2\big)=x^2=F(x), \] iar \(\PP(\sqrt U\le x)\) este \(0\) pentru \(x<0\) și \(1\) pentru \(x>1\). Deci \(\sqrt U\sim F\): este afirmația \(\PP(F^{-1}(U)\le x)=F(x)\) a Teoremei 12 din Cursul 3, verificată direct.
Pasul 5: momentele, în două moduri. Direct, cu densitatea: \(\E[X]=\int_0^1x\cdot2x\dd x=\frac23\) și \(\E[X^2]=\int_0^1x^2\cdot2x\dd x=\frac12\). Cu relația (1): \(\E[X]=\int_0^1\sqrt u\dd u=\big[\frac23u^{3/2}\big]_0^1=\frac23\) și \(\E[X^2]=\int_0^1u\dd u=\frac12\). Deci \(\Var(X)=\frac12-\frac49=\frac1{18}\approx0.0556\). Pe scurt: \(X=\sqrt U\), cu mediana \(\frac1{\sqrt2}\approx0.7071\), \(\E[X]=\frac23\) și \(\Var(X)=\frac1{18}\).
Observație. Pentru \(U_1,U_2\) independente, uniforme pe \((0,1)\), \(\PP(\max(U_1,U_2)\le x)=\PP(U_1\le x)\,\PP(U_2\le x)=x^2\): \(X\) are repartiția maximului a două uniforme, deci o singură uniformă, \(\sqrt U\), înlocuiește două uniforme și un maxim. Exercițiul 4(c) generalizează această observație.
Laborator Aplicăm sqrt unui vector de \(10^5\) uniforme și comparăm media, varianța, mediana și proporția valorilor cel mult egale cu \(0.5\) cu valorile teoretice \(\frac23\), \(\frac1{18}\), \(\frac1{\sqrt2}\) și \(F(0.5)=0.25\).
set.seed(401)
x_lin <- sqrt(runif(1e5)) # metoda inversă: X = sqrt(U)
round(rbind(
simulat = c(media = mean(x_lin), var = var(x_lin),
mediana = median(x_lin), P_sub_0.5 = mean(x_lin <= 0.5)),
teoretic = c(2 / 3, 1 / 18, sqrt(0.5), 0.25)), 4)
#> media var mediana P_sub_0.5
#> simulat 0.6668 0.0556 0.7080 0.2497
#> teoretic 0.6667 0.0556 0.7071 0.2500Pe coloane: media \(0.6668\) față de \(0.6667\), varianța \(0.0556\) în ambele linii, mediana \(0.7080\) față de \(0.7071\) și proporția \(0.2497\) față de \(0.25\). Doar un sfert dintre valori sunt sub \(0.5\), deși \(0.5\) este mijlocul intervalului.
Dacă timpul permite Fie \(X\) o variabilă aleatoare cu funcția de repartiție \(F\) și funcția cuantilă \(F^{-1}\).
Fie \(a\in\R\), \(b>0\) și \(Y=a+bX\). Arătați că \(F_Y^{-1}(u)=a+bF^{-1}(u)\) pentru orice \(u\in(0,1)\).
Mai general, fie \(h:\R\to\R\) continuă și strict crescătoare, cu \(h(\R)=\R\). Arătați că funcția cuantilă a lui \(h(X)\) este \(h\circ F^{-1}\).
Fie \(X_1,\dots,X_n\) i.i.d. cu funcția de repartiție \(F\). Arătați că funcțiile cuantilă ale lui \(M_n=\max_iX_i\) și \(m_n=\min_iX_i\) sunt \[ F_{M_n}^{-1}(u)=F^{-1}\big(u^{1/n}\big),\qquad F_{m_n}^{-1}(u)=F^{-1}\big(1-(1-u)^{1/n}\big), \] și deduceți o metodă de simulare a lui \(M_n\) și a lui \(m_n\) cu o singură uniformă.
Aplicație: \(X_i\sim\Exp(1)\), \(n=5\). Scrieți formulele de simulare, recunoașteți repartiția minimului și calculați mediana și media lui \(M_5\).
În R: simulați \(M_5\) cu o singură uniformă și direct, din cinci exponențiale, și comparați rezultatele.
Laborator Schelet de cod pentru (e) — completați locurile marcate cu ___:
set.seed(41)
M_inv <- ___ # o uniformă pentru fiecare M_5
M_dir <- apply(matrix(___, ncol = 5), 1, max) # 5 exponențiale / obs.
rbind(inversa = c(mediana = median(M_inv), media = mean(M_inv)),
direct = c(median(M_dir), mean(M_dir)),
teoretic = ___) # valorile de la (d)(a) \(F_Y^{-1}(u)=a+bF^{-1}(u)\).
(b) \(F^{-1}_{h(X)}=h\circ F^{-1}\).
(c) variabila \(F^{-1}(U^{1/n})\) are repartiția lui \(M_n\), iar \(F^{-1}\big(1-(1-U)^{1/n}\big)\) are repartiția lui \(m_n\).
(d) \(M_5\eqd-\ln(1-U^{1/5})\), \(m_5\eqd-\frac15\ln U\sim\Exp(5)\), mediana lui \(M_5\) este \(\approx2.0445\), iar \(\E[M_5]=\frac{137}{60}\approx2.2833\).
(e) mediana este \(2.041\) (metoda inversă) și \(2.043\) (direct), față de valoarea teoretică \(2.044\); media este \(2.278\) și \(2.285\), față de \(\frac{137}{60}\approx2.283\).
Repartiția Pareto modelează valori mari și rare (venituri, concentrații de poluanți, mărimea daunelor). Metoda inversă o simulează imediat, iar relația (1) dă momentele printr-o integrală elementară. Pe acest exemplu scriem și funcția R cu care verificăm un generator: distanța dintre funcția de repartiție empirică și cea teoretică.
Dacă timpul permite Concentrația \(X\) de monoxid de carbon (în ppm) peste un prag cunoscut \(k>0\) este modelată prin densitatea Pareto \[ f(x)=\frac{\theta k^\theta}{x^{\theta+1}},\qquad x>k,\qquad \theta>3 . \]
Determinați \(F\), \(F^{-1}\) și un algoritm de simulare. Pentru \(k=1\) și \(\theta=4\), calculați \(\PP(k+1<X<k+3\mid X>k+1)\).
Folosind relația (1), calculați \(\E[X^r]\) pentru \(r>0\) și deduceți \(\E[X]\), \(\Var(X)\) și \(\E[X^3]\).
Arătați că \(\ln(X/k)\sim\Exp(\theta)\) și calculați \(\E[\ln X]\). Ce legătură are rezultatul cu algoritmul de la (a)?
În R, pentru \(k=1\) și \(\theta=4\): simulați \(10^5\) valori, calculați distanța Kolmogorov dintre funcția de repartiție empirică și \(F\) și verificați (a)–(c). Estimați apoi \(\E[X^3]\) cu patru semințe diferite; ce observați?
Laborator Schelet de cod pentru (d) — completați locurile marcate cu ___:
dist_ks <- function(x, F, ...) { # distanța Kolmogorov D_n
n <- length(x); Fx <- F(sort(x), ...)
max(pmax(___, ___)) # cele două abateri
}
k <- 1; th <- 4; N <- 1e5
sim_pareto <- function(N, k, th) ___ # algoritmul (a)
p_pareto <- function(x, k, th) ifelse(x < k, 0, ___) # F
set.seed(48); x <- sim_pareto(N, k, th)
c(sqrt_N_D_n = sqrt(N) * dist_ks(x, p_pareto, k = k, th = th))
c(P_cond = ___, media = mean(x), var = var(x), E_lnX = mean(log(x))) # (a)
sapply(c(s1 = 1, s2 = 2, s3 = 3, s4 = 4), function(s) { # patru semințe
set.seed(s); y <- sim_pareto(N, k, th); c(EX = mean(y), EX3 = ___) })(a) \(F(x)=1-(k/x)^\theta\) pentru \(x>k\), \(F^{-1}(u)=k(1-u)^{-1/\theta}\), \(X=kU^{-1/\theta}\), iar probabilitatea condiționată este \(\frac{15}{16}=0.9375\).
(b) \(\E[X^r]=\frac{\theta k^r}{\theta-r}\) pentru \(r<\theta\) și \(+\infty\) pentru \(r\ge\theta\), iar \(\Var(X)=\frac{\theta k^2}{(\theta-1)^2(\theta-2)}\).
(c) \(\ln(X/k)\sim\Exp(\theta)\) și \(\E[\ln X]=\ln k+\frac1\theta\).
(d) \(\sqrt N\,D_n\approx0.61\) este de ordinul unității, deci generatorul trece verificarea; estimațiile lui \(\E[X^3]\) variază mult de la o simulare la alta.
Punctul 2 al Teoremei 12 din Cursul 3 cere ca \(F\) să fie continuă. Exercițiul următor arată cum se „repară” el pentru repartiții discrete, adăugând o uniformă independentă, și ce rămâne adevărat fără această randomizare. Rezultatul reapare la \(p\)-valorile testelor bazate pe statistici discrete (Cursul 14).
Pentru acasă Fie \(X\) o variabilă aleatoare discretă cu valorile \(x_1<x_2<\cdots\), probabilitățile \(p_k>0\), sumele parțiale \(s_k=p_1+\dots+p_k\) (\(s_0=0\)) și funcția de repartiție \(F\); fie \(U\sim\Unif(0,1)\) independentă de \(X\).
Arătați că \(V=F(X-)+U\big(F(X)-F(X-)\big)\) are repartiția \(\Unif(0,1)\).
Deduceți că \(\PP(F(X)\le u)\le u\) pentru orice \(u\in[0,1]\).
Pentru \(X\sim\Pois(2)\), calculați \(\PP(F(X)\le\frac12)\) și comparați cu \(\frac12\).
În R, pentru \(X\sim\Pois(2)\): simulați \(10^5\) valori ale lui \(F(X)\) și ale lui \(V\), comparați histogramele lor și distanțele Kolmogorov față de repartiția \(\Unif(0,1)\).
Laborator Schelet de cod pentru (d) (funcția dist_ks este cea din Exercițiul 5) — completați locurile marcate cu ___:
set.seed(44)
x <- rpois(1e5, 2)
FX <- ___ # F(X)
V <- ___ # F(X-) + U (F(X) - F(X-))
round(c(P_FX = mean(FX <= 0.5), P_V = mean(V <= 0.5),
media_V = mean(V), var_V = var(V)), 4)
c(D_V = dist_ks(V, punif), D_FX = dist_ks(FX, punif))
par(mfrow = c(1, 2))
hist(FX, breaks = seq(0, 1, 0.05), freq = FALSE)
hist(V, breaks = seq(0, 1, 0.05), freq = FALSE)(a) funcția de repartiție a lui \(V\) este cea a repartiției \(\Unif(0,1)\).
(b) \(\PP(F(X)>u)\ge1-u=\PP(U>u)\).
(c) Deci \(\PP(F(X)\le\frac12)=3e^{-2}\approx0.406<\frac12\), iar inegalitatea de la (b) poate fi strictă.
(d) distanța Kolmogorov a lui \(V\) față de uniformă este \(0.0031\), de ordinul \(1/\sqrt{10^5}\), pe când cea a lui \(F(X)\) este mare, \(0.2721\), și nu scade cu \(n\).
Repartiția Weibull, folosită pentru durate de viață și pentru rezistența materialelor, are funcția de repartiție explicită; ultimul exercițiu al secțiunii arată cum trei repartiții uzuale (Weibull, exponențiala, Gumbel) se obțin una din alta prin transformări monotone ale aceleiași uniforme și reia simularea extremelor din Exercițiul 4.
Pentru acasă Fie \(\alpha,\beta>0\) și \(F(x)=\big(1-\exp(-\alpha x^\beta)\big)\Ind_{[0,\infty)}(x)\).
Arătați că \(F\) este o funcție de repartiție continuă, determinați densitatea, funcția cuantilă, mediana și o metodă de simulare.
Calculați \(\E[X^r]\), \(r>0\), cu relația (1) și deduceți media și varianța; dați valorile numerice pentru \(\alpha=2\), \(\beta=1.5\).
Arătați că \(E=\alpha X^\beta\sim\Exp(1)\) și că \(G=-\ln(\alpha X^\beta)\) are funcția de repartiție Gumbel \(F_G(x)=\exp(-e^{-x})\), \(x\in\R\). Scrieți \(G\) ca funcție de uniforma \(U\) folosită la (a) și comparați cu funcția cuantilă a lui \(G\).
Fie \(X_1,\dots,X_n\) i.i.d. cu funcția de repartiție \(F\). Arătați că \(m_n=\min_iX_i\) are o repartiție Weibull și deduceți o simulare a lui \(m_n\) cu o singură uniformă.
În R: verificați rezultatele prin simulare, pentru \(\alpha=2\), \(\beta=1.5\) și \(n=5\).
Laborator Schelet de cod pentru (e) (funcția dist_ks este cea din Exercițiul 5) — completați locurile marcate cu ___:
al <- 2; be <- 1.5; N <- 1e5
set.seed(49)
U <- runif(N)
X <- ___ # Weibull, metoda inversă
G <- ___ # Gumbel, din aceeași uniformă
m5 <- apply(matrix(___, ncol = 5), 1, min) # 5 N Weibull
round(rbind(
simulat = c(med_X = median(X), EX = mean(X), VarX = var(X),
med_G = median(G), E_m5 = mean(m5)),
teoretic = ___), 4) # (a)-(d)
c(D_N = dist_ks(X, pweibull, shape = be, scale = ___)) # scala(a) Densitatea este \(f(x)=\alpha\beta x^{\beta-1}e^{-\alpha x^\beta}\), \(x>0\), funcția cuantilă este \(F^{-1}(u)=\big(-\frac{\ln(1-u)}{\alpha}\big)^{1/\beta}\), mediana este \(F^{-1}(\frac12)=\big(\frac{\ln2}\alpha\big)^{1/\beta}\), iar regula de simulare (înlocuind \(1-U\) cu \(U\)) este \(X=\big(-\frac{\ln U}{\alpha}\big)^{1/\beta}\).
(b) \(\E[X^r]=\alpha^{-r/\beta}\Gamma(1+\frac r\beta)\); pentru \(\alpha=2\), \(\beta=1.5\), \(\E[X]\approx0.5687\) și \(\Var(X)\approx0.1491\).
(c) \(E=\alpha X^\beta=-\ln U\) și \(G=-\ln(-\ln U)=F_G^{-1}(U)\).
(d) \(m_n\) are repartiția Weibull cu parametrii \((n\alpha,\beta)\), deci se simulează prin \(m_n=\big(-\frac{\ln U}{n\alpha}\big)^{1/\beta}=n^{-1/\beta}X\).
(e) mediana lui \(X\), \(0.4927\) / \(0.4934\); media, \(0.5672\) / \(0.5687\); varianța, \(0.1484\) / \(0.1491\); mediana lui \(G\), \(0.3685\) / \(-\ln\ln2\approx0.3665\); media minimului a \(5\) observații, \(0.1941\) / \(0.1945\).
Generatoarele construite până acum se verifică și grafic, tot cu ajutorul funcției cuantilă. Într-un QQ-plot reprezentăm cuantilele empirice ale eșantionului (calculate cu quantile(x, p): valoarea sub care se află o proporție \(p\) din eșantion, adică, până la o interpolare între două observații vecine, \(F_n^{-1}(p)\)) în funcție de cuantilele teoretice \(F^{-1}(p)\) de același ordin; pentru un generator corect, punctele se așază pe prima bisectoare. Desenați astfel de grafice pentru eșantioanele simulate în Exercițiile 1, 5 și 7.
4 Metoda Monte Carlo: eroarea și volumul simulării
Metoda Monte Carlo transformă calculul unei probabilități sau al unei integrale în estimarea unei medii, iar Propoziția 1 din Cursul 4 spune cât de precisă este estimarea: eroarea standard este \(\sigma/\sqrt N\). Exercițiile acestei secțiuni urmăresc, pe rând: estimarea unei medii și a unei probabilități, cu intervalul aproximativ și volumul necesar; două reprezentări ale aceleiași integrale, cu varianțe diferite; probabilitățile mici, pentru care precizia trebuie măsurată prin eroarea relativă. Simulările folosesc metoda inversă din secțiunea precedentă.
Începem cu un exemplu rezolvat în care totul se calculează exact, astfel încât estimația, eroarea standard și intervalul pot fi comparate cu valorile adevărate.
Estimați prin metoda Monte Carlo integrala \(I=\int_0^1\sqrt x\dd x\) (a cărei valoare exactă este \(\frac23\)), cu \(N=10^4\) simulări. Calculați eroarea standard, un interval aproximativ de nivel \(0.95\) și volumul necesar pentru o eroare de cel mult \(10^{-3}\).
Seminar Pasul 1: integrala ca medie. Densitatea lui \(U\sim\Unif(0,1)\) este \(\Ind_{(0,1)}\), deci, din formula de transport (Teorema 22 din Cursul 1), \(I=\int_0^1\sqrt x\cdot1\dd x=\E[h(U)]\), cu \(h(x)=\sqrt x\). (Din Exemplul 2, \(\sqrt U\) are densitatea \(2x\) pe \((0,1)\): \(I\) este media acelei repartiții.)
Pasul 2: estimatorul. Pentru \(U_1,\dots,U_N\) i.i.d. \(\Unif(0,1)\), \(\hat I_N=\frac1N\sum_{i=1}^N\sqrt{U_i}\). Cum \(0\le h\le1\), avem \(\E|h(U)|<\infty\) și, din punctul 1 al Propoziției 1 din Cursul 4, \(\E[\hat I_N]=I\) și \(\hat I_N\asto I\).
Pasul 3: varianța unei observații. \(\E[h(U)^2]=\int_0^1x\dd x=\frac12\), deci \(\sigma^2=\Var(h(U))=\frac12-\big(\frac23\big)^2=\frac1{18}\approx0.0556\) și \(\sigma\approx0.2357\).
Pasul 4: eroarea standard. Din punctul 2 al propoziției, \(\Var(\hat I_N)=\frac{\sigma^2}{N}\), deci abaterea standard a estimatorului este \(\frac\sigma{\sqrt N}\): \(0.0236\) pentru \(N=100\), \(0.0024\) pentru \(N=10^4\) și \(0.00024\) pentru \(N=10^6\). O zecimală exactă în plus costă de \(100\) de ori mai multe simulări. În practică \(\sigma\) nu este cunoscut și se înlocuiește cu abaterea standard empirică \(\hat\sigma_N\) a valorilor \(h(U_i)\); numărul \(\hat\sigma_N/\sqrt N\) este eroarea standard, raportată întotdeauna împreună cu estimația.
Pasul 5: intervalul. Din punctul 2 al propoziției, \(\sqrt N(\hat I_N-I)/\hat\sigma_N\) este aproximativ \(\Norm(0,1)\), iar \(\PP(|Z|\le1.96)\approx0.95\) pentru \(Z\sim\Norm(0,1)\). Deci, cu probabilitatea aproximativă \(0.95\), \(|\hat I_N-I|\le1.96\,\hat\sigma_N/\sqrt N\), adică intervalul \(\hat I_N\pm1.96\,\hat\sigma_N/\sqrt N\) conține \(I\) (punctul 3 al propoziției, cu \(z_{0.975}\approx1.96\)).
Pasul 6: volumul. Cerem ca jumătatea lungimii intervalului să fie cel mult \(\varepsilon=10^{-3}\): \[ 1.96\,\frac{\sigma}{\sqrt N}\le\varepsilon\iff\sqrt N\ge\frac{1.96\,\sigma}{\varepsilon}\iff N\ge\Big(\frac{1.96\,\sigma}{\varepsilon}\Big)^2=\frac{1.96^2}{18\cdot10^{-6}}\approx213\,400 . \] Deci volumul necesar este \(N\approx213\,400\). Cu \(N=10^4\) ne așteptăm la o eroare de ordinul \(1.96\cdot0.0024\approx0.005\).
Laborator Calculăm valorile \(h(U_i)\), media lor (estimația), eroarea standard sd(h_u) / sqrt(N_ex) și capetele intervalului; ultima valoare afișată este abaterea standard teoretică \(\sigma/\sqrt N\) a estimatorului.
set.seed(402)
N_ex <- 1e4
h_u <- sqrt(runif(N_ex)) # valorile h(U_i)
I_hat <- mean(h_u); se_hat <- sd(h_u) / sqrt(N_ex)
round(c(estimatie = I_hat, se = se_hat, IC_inf = I_hat - 1.96 * se_hat,
IC_sup = I_hat + 1.96 * se_hat, se_teoretic = sqrt(1 / 18 / N_ex)), 5)
#> estimatie se IC_inf IC_sup se_teoretic
#> 0.66599 0.00235 0.66139 0.67059 0.00236Estimația este \(0.66599\), la \(0.0007\) de valoarea exactă \(\frac23\approx0.66667\), adică la mai puțin de o treime de eroare standard; eroarea standard estimată, \(0.00235\), coincide practic cu cea teoretică, \(0.00236\); intervalul \([0.6614,\ 0.6706]\) conține valoarea exactă. Aceste patru numere (estimația, eroarea standard și capetele intervalului) vor fi calculate, în exercițiile următoare, de funcția mc_rezumat.
La seminar O țintă circulară are trei cercuri concentrice, de raze \(\frac1{\sqrt3}\), \(1\) și \(\sqrt3\). O săgeată care lovește în interiorul primului cerc primește \(4\) puncte, între primul și al doilea cerc \(3\) puncte, între al doilea și al treilea \(2\) puncte, iar în afara celui de-al treilea \(0\) puncte. Distanța \(R\) de la centru la punctul de impact are densitatea \(f_R(r)=\frac{2}{\pi(1+r^2)}\), \(r>0\); \(S\) este scorul unei săgeți.
Determinați \(F_R\), \(F_R^{-1}\) și un algoritm de simulare a lui \(R\) prin metoda inversă.
Determinați repartiția lui \(S\), \(\E[S]\) și \(\Var(S)\). Arătați că \(S\) se poate simula direct dintr-o uniformă.
Fie \(S_1,\dots,S_N\) scorurile a \(N\) săgeți independente. Scrieți estimatorii Monte Carlo ai lui \(m=\E[S]\) și \(p_0=\PP(S=0)\) și erorile lor standard. Ce volum \(N\) asigură, pentru fiecare, o eroare de cel mult \(0.01\) cu probabilitatea aproximativă \(0.95\)?
În R: simulați \(N=10^5\) săgeți și verificați repartiția de la (b); scrieți o funcție care întoarce estimația Monte Carlo, eroarea standard și intervalul aproximativ de nivel \(0.95\), aplicați-o scorurilor simulate și verificați prin simulare nivelul intervalului.
Laborator Schelet de cod pentru (d) — completați locurile marcate cu ___:
set.seed(64)
N <- 1e5
R <- ___ # metoda inversă de la (a)
S <- c(4, 3, 2, 0)[findInterval(R, ___, left.open = TRUE) + 1] # razele
table(S) / N # de comparat cu (b)
mc_rezumat <- function(y, alpha = 0.05) { # y = valorile h(X_i)
N <- length(y); est <- mean(y); se <- ___ # eroarea standard
z <- qnorm(1 - alpha / 2) # z_{1 - alpha/2}
c(estimatie = est, se = se, IC_inf = ___, IC_sup = ___) } # capetele
rbind(E_S = mc_rezumat(S), P_S0 = mc_rezumat(S == 0))
set.seed(65); rep_S <- replicate(2000, mc_rezumat(___)) # 1000 de scoruri
mean(___) # IC care conțin E[S]Aceeași integrală admite mai multe reprezentări ca medie, iar precizia depinde de varianța variabilei mediate. Exercițiul următor compară două reprezentări și determină volumul simulării pentru fiecare.
Pentru acasă Fie \[ I=\int_0^\infty\sin\big(x^4\big)\,e^{-2x}\,e^{-x^2/2}\dd x . \]
Scrieți \(I\) ca medie în două moduri: \(I=\E[h_1(Z)]\) cu \(Z\sim\Norm(0,1)\) și \(I=\E[h_2(Y)]\) cu \(Y\sim\Exp(2)\). Descrieți estimatorii Monte Carlo corespunzători și justificați convergența lor.
Arătați că ambii estimatori au varianță finită și scrieți varianțele \(\sigma_1^2=\Var(h_1(Z))\), \(\sigma_2^2=\Var(h_2(Y))\) ca integrale simple.
Știind că, numeric, \(\sigma_1^2\approx0.00734\) și \(\sigma_2^2\approx0.00616\), determinați volumul simulării pentru care eroarea este cel mult \(10^{-3}\) cu probabilitatea aproximativă \(0.95\). Ce reprezentare este de preferat și de ce?
În R: calculați \(I\), \(\sigma_1^2\) și \(\sigma_2^2\) prin integrare numerică și comparați cei doi estimatori pe o simulare.
Laborator Schelet de cod pentru (d) (funcția mc_rezumat este cea din Exercițiul 8) — completați locurile marcate cu ___:
integr <- function(f) integrate(f, 0, 12, subdivisions = 5000,
rel.tol = 1e-10)$value
I <- integr(function(x) ___) # integrandul lui I
s1 <- integr(function(z) ___) - I^2 # sigma_1^2
s2 <- integr(function(y) ___) - I^2 # sigma_2^2
c(I = I, sigma2_1 = s1, sigma2_2 = s2)
set.seed(50)
N <- 23700
z <- rnorm(N); y <- ___ # Exp(2), metoda inversă
h1 <- ___; h2 <- ___ # h_1(Z_i), h_2(Y_i)
rbind(normala = mc_rezumat(h1), exponentiala = mc_rezumat(h2))(a) \(h_1(x)=\sqrt{2\pi}\sin(x^4)e^{-2x}\Ind_{[0,\infty)}(x)\) și \(h_2(x)=\frac12\sin(x^4)e^{-x^2/2}\); estimatorii \(\hat I^{(1)}_N\), \(\hat I^{(2)}_N\) sunt nedeplasați și converg a.s. la \(I\).
(b) \(\sigma_1^2\le\E[h_1(Z)^2]\le2\pi\) și \(\sigma_2^2\le\frac14\): ambele varianțe sunt finite.
(c) Volumele sunt \(N_1\approx28\,200\) și \(N_2\approx23\,660\), iar reprezentarea exponențială este de preferat.
(d) \(I\approx0.03938\), \(\sigma_1^2\approx0.00734\) și \(\sigma_2^2\approx0.00616\).
Ultimul exercițiu al secțiunii arată de ce probabilitățile mici cer altă măsură a preciziei: o eroare absolută mică nu spune nimic dacă este de ordinul probabilității estimate.
Dacă timpul permite Fie \(Z\sim\Norm(0,1)\) și \(p=\PP(Z>3)=\Phi(-3)\approx0.00135\).
Fie \(\hat p_N\) frecvența relativă a evenimentului \(\{Z_i>3\}\) în \(N\) simulări independente. Determinați \(\E[\hat p_N]\) și \(\Var(\hat p_N)\).
Ce volum \(N\) garantează (aproximativ, prin TLC; apoi exact, prin inegalitatea lui Cebîșev) o eroare absolută de cel mult \(0.01\) cu probabilitatea \(0.95\), oricare ar fi \(p\)? Este această precizie utilă aici?
Ce volum \(N\) este necesar pentru o eroare relativă de cel mult \(10\%\) cu probabilitatea aproximativă \(0.95\)?
În R: calculați exact, cu repartiția binomială, probabilitatea ca eroarea relativă să fie cel mult \(10\%\) pentru volumul \(N=9\,604\) de la (b) și pentru volumul de la (c) și simulați estimatorul pentru \(N=10^3\), \(10^4\) și \(284\,190\).
Laborator Schelet de cod pentru (d) (funcția mc_rezumat este cea din Exercițiul 8) — completați locurile marcate cu ___:
p <- pnorm(-3)
P_rel <- function(N) # P(0.9 N p <= Bin(N, p) <= 1.1 N p), exact
___ # cu pbinom
c(N_9604 = P_rel(9604), N_284190 = P_rel(284190))
set.seed(46)
est <- sapply(c(N_1000 = 1e3, N_10000 = 1e4, N_284190 = 284190),
function(N) mc_rezumat(___)) # indicatorii {Z_i > 3}
round(rbind(est, eroare_relativa = ___), 5) # (p_N - p) / p(a) \(\E[\hat p_N]=\frac{Np}{N}=p\); \(\Var(\hat p_N)=\frac{Np(1-p)}{N^2}=\frac{p(1-p)}{N}\).
(b) \(N\ge9\,604\) (TLC), respectiv \(N\ge50\,000\) (Cebîșev); pentru \(p\approx0.00135\) această precizie nu este utilă.
(c) \(N\ge284\,190\).
(d) cu \(N=9\,604\) probabilitatea unei erori relative de cel mult \(10\%\) este doar \(0.32\) (numărul mediu de apariții este \(Np\approx13\), iar eroarea relativă este sub \(10\%\) doar dacă evenimentul apare de \(12\), \(13\) sau \(14\) ori); cu \(N=284\,190\) ea este \(0.948\).
5 Exerciții suplimentare
Exercițiile de mai jos sunt pentru studiul individual. Primele două revin la a doua parte a Cursul 3: unul implementează Pasul 2 al demonstrației teoremei de existență, iar celălalt justifică relația (1) și folosește funcția cuantilă pentru a compara două repartiții. Al treilea compară metoda Monte Carlo cu o cuadratură deterministă.
Pentru acasă Fie \((X_m)_{m\ge1}\) un șir de variabile aleatoare independente cu \(\PP(X_m=0)=\PP(X_m=1)=\frac12\) (aruncări ale unei monede echilibrate) și \(\phi(n,k)=\frac{(n+k-1)(n+k-2)}{2}+k\) numerotarea pe diagonale a perechilor \((n,k)\in\N^*\times\N^*\). Ca la Pasul 2 al demonstrației Teoremei 14 din Cursul 3, fie \[ U_n=\sum_{k\ge1}\frac{X_{\phi(n,k)}}{2^k},\qquad S_{n,K}=\sum_{k=1}^K\frac{X_{\phi(n,k)}}{2^k},\qquad n\ge1,\ K\ge1 . \]
Scrieți indicii primelor cinci aruncări folosite de \(U_1\), \(U_2\) și \(U_3\). Câte aruncări trebuie generate pentru a calcula \(S_{1,20}\), \(S_{2,20}\) și \(S_{3,20}\)?
Arătați că \(S_{n,K}\) este uniformă pe grila \(\{j/2^K:\ 0\le j<2^K\}\), calculați media și varianța ei și arătați că \(0\le U_n-S_{n,K}\le2^{-K}\). De ce sunt independente \(S_{1,K}\), \(S_{2,K}\) și \(S_{3,K}\)?
În R: verificați că cifrele binare ale numerelor produse de
runifse comportă ca aruncări echilibrate independente; construiți din ele \(10^4\) triplete \((S_{1,20},S_{2,20},S_{3,20})\) și verificați uniformitatea și independența componentelor; transformați-le apoi în variabile \(\Exp(1)\), \(\Pois(3)\) și \(\Norm(0,1)\).
Laborator Schelet de cod pentru (c) (funcția dist_ks este cea din Exercițiul 5) — completați locurile marcate cu ___:
cifre_bin <- function(u, K = 30) # primele K cifre binare ale lui u
outer(u, 1:K, function(u, k) ___) # cifra de rang k
set.seed(61)
D <- cifre_bin(runif(1e5), K = 34)
round(colMeans(D)[c(1:4, 30:34)], 3) # frecvența cifrei 1 pe poziții
phi <- function(n, k) (n + k - 1) * (n + k - 2) / 2 + k # numerotarea
K <- 20; B <- 1e4; set.seed(62)
biti <- do.call(cbind, lapply(1:9, function(j) cifre_bin(runif(B), 30)))
S <- sapply(c(S1 = 1, S2 = 2, S3 = 3), function(n) ___) # S_{n,K}
round(cor(S), 3) # aproape de matricea unitate
round(apply(S, 2, function(v) dist_ks(v, punif)), 4) # D_n, uniformitatea
X1 <- qexp(S[, 1]); X2 <- ___; X3 <- ___ # Pois(3), N(0, 1)(a) \(U_1\), \(U_2\), \(U_3\) încep cu aruncările de indici \(1,3,6,10,15\), \(2,5,9,14,20\), respectiv \(4,8,13,19,26\); generăm \(X_1,\dots,X_{251}\), din care folosim \(3\cdot20=60\).
(b) \(\PP(S_{n,K}=j/2^K)=2^{-K}\), \(\E[S_{n,K}]=\frac{1-2^{-K}}{2}\), \(\Var(S_{n,K})=\frac{1-4^{-K}}{12}\), \(0\le U_n-S_{n,K}\le2^{-K}\); \(S_{1,K}\), \(S_{2,K}\), \(S_{3,K}\) sunt independente, fiind funcții de blocuri disjuncte de aruncări independente.
(c) \(X_1\) are media \(1.008\) și varianța \(0.990\) (teoretic \(1\) și \(1\), pentru \(\Exp(1)\)); \(X_2\) are \(3.015\) și \(3.042\) (teoretic \(3\) și \(3\), pentru \(\Pois(3)\)); \(X_3\) are \(0.018\) și \(0.974\) (teoretic \(0\) și \(1\)).
Al doilea exercițiu arată că funcția cuantilă „conține” toată informația despre repartiție într-o formă comodă pentru calcule: mediile devin integrale pe \((0,1)\), iar compararea a două repartiții devine compararea a două funcții crescătoare.
Pentru acasă Fie \(X\) și \(Y\) variabile aleatoare cu funcțiile de repartiție \(F_X\), \(F_Y\) și funcțiile cuantilă \(F_X^{-1}\), \(F_Y^{-1}\).
Arătați că, pentru orice \(g\) boreliană cu \(\E|g(X)|<\infty\), are loc relația (1); în particular \(\E[X]=\int_0^1F_X^{-1}(u)\dd u\) dacă \(\E|X|<\infty\). Aplicați pentru \(X\sim\Exp(\lambda)\) (media și varianța).
Spunem că \(X\) este stocastic mai mare decât \(Y\) dacă \(\PP(X>x)\ge\PP(Y>x)\) pentru orice \(x\in\R\). Arătați că, în acest caz, \(F_X^{-1}(u)\ge F_Y^{-1}(u)\) pentru orice \(u\in(0,1)\).
Deduceți că, dacă \(X\) este stocastic mai mare decât \(Y\), există pe același câmp de probabilitate \(X'\sim F_X\) și \(Y'\sim F_Y\) cu \(X'(\omega)\ge Y'(\omega)\) pentru orice \(\omega\) și că \(\E[g(X)]\ge\E[g(Y)]\) pentru orice \(g\) crescătoare cu mediile finite; în particular \(\E[X]\ge\E[Y]\).
Arătați că \(\Bin(n,p)\) este stocastic mai mare decât \(\Bin(n,p')\) pentru \(p\ge p'\) și verificați în R concluziile de la (a)–(c).
Laborator Schelet de cod pentru (d) — completați locurile marcate cu ___:
u <- seq(0.001, 0.999, by = 0.001)
c(cuantile_ordonate = all(___), # (b)
cozi_ordonate = all(___)) # cozile
set.seed(43)
U <- runif(1e5)
X <- ___; Y <- ___ # cuplarea: aceeași uniformă
c(P_X_ge_Y = mean(X >= Y), media_X = mean(X), media_Y = mean(Y),
cor_XY = cor(X, Y))
c(exp_medie = integrate(function(u) ___, 0, 1)$value, # (a), lambda = 2
exp_m2 = integrate(function(u) ___, 0, 1)$value) # E[X^2](a) \(\E[X]=\frac1\lambda\), \(\E[X^2]=\frac{2}{\lambda^2}\) și \(\Var(X)=\frac1{\lambda^2}\).
(b) \(F_Y^{-1}(u)\le x_0=F_X^{-1}(u)\).
(c) cu \(X'=F_X^{-1}(U)\ge Y'=F_Y^{-1}(U)\) avem \(\E[g(X)]\ge\E[g(Y)]\); pentru \(g(x)=x\) obținem \(\E[X]\ge\E[Y]\).
(d) \(\Bin(n,p)\) este stocastic mai mare decât \(\Bin(n,p')\); ambele verificări întorc TRUE, deci funcțiile cuantilă și cozile sunt ordonate.
Ultimul exercițiu ilustrează o observație din Cursul 4: rata \(N^{-1/2}\) a erorii Monte Carlo nu depinde de dimensiune, pe când o cuadratură deterministă pe o grilă își pierde rapid precizia când dimensiunea crește.
Pentru acasă Pentru \(d\ge1\) fie \[ I_d=\int_{[0,1]^d}\exp\Big(-\frac{x_1^2+\dots+x_d^2}{d}\Big)\dd x . \]
Arătați că \(I_d=\Big(\sqrt{\pi d}\,\big(\Phi(\sqrt{2/d})-\tfrac12\big)\Big)^d\).
Scrieți estimatorul Monte Carlo al lui \(I_d\) cu \(N\) puncte uniforme în \([0,1]^d\) și arătați că eroarea lui standard este cel mult \(0.32/\sqrt N\), oricare ar fi \(d\).
Regula punctului de mijloc pe o grilă cu \(m\) puncte pe fiecare axă folosește \(N=m^d\) evaluări ale funcției. Arătați că, pentru \(\psi:[0,1]^d\to\R\) de clasă \(C^2\), cu toate derivatele parțiale de ordinul doi mărginite în modul de o constantă \(M\), eroarea ei este cel mult \(\frac{Md^2}{8}\,N^{-2/d}\).
În R: comparați cele două metode pentru \(d\in\{1,2,4,6,8,10\}\), cu un buget de cel mult \(10^4\) evaluări.
Laborator Schelet de cod pentru (d) — completați locurile marcate cu ___:
I_exact <- function(d) ___ # formula (a)
set.seed(56)
comp <- t(sapply(c(1, 2, 4, 6, 8, 10), function(d) {
m <- floor(1e4^(1 / d) + 1e-9); N <- m^d # m puncte pe axă
nod <- as.matrix(expand.grid(rep(list((1:m - 0.5) / m), d))) # grila
grila <- ___ # regula mijlocului
y <- ___ # Monte Carlo
c(d = d, m = m, N = N, eroare_grila = abs(grila - I_exact(d)),
eroare_MC = abs(mean(y) - I_exact(d)), se_MC = sd(y) / sqrt(N))
}))
data.frame(comp[, 1:3], # erorile, în notație științifică
apply(comp[, 4:6], 2, formatC, format = "e", digits = 1))(a) Ridicând la puterea \(d\) obținem formula din enunț.
(b) \(\hat I_N=\frac1N\sum_{j=1}^Nh(V_j)\) are eroarea standard cel mult \(0.32/\sqrt N\).
(c) eroarea totală este cel mult \(\frac{Md^2}{8}\ell^2=\frac{Md^2}{8}\,m^{-2}=\frac{Md^2}{8}\,N^{-2/d}\).
(d) De la dimensiuni moderate (\(d\approx6\)) metoda Monte Carlo devine mai precisă.
6 Temă
Enunțurile de mai jos au răspunsul sau o indicație; cele marcate cu R cer și o verificare prin simulare.
(Legea lui Benford, R.) Prima cifră semnificativă \(D\) a multor date reale are repartiția \(\PP(D=d)=\log_{10}\big(1+\frac1d\big)\), \(d=1,\dots,9\). Arătați că \(F(d)=\log_{10}(d+1)\) și că metoda inversă dă \(D=\lfloor10^U\rfloor\). Verificați prin simulare. (Indicație: suma este telescopică, \(\sum_{j\le d}\log_{10}\frac{j+1}{j}=\log_{10}(d+1)\); \(F(d)\ge u\iff d\ge10^u-1\), iar cel mai mic întreg cu această proprietate este \(\lceil10^u\rceil-1=\lfloor10^u\rfloor\) a.s.)
(Cuantila unei transformări descrescătoare.) Fie \(F\) continuă și strict crescătoare pe \(\R\) și \(X\sim F\). Arătați că \(F_{-X}^{-1}(u)=-F^{-1}(1-u)\) pentru orice \(u\in(0,1)\). Ce devine relația pentru repartiția \(\Norm(0,1)\)? (Indicație: \(F_{-X}(y)=\PP(X\ge-y)=1-F(-y)\), deci \(F_{-X}(y)\ge u\iff F(-y)\le1-u\iff-y\le F^{-1}(1-u)\). Răspuns: o transformare descrescătoare schimbă ordinul \(u\) al cuantilei în \(1-u\); pentru \(\Norm(0,1)\), \(-X\) are repartiția lui \(X\), deci \(z_u=-z_{1-u}\).)
(Repartițiile Beta cu un parametru egal cu \(1\) și repartiția Kumaraswamy, R.) (a) Arătați că \(U^{1/a}\sim\BetaD(a,1)\) și \(1-U^{1/b}\sim\BetaD(1,b)\) și interpretați \(U^{1/n}\) și \(1-U^{1/n}\) ca maximul, respectiv minimul a \(n\) uniforme independente (Exercițiul 4). (b) Repartiția Kumaraswamy \((a,b)\) are densitatea \(ab\,x^{a-1}(1-x^a)^{b-1}\) pe \((0,1)\); determinați \(F\), \(F^{-1}\) și media; verificați prin simulare media și mediana pentru \(a=2\), \(b=3\). (Răspuns: (a) \(F(x)=x^a\), respectiv \(1-(1-x)^b\) pe \([0,1]\). (b) \(F(x)=1-(1-x^a)^b\); \(X=(1-U^{1/b})^{1/a}\); cu \(t=x^a\), \(\E[X]=b\,B(1+\frac1a,b)\), adică \(\frac{16}{35}\approx0.4571\); mediana \((1-2^{-1/3})^{1/2}\approx0.4542\).)
(O densitate nemărginită, R.) Fie \(f(x)=\frac16|x|^{-2/3}\) pentru \(0<|x|\le1\). Arătați că \(f\) este o densitate, că \(F(x)=\frac12\big(1+\sqrt[3]{x}\big)\) pe \([-1,1]\) și că \(F^{-1}(u)=(2u-1)^3\). Deduceți mediana, cuartilele și \(\E[X^2]\) cu relația (1); verificați prin simulare. (Răspuns: \(\int_0^1\frac16x^{-2/3}\dd x=\frac12\) pe fiecare semiaxă; mediana \(0\), cuartilele \(\mp\frac18\), \(\E[X^2]=\int_0^1(2u-1)^6\dd u=\frac17\). Deși densitatea este nemărginită în \(0\), metoda inversă este imediată: \(X=(2U-1)^3\).)
(Repartiția logaritmică.) Fie \(\PP(X=k)=\frac{-p^k}{k\ln(1-p)}\), \(k\ge1\), \(p\in(0,1)\). Verificați că este o funcție de masă, găsiți recurența \(p_{k+1}=\frac{kp}{k+1}p_k\) și scrieți un algoritm de simulare prin metoda inversă, ca în Exercițiul 2(d). Care este costul mediu al căutării secvențiale? (Răspuns: \(\sum_k\frac{p^k}{k}=-\ln(1-p)\); costul mediu este \(\E[X]=\frac{-p}{(1-p)\ln(1-p)}\) (valorile fiind \(1,2,\dots\), numărul de comparații este chiar \(X\)), de exemplu \(\approx3.91\) pentru \(p=0.9\); probabilitățile sunt descrescătoare, deci ordinea naturală este optimă.)
(Două reprezentări, calcul exact, R.) Fie \(I=\int_0^\infty\frac{e^{-x}}{1+x}\dd x\). Scrieți \(I=\E\big[\frac1{1+X}\big]\) cu \(X\sim\Exp(1)\) și, cu schimbarea \(t=\frac1{1+x}\), \(I=\E\big[\frac{e^{1-1/U}}{U}\big]\) cu \(U\sim\Unif(0,1)\). Calculați exact cele două varianțe, precizați care reprezentare este mai eficientă și determinați, pentru fiecare, volumul necesar pentru o eroare de cel mult \(10^{-2}\) cu probabilitatea aproximativă \(0.95\); verificați prin simulare. (Indicație: integrând prin părți, \(\E\big[(1+X)^{-2}\big]=1-I\); cu schimbarea \(s=\frac1t-1\), \(\E\big[e^{2-2/U}U^{-2}\big]=\int_0^\infty e^{-2s}\dd s=\frac12\). Răspuns: \(I\approx0.5963\); varianțele sunt \(1-I-I^2\approx0.0480\), respectiv \(\frac12-I^2\approx0.1444\), deci prima reprezentare este de aproximativ \(3\) ori mai eficientă; volumele sunt \(\approx1\,845\) și \(\approx5\,546\).)
(Un joc câștigat prin simulare, R.) Un prieten alege două numere reale distincte \(x<y\), pe care nu vi le arată, aruncă o monedă echilibrată și vă arată unul dintre ele. Trebuie să ghiciți dacă numărul arătat este cel mai mic. Strategie: simulați \(Z\sim\Exp(1)\) și răspundeți „cel mai mic” dacă numărul arătat este mai mic decât \(Z\). Arătați că probabilitatea de câștig este \(\frac12+\frac12\big(\PP(Z>x)-\PP(Z>y)\big)>\frac12\) pentru \(0\le x<y\) și estimați-o prin simulare, cu un interval de nivel \(0.95\), pentru \(x=1\), \(y=2\). (Răspuns: dacă se arată \(x\), câștigăm cu probabilitatea \(\PP(Z>x)\); dacă se arată \(y\), cu \(\PP(Z\le y)\); media lor este \(\frac12+\frac12(e^{-x}-e^{-y})\approx0.616\) pentru \(x=1\), \(y=2\).)
(Explorare: variabile antitetice, R.) Pentru \(I=\int_0^1e^x\dd x=\E[e^U]\), comparați estimatorul obișnuit \(\frac1{2n}\sum_{i=1}^{2n}e^{U_i}\) cu estimatorul \(\frac1n\sum_{i=1}^n\frac12\big(e^{U_i}+e^{1-U_i}\big)\), care folosește perechile „antitetice” \((U_i,1-U_i)\). Arătați că ambii sunt nedeplasați, calculați \(\Var(e^U)\) și \(\Var\big(\frac12(e^U+e^{1-U})\big)\) și verificați prin simulare. (Indicație: \(1-U\sim\Unif(0,1)\) și \(e^Ue^{1-U}=e\), deci \(\Cov(e^U,e^{1-U})=e-(e-1)^2\). Răspuns: \(\Var(e^U)=\frac{e^2-1}{2}-(e-1)^2\approx0.2420\) și \(\Var\big(\frac12(e^U+e^{1-U})\big)\approx0.0039\); la același număr de evaluări ale funcției (\(2n\)), varianța estimatorului scade de aproximativ \(31\) de ori, deoarece cele două variabile ale unei perechi sunt puternic corelate negativ. Această tehnică și alte metode de reducere a varianței: (Robert and Casella 2004, cap. 4).)
(Repartiția triunghiulară, R.) Fie \(f(x)=x\) pentru \(0\le x\le1\), \(f(x)=2-x\) pentru \(1<x\le2\) și \(f(x)=0\) în rest. Verificați că \(f\) este o densitate, determinați \(F\) și \(F^{-1}\) pe ramuri, ca în Exercițiul 1, și scrieți algoritmul metodei inverse. Calculați \(\PP(X\le\frac12)\) și cuantila de ordin \(0.9\). Verificați prin simulare și comparați cu \(F\), folosind
dist_ks, atât eșantionul obținut, cât și un eșantion de sume \(U_1+U_2\) a două uniforme independente. (Răspuns: \(F(x)=\frac{x^2}2\) pe \([0,1]\) și \(F(x)=1-\frac{(2-x)^2}2\) pe \([1,2]\); \(F^{-1}(u)=\sqrt{2u}\) pentru \(u\le\frac12\) și \(F^{-1}(u)=2-\sqrt{2(1-u)}\) pentru \(u>\frac12\); \(\PP(X\le\frac12)=\frac18\) și \(q_{0.9}=2-\sqrt{0.2}\approx1.553\). Suma \(U_1+U_2\) are aceeași densitate \(f\) (formula de convoluție, Propoziția 50 din Cursul 1), deci ambele distanțe sunt de ordinul \(1/\sqrt n\).)(Media unei funcții sau frecvența unui eveniment?, R.) Fie \(I=\int_0^1e^{-x}\dd x=1-e^{-1}\). Scrieți \(I=\E[e^{-U}]\), cu \(U\sim\Unif(0,1)\), și \(I=\PP(E\le1)=\E\big[\Ind_{\{E\le1\}}\big]\), cu \(E\sim\Exp(1)\). Calculați varianțele unei observații pentru cei doi estimatori Monte Carlo și volumul necesar fiecăruia pentru o eroare de cel mult \(10^{-3}\) cu probabilitatea aproximativă \(0.95\); verificați prin simulare, cu
mc_rezumat. (Răspuns: \(\Var(e^{-U})=\frac{1-e^{-2}}{2}-(1-e^{-1})^2\approx0.0328\), iar \(\Var\big(\Ind_{\{E\le1\}}\big)=I(1-I)\approx0.2325\); volumele sunt \(\approx125\,800\) și \(\approx893\,300\). Estimatorul care mediază o funcție netedă este de aproximativ \(7\) ori mai eficient decât cel care numără aparițiile unui eveniment.)