y <- c(0.5, 1, 2) # (a): F_Y(y) pentru mu = +/- 1.3
rbind(mu_plus = ___, mu_minus = ___) # formula de la (a)
conv <- function(l1, l2, k) sum(___) # (d): convoluția
rbind(l_1_2 = sapply(0:5, conv, l1 = 1, l2 = 2), # funcția de masă a sumei
l_2_1 = sapply(0:5, conv, l1 = 2, l2 = 1), teoretic = ___) # (d)
set.seed(6); n <- 5000 # simulăm din modelul de la (a)
y_plus <- ___; y_minus <- ___ # |X|, mu = 1.5 și -1.5
x_plus <- ___; x_minus <- ___ # X, mu = 1.5 și -1.5
c(mean(y_plus), mean(y_minus), mean(x_plus), mean(x_minus))
set.seed(61)
yy <- ___ # (c): partea întreagă a lui X
round(rbind(simulat = tabulate(yy + 1, 5) / 1e5, teoretic = ___), 4) # (c)Seminarul 3. Modele statistice, statistici și selecția din populații finite
Fișă de lucru (fără rezolvări)
Aceasta este fișa de lucru: enunțurile, exemplele rezolvate, scheletele de cod R și răspunsurile finale pentru exercițiile marcate „Dacă timpul permite” și „Pentru acasă”. Rezolvările complete vor fi publicate ulterior.
Înainte de a estima un parametru trebuie să știm ce model descrie datele, dacă parametrul poate fi determinat din repartiția lor și ce repartiție au statisticile pe care le calculăm. Ședința fixează, prin exerciții rezolvate matematic (Seminar) și în R (Laborator), noțiunile din Cursul 2 și din prima parte a Cursul 3: modelul statistic și identificabilitatea lui, statisticile și repartițiile lor exacte, minimul și maximul unui eșantion, selecția simplă cu și fără revenire dintr-o populație finită. Firul comun este repartiția de eșantionare a unei statistici: o calculăm exact acolo unde se poate și o aproximăm prin simulare, generând multe eșantioane și calculând statistica pe fiecare. Funcția cuantilă și existența eșantioanelor independente (a doua parte a Cursul 3) sunt exersate în Seminarul 4.
Obiective. La sfârșitul ședinței studentul trebuie să poată:
- construi modelul statistic al unui experiment descris în cuvinte (spațiul observațiilor, spațiul parametrilor, familia de repartiții, măsura dominantă) și decide, cu demonstrație, dacă este identificabil — ținând cont de faptul că identificabilitatea depinde și de ce anume observăm;
- recunoaște o statistică și determina repartiția exactă a unor sume de variabile independente (eventual cu parametri diferiți) cu ajutorul funcției generatoare de momente (f.g.m.), inclusiv legătura dintre repartițiile Gamma și Poisson;
- determina repartiția minimului și a maximului unui eșantion, în cazul continuu și în cel discret, și recunoaște situațiile în care aproximarea normală nu are loc;
- calcula media și varianța mediei eșantionului la selecția simplă cu și fără revenire, folosi factorul de corecție pentru populație finită și repartiția hipergeometrică;
- simula în R repartiția de eșantionare a unei statistici (
replicate, matrice de eșantioane) și selecții dintr-o populație finită (sample), enumera eșantioanele unei populații mici (combn) și compara rezultatele simulării cu valorile teoretice.
Structura. Breviar; modele statistice și identificabilitate; statistici și repartițiile lor exacte; minimul și maximul unui eșantion; selecția simplă dintr-o populație finită; exerciții suplimentare; temă. Pentru aprofundare: (Casella and Berger 2002, cap. 5), (Hogg et al. 2019, cap. 4), iar pentru sondaje (Rice 2007, cap. 7).
De rezolvat la seminar, în această ordine:
- Exercițiul 1 — identificabilitatea a patru modele, cu verificarea și simularea în R;
- Exercițiul 2 (a), (c)–(e) — modelul Hardy–Weinberg: modelul statistic, repartiția statisticii \(T\) prin f.g.m., aproximarea normală, simularea cu
sample; - Exercițiul 6 — maximul unor variabile geometrice și minimul Pareto, cu verificarea prin simulare;
- Exercițiul 8 (a), (b), (d) — selecția fără revenire: formulele din curs, enumerarea eșantioanelor,
combnșisample.
Dacă timpul permite:
- Exercițiul 3 — statistici într-un eșantion Poisson și repartiția condiționată dată fiind suma;
- Exercițiul 5 — două cauze de defectare concurente: identificabilitate, minim, repartiția Gamma a mediei;
- Exercițiul 9 — prețurile automobilelor: selecția cu și fără revenire prin simulare.
Pentru acasă:
- subpunctele rămase din exercițiile de la seminar: Exercițiul 2 (b) și Exercițiul 8 (c);
- Exercițiile 4, 7 și 10;
- exercițiile suplimentare 11, 12 și 13;
- tema (Secțiunea 7).
Rezolvările complete vor fi publicate ulterior; scheletele de cod R se completează în locurile marcate cu ___.
1 Breviar
Reamintim rezultatele de care avem nevoie; demonstrațiile lor se găsesc în Cursul 1, Cursul 2 și Cursul 3. În rezolvări indicăm, la fiecare pas, rezultatul aplicat. Notăm cu \(\Phi\) funcția de repartiție a repartiției \(\Norm(0,1)\), iar \(\E_\theta\) și \(\Var_\theta\) sunt media și varianța calculate sub \(\PP_\theta\).
- Model statistic (Definiția 1 din Cursul 2): \(\xi=\big(\Omega,\F,\{\PP_\theta\}_{\theta\in\Theta}\big)\), \(\Theta\subseteq\R^d\); spațiul \((\Omega,\F)\) este același pentru toate valorile parametrului. Modelul este dominat de măsura \(\sigma\)-finită \(\nu\) dacă \(\PP_\theta\ll\nu\) pentru orice \(\theta\) (Definiția 4 din Cursul 2); atunci \(\PP_\theta(A)=\int_Af_\theta\dd\nu\), cu \(f_\theta\) funcția de masă (măsura de numărare) sau densitatea (măsura Lebesgue).
- Identificabilitate (Definiția 5 din Cursul 2): \(\theta_1\ne\theta_2\Rightarrow\PP_{\theta_1}\ne\PP_{\theta_2}\). Criteriu (Lema 6 din Cursul 2): dacă \(\theta\mapsto\Psi(\PP_\theta)\) este injectivă pentru o mărime \(\Psi\) a repartiției (o probabilitate, o medie, un moment), modelul este identificabil; pentru neidentificabilitate exhibăm \(\theta_1\ne\theta_2\) cu \(\PP_{\theta_1}=\PP_{\theta_2}\). Fără identificabilitate nu există estimatori consistenți (Propoziția 7 din Cursul 2).
- Eșantion și statistică. Un eșantion de volum \(n\) din populația \(Q\) este un șir \(X_1,\dots,X_n\) de v.a. i.i.d. cu repartiția \(Q\) (Definiția 8 din Cursul 2); densitatea (masa) comună este \(\prod_if_\theta(x_i)\) (Propoziția 10 din Cursul 2). O statistică este \(T_n=h(X_1,\dots,X_n)\), cu \(h\) măsurabilă și independentă de \(\theta\) (Definiția 11 din Cursul 2); repartiția ei este repartiția de eșantionare.
- F.g.m. \(M_X(t)=\E[e^{tX}]\) (Definiția 30 din Cursul 1): dacă \(M_X=M_Y<\infty\) pe un interval \((-h,h)\), atunci \(X\) și \(Y\) au aceeași repartiție (Teorema 33 din Cursul 1); \(M_{a+bX}(t)=e^{at}M_X(bt)\) (Lema 31 din Cursul 1); pentru \(X_1,\dots,X_n\) independente (nu neapărat identic repartizate), \(M_{X_1+\dots+X_n}=\prod_iM_{X_i}\) (Propoziția 46 din Cursul 1). F.g.m. uzuale (Exemplele 21 din Cursul 1 și 22 din Cursul 1): \[ \begin{array}{l|ccccc} &\Bern(p)&\Bin(n,p)&\Pois(\lambda)&\GammaD(\alpha,\lambda)&\Norm(\mu,\sigma^2)\\ \hline M(t)\rule{0pt}{2.8ex}&1-p+pe^t&(1-p+pe^t)^n&e^{\lambda(e^t-1)}&\big(\frac{\lambda}{\lambda-t}\big)^{\alpha},\ t<\lambda&e^{\mu t+\sigma^2t^2/2} \end{array} \] cu \(\Exp(\lambda)=\GammaD(1,\lambda)\); repartiția \(\GammaD(\alpha,\lambda)\) are media \(\alpha/\lambda\) și varianța \(\alpha/\lambda^2\).
- Sume (Propoziția 12 din Cursul 2): pentru un eșantion din \(\Bern(\theta)\), \(\Pois(\lambda)\), \(\Exp(\lambda)\), respectiv \(\Norm(\mu,\sigma^2)\), suma \(S_n=\sum_iX_i\) are repartiția \(\Bin(n,\theta)\), \(\Pois(n\lambda)\), \(\GammaD(n,\lambda)\), respectiv \(\Norm(n\mu,n\sigma^2)\). Legătura Gamma–Poisson (Corolarul 14 din Cursul 2): \(\PP\big(\GammaD(n,\lambda)>t\big)=\PP\big(\Pois(\lambda t)\le n-1\big)\) pentru \(n\in\N^*\), \(t\ge0\).
- Extreme (Propoziția 15 din Cursul 2): \(F_{X_{(n)}}=F^n\) și \(1-F_{X_{(1)}}=(1-F)^n\) pentru orice \(F\); dacă \(F\) are densitatea \(f\), atunci \(f_{X_{(n)}}=nF^{n-1}f\) și \(f_{X_{(1)}}=n(1-F)^{n-1}f\). În particular, minimul unui eșantion din \(\Exp(\lambda)\) are repartiția \(\Exp(n\lambda)\).
- Populație finită \(u_1,\dots,u_N\) (Definiția 1 din Cursul 3): \(\mu=\frac1N\sum_ju_j\), \(\sigma^2=\frac1N\sum_j(u_j-\mu)^2=\frac1N\sum_ju_j^2-\mu^2\). Selecția simplă cu revenire (Propoziția 4 din Cursul 3): \(X_i\) i.i.d., \(\E[\Xbar]=\mu\), \(\Var(\Xbar)=\sigma^2/n\), \(\E[S_n^2]=\sigma^2\). Fără revenire (Teorema 5 din Cursul 3): \(\E[X_i]=\mu\), \(\Var(X_i)=\sigma^2\), \(\Cov(X_i,X_j)=-\frac{\sigma^2}{N-1}\) pentru \(i\ne j\), \[ \E[\Xbar]=\mu,\qquad \Var(\Xbar)=\frac{\sigma^2}{n}\cdot\frac{N-n}{N-1},\qquad \E[S_n^2]=\frac{N}{N-1}\,\sigma^2 ; \] \(\frac{N-n}{N-1}\) este factorul de corecție pentru populație finită, iar \((1-f)S_n^2/n\), cu \(f=n/N\), estimează nedeplasat \(\Var(\Xbar)\) (Corolarul 6 din Cursul 3).
- Proporții (Exemplul 4 din Cursul 3): dacă \(K\) dintre cei \(N\) indivizi sunt „marcați” (\(u_j=1\)) și \(p=K/N\), atunci \(\sigma^2=p(1-p)\), iar numărul \(Y=n\Xbar\) de indivizi marcați dintr-un eșantion fără revenire are repartiția hipergeometrică \(\HGeom(N,K,n)\), cu \(\E[Y]=np\) și \(\Var(Y)=np(1-p)\frac{N-n}{N-1}\); cu revenire, \(Y\sim\Bin(n,p)\).
În R, pe lângă instrumentele din Seminarul 1 și Seminarul 2 (vectori, funcții proprii, mean(conditie), familiile d/p/q/r), folosim astăzi funcția sample, enumerarea eșantioanelor și simularea „în bloc” a multor eșantioane. Toate simulările încep cu set.seed(...), pentru ca rezultatele să poată fi reproduse.
sample(x, size, replace = FALSE, prob = NULL)— extragesizeelemente din vectorulx: implicit fără revenire (o selecție simplă fără revenire; fărăsize, o permutare aleatoare), iar cureplace = TRUEcu revenire;probdă probabilitățile elementelor luix.sample(N, n)extrage din \(1,\dots,N\).replicate(B, expr)— evaluează deBori expresiaexprși adună rezultatele într-un vector (sau într-o matrice, cu câte o coloană pentru fiecare repetare).matrix(rpois(n * B, lambda), ncol = n)—Beșantioane de volumn, câte unul pe fiecare linie; statistica se calculează apoi pe linii curowSums,rowMeanssauapply(X, 1, max).combn(x, n)— toate submulțimile denelemente ale luix, pe coloane (eșantioanele fără revenire);expand.grid(x, x, x)— toate tripletele ordonate (eșantioanele cu revenire);choose(N, n)\(=\binom Nn\).tabulate(v, k)— numără aparițiile valorilor \(1,\dots,k\) înv;table(v)— tabelul de frecvențe al valorilor luiv.dhyper(y, m, n, k),phyper(q, m, n, k)— repartiția hipergeometrică:mindivizi marcați,nnemarcați,kvolumul eșantionului. Argumentullower.tail = FALSEal funcțiilorpdă \(\PP(Y>q)\).rgeom(n, p),dgeom(k, p)— repartiția geometrică pe \(\N\) (numărul de eșecuri dinaintea primului succes); pentru \(\Geom(p)\) pe \(\N^*\) adăugăm \(1\).var(x)— varianța cu numitorul \(n-1\) (adică \(S_n^2\)); varianța unei populații finite, cu numitorul \(N\), estemean((u - mean(u))^2).hist(x, freq = FALSE)șicurve(f(x), add = TRUE)— histograma normalizată a valorilor simulate și densitatea teoretică suprapusă.
Dacă x este un singur număr \(m\ge1\) (întreg sau nu), sample(x, ...) extrage din \(1,\dots,\lfloor m\rfloor\), nu din vectorul de lungime \(1\). De exemplu, sample(u[u > 100], 1) dă un rezultat greșit exact atunci când un singur element al lui u depășește \(100\). Pentru a extrage în siguranță dintr-un vector oarecare, se extrag indici: x[sample.int(length(x), size)].
2 Modele statistice și identificabilitate
Identificabilitatea depinde de familia de repartiții, dar și de ce anume observăm: o reducere a datelor (valoarea absolută, rotunjirea, o sumă) poate face ca două valori diferite ale parametrului să producă aceeași repartiție a observației. Primul exercițiu adună patru situații tipice; al doilea construiește complet un model din genetică și determină, cu f.g.m., repartiția unei statistici — metodă pe care o reluăm în secțiunea următoare.
Începem cu un exemplu rezolvat, care arată pe cel mai simplu caz cei doi pași ai oricărei discuții de identificabilitate: (1) scriem repartiția observației în funcție de parametru; (2) fie găsim doi parametri diferiți cu aceeași repartiție, fie exprimăm parametrul în funcție de repartiție.
O piesă este acceptată dacă trece două controale de calitate independente: pe primul îl trece cu probabilitatea \(p_1\), pe al doilea cu probabilitatea \(p_2\), iar \(\theta=(p_1,p_2)\in\Theta=(0,1)^2\) este necunoscut. Pentru fiecare piesă se înregistrează doar rezultatul final: \(X=1\) dacă piesa este acceptată și \(X=0\) altfel. Poate fi determinat \(\theta\) din repartiția lui \(X\)?
Seminar Pasul 1: repartiția observației. Fie \(Y_1,Y_2\in\{0,1\}\) rezultatele celor două controale (\(1\) = trecut), independente, cu \(Y_1\sim\Bern(p_1)\) și \(Y_2\sim\Bern(p_2)\). Piesa este acceptată când le trece pe amândouă, deci \(X=Y_1Y_2\) și, din independență, \[ \PP_\theta(X=1)=\PP(Y_1=1,\ Y_2=1)=\PP(Y_1=1)\,\PP(Y_2=1)=p_1p_2 , \] adică \(X\sim\Bern(p_1p_2)\). Modelul observației (Definiția 1 din Cursul 2) este \(\big(\{0,1\},\mathcal P(\{0,1\}),\{\Bern(p_1p_2)\}_{(p_1,p_2)\in(0,1)^2}\big)\), dominat de măsura de numărare, cu funcția de masă \(f_\theta(x)=(p_1p_2)^x(1-p_1p_2)^{1-x}\), \(x\in\{0,1\}\).
Pasul 2: doi parametri diferiți, aceeași repartiție. Repartiția depinde de \(\theta\) doar prin produsul \(p_1p_2\). Luăm \(\theta_1=(0.5,\ 0.4)\) și \(\theta_2=(0.8,\ 0.25)\): \(\theta_1\ne\theta_2\), dar \(0.5\cdot0.4=0.8\cdot0.25=0.2\), deci \(\PP_{\theta_1}=\PP_{\theta_2}=\Bern(0.2)\). Conform Definiției 5 din Cursul 2, modelul nu este identificabil: oricâte piese am controla, datele arată la fel dacă primul control este sever și al doilea îngăduitor sau invers.
Reparametrizarea. Ceea ce datele pot determina este probabilitatea de acceptare \(\eta=p_1p_2\in(0,1)\). În modelul \(\{\Bern(\eta):\eta\in(0,1)\}\) alegem mărimea \(\Psi(\PP)=\PP(\{1\})\): aplicația \(\eta\mapsto\Psi(\PP_\eta)=\eta\) este identitatea, deci este injectivă, iar din Lema 6 din Cursul 2 modelul reparametrizat, în \(\eta=p_1p_2\), este identificabil.
Mai multe date refac identificabilitatea. Presupunem că se înregistrează și rezultatul primului control, adică perechea \((Y_1,X)\). Ea ia valorile \((0,0)\), \((1,0)\) și \((1,1)\), cu probabilitățile \(1-p_1\), \(p_1(1-p_2)\), respectiv \(p_1p_2\) (o piesă respinsă la primul control nu poate fi acceptată). Cum \(\PP_\theta(Y_1=1)=p_1(1-p_2)+p_1p_2=p_1\), putem inversa aplicația \(\theta\mapsto\PP_\theta\), adică putem exprima parametrul prin probabilități ale observației: \[ p_1=\PP_\theta(Y_1=1),\qquad p_2=\frac{\PP_\theta(Y_1=1,\ X=1)}{\PP_\theta(Y_1=1)} \] (împărțirea este permisă, deoarece \(p_1>0\)). Parametrul este o funcție de repartiția perechii, deci doi parametri diferiți dau repartiții diferite: modelul perechii \((Y_1,X)\) este identificabil. De exemplu, \(\theta_1\) și \(\theta_2\) de mai sus se disting acum prin \(\PP(Y_1=1)\): \(0.5\), respectiv \(0.8\).
Exercițiul următor aplică aceeași schemă pe patru modele; în trei dintre ele observăm doar o funcție (valoarea absolută, partea întreagă, suma) a unor variabile neobservate.
La seminar Studiați identificabilitatea următoarelor modele; în cazurile neidentificabile, propuneți o restricție sau o reparametrizare care produce un model identificabil.
Se observă \(Y=|X|\), unde \(X\sim\Norm(\mu,1)\), \(\mu\in\R\).
Se observă \(X\sim\Unif(\theta,2\theta)\), \(\theta>0\).
Se observă doar partea întreagă \(Y=\lfloor X\rfloor\) a unui timp de funcționare \(X\sim\Exp(\lambda)\), \(\lambda>0\).
Se observă \(Y=X_1+X_2\), cu \(X_1\sim\Pois(\lambda_1)\) și \(X_2\sim\Pois(\lambda_2)\) independente, \(\theta=(\lambda_1,\lambda_2)\in(0,\infty)^2\).
În R: verificați numeric concluziile de la (a) și (d), apoi simulați observații din modelele (a) și (c).
Laborator Schelet de cod pentru (e) — completați locurile marcate cu ___:
Exercițiul următor construiește complet un model statistic: spațiul observațiilor, familia de repartiții, măsura dominantă, identificabilitatea și o statistică a cărei repartiție o obținem cu f.g.m. Modelul este clasic în genetica populațiilor.
La seminar Un gen are două variante (alele), \(a\) și \(A\); genotipul unui individ este \(aa\), \(aA\) sau \(AA\), codificat \(1\), \(2\), respectiv \(3\). În modelul Hardy–Weinberg, dacă \(\theta\in(0,1)\) este frecvența alelei \(a\) în populație, proporțiile celor trei genotipuri sunt \[ q_1(\theta)=\theta^2,\qquad q_2(\theta)=2\theta(1-\theta),\qquad q_3(\theta)=(1-\theta)^2 \] (fiecare individ primește independent câte o alelă de la fiecare părinte, alela \(a\) cu probabilitatea \(\theta\)). Se determină genotipurile \(X_1,\dots,X_n\) a \(n\) indivizi aleși independent; fie \(N_j=\sum_i\Ind_{\{X_i=j\}}\) numărul de indivizi cu genotipul \(j\).
Scrieți modelul statistic al unei observații și al eșantionului. Precizați măsura dominantă și funcția de masă comună. Este modelul identificabil?
Presupunem că laboratorul poate stabili doar dacă un individ este heterozigot (\(aA\)) sau nu. Este modelul acestei observații identificabil? Dar dacă se poate stabili doar dacă individul este bolnav (genotipul \(aa\))?
Fie \(T=2N_1+N_2\) numărul total de alele \(a\) din eșantion. Arătați că \(T\) este o statistică și, cu ajutorul f.g.m., că \(T\sim\Bin(2n,\theta)\). Deduceți media și varianța lui \(\hth=T/(2n)\).
Pentru \(n=500\) de indivizi s-au obținut \(N_1=52\), \(N_2=196\), \(N_3=252\). Calculați \(\hth\) și numerele de indivizi așteptate în fiecare genotip sub modelul cu \(\theta=\hth\). Pentru \(\theta=0.3\), exprimați \(\PP_\theta(|\hth-\theta|\le0.02)\) cu ajutorul repartiției lui \(T\) și aproximați această probabilitate cu teorema limită centrală.
În R: calculați exact probabilitatea de la (d) și verificați prin simulare, generând genotipuri cu
sample, că \(T\) are media și varianța repartiției \(\Bin(2n,\theta)\).
Laborator Schelet de cod pentru (e) — completați locurile marcate cu ___:
N <- c(52, 196, 252); n <- sum(N)
T_obs <- ___; th <- ___ # T și hth
c(T = T_obs, theta_hat = th)
round(n * ___, 1) # n q_j(hth): numerele așteptate
c(exact = ___, # cu pbinom, ca la (d)
TLC = ___, # aproximarea normală
TLC_corectie = ___) # cu corecția de continuitate
set.seed(31) # verificare: T ~ Bin(2n, 0.3)?
X <- matrix(sample(1:3, 500 * 1e4, replace = TRUE,
prob = ___), ncol = 500) # q_j(0.3)
Tsim <- ___ # T = 2 N_1 + N_2, pe linii
c(medie = mean(Tsim), var = var(Tsim), teoretic = ___) # din (c)3 Statistici și repartițiile lor exacte
Instrumentul principal pentru sumele de variabile independente este f.g.m., aplicată după schema din Cursul 2: calculăm \(M_{S_n}=\prod_iM_{X_i}\), recunoaștem f.g.m. a unei repartiții cunoscute pe un interval care conține \(0\) și concluzionăm prin teorema de unicitate — exact ca pentru statistica \(T\) din Exercițiul 2. Odată cunoscută repartiția exactă, o comparăm cu repartiția de eșantionare obținută prin simulare și cu aproximarea normală.
Exemplul rezolvat de mai jos arată, pe un eșantion de volum \(2\), ce înseamnă „repartiția de eșantionare a unei statistici” și de ce f.g.m. este mai comodă decât enumerarea eșantioanelor.
O cutie conține două piese; fiecare este defectă cu probabilitatea \(\frac13\), independent de cealaltă. Numărul \(X\) de piese defecte dintr-o cutie are deci repartiția \(\Bin(2,\frac13)\): \(\PP(X=0)=\frac49\), \(\PP(X=1)=\frac49\), \(\PP(X=2)=\frac19\). Se controlează două cutii, adică se observă un eșantion \(X_1,X_2\) de volum \(2\). Determinăm, pe două căi, repartiția de eșantionare a statisticii \(S=X_1+X_2\).
Seminar Calea 1: enumerarea eșantioanelor. Spațiul de selecție \(\{0,1,2\}^2\) are \(9\) elemente, iar din independență \(\PP(X_1=i,X_2=j)=\PP(X=i)\,\PP(X=j)\) (Propoziția 10 din Cursul 2). Tabelul conține aceste probabilități, în unități de \(\frac1{81}\) (de exemplu, \(\frac49\cdot\frac19=\frac4{81}\)), și, între paranteze, valoarea lui \(S\): \[ \begin{array}{c|ccc} & x_2=0 & x_2=1 & x_2=2\\ \hline x_1=0\rule{0pt}{2.6ex} & 16\ \ (s=0) & 16\ \ (s=1) & 4\ \ (s=2)\\ x_1=1 & 16\ \ (s=1) & 16\ \ (s=2) & 4\ \ (s=3)\\ x_1=2 & 4\ \ (s=2) & 4\ \ (s=3) & 1\ \ (s=4) \end{array} \] Adunăm probabilitățile eșantioanelor pe care statistica ia aceeași valoare (în tabel, de-a lungul „diagonalelor” \(x_1+x_2=s\)): \[ \begin{array}{c|ccccc} s & 0 & 1 & 2 & 3 & 4\\ \hline 81\cdot\PP(S=s)\rule{0pt}{2.6ex} & 16 & 16+16=32 & 4+16+4=24 & 4+4=8 & 1 \end{array} \] (verificare: \(16+32+24+8+1=81\)). Acest calcul este formula de convoluție (Lema 13 din Cursul 2) scrisă sub formă de tabel.
Calea 2: f.g.m. Din formula de transport (Teorema 22 din Cursul 1) și recunoscând pătratul unui binom, \[ M_X(t)=\frac49+\frac49e^t+\frac19e^{2t}=\Big(\frac23+\frac13e^t\Big)^2,\qquad M_S(t)=M_{X_1}(t)\,M_{X_2}(t)=\Big(\frac23+\frac13e^t\Big)^4, \] pentru orice \(t\in\R\), unde pentru \(M_S\) am folosit independența (Propoziția 46 din Cursul 1). Aceasta este f.g.m. a repartiției \(\Bin(4,\frac13)\) (tabelul din Breviar, cu \(n=4\) și \(p=\frac13\)), deci, din Teorema 33 din Cursul 1, \(S\sim\Bin(4,\frac13)\) — firesc: în total sunt \(4\) piese. Într-adevăr, \(\binom4s\big(\frac13\big)^s\big(\frac23\big)^{4-s}=\binom4s\frac{2^{4-s}}{81}\) ia, pentru \(s=0,\dots,4\), valorile \(\frac{16}{81},\frac{32}{81},\frac{24}{81},\frac{8}{81},\frac{1}{81}\), cele din tabel.
Ce am câștigat. Enumerarea cere \(3^n\) eșantioane (pentru \(n=10\) cutii, \(59\,049\)), pe când f.g.m. dă direct \(S_n\sim\Bin(2n,\frac13)\) pentru orice \(n\). Din repartiția lui \(S\) obținem orice probabilitate care privește media \(\bar X_2=S/2\), de exemplu \(\PP(\bar X_2\le\frac12)=\PP(S\le1)=\frac{48}{81}\approx0.593\).
Laborator Aproximăm aceeași repartiție prin simulare: replicate(1e4, expr) evaluează de \(10^4\) ori expresia sum(rbinom(2, 2, 1/3)) — de fiecare dată un eșantion nou de două cutii și suma lui —, iar table numără de câte ori apare fiecare valoare.
set.seed(302)
S_sim <- replicate(1e4, sum(rbinom(2, 2, 1/3))) # 10^4 valori ale lui S
round(rbind(simulat = table(S_sim) / 1e4, exact = dbinom(0:4, 4, 1/3)), 4)#> 0 1 2 3 4
#> simulat 0.1978 0.3936 0.2945 0.1004 0.0137
#> exact 0.1975 0.3951 0.2963 0.0988 0.0123
Frecvențele simulate diferă de probabilitățile exacte \(\frac{16}{81},\dots,\frac1{81}\) (linia exact) cu cel mult \(0.002\), mai puțin decât eroarea standard a unei frecvențe calculate din \(10^4\) repetări (cel mult \(\sqrt{0.25/10^4}=0.005\)). Aceasta este schema tuturor simulărilor din secțiune: multe eșantioane, statistica pe fiecare, tabelul (sau histograma) valorilor obținute.
Dacă timpul permite Fie \(X_1,\dots,X_n\) un eșantion din \(\Pois(\lambda)\), \(\lambda>0\) necunoscut, și \(S_n=X_1+\dots+X_n\).
Care dintre următoarele sunt statistici: \(T_1=S_n\), \(T_2=\Xbar-\lambda\), \(T_3=X_{(n)}\), \(T_4=(\Xbar,S_n^2)\), \(T_5=e^{-\Xbar}\), \(T_6=\sum_i(X_i-\lambda)^2/\lambda\)?
Determinați repartiția lui \(S_n\) cu ajutorul f.g.m. și calculați \(\PP(\Xbar\le1)\) pentru \(n=4\), \(\lambda=1.5\).
Arătați că, pentru \(s\in\N\), repartiția condiționată a lui \(X_1\) dată fiind \(\{S_n=s\}\) este \(\Bin(s,1/n)\). Ce observați?
Arătați că \(T=(1-1/n)^{S_n}\) are media \(e^{-\lambda}=\PP_\lambda(X_1=0)\), pe când \(T_5=e^{-\Xbar}\) nu are această proprietate. Calculați ambele medii pentru \(n=4\), \(\lambda=1.5\).
În R: aproximați prin simulare repartiția de eșantionare a lui \(S_4\) pentru \(\lambda=1.5\) și mediile de la (d); verificați, pentru \(\lambda\in\{0.5,\ 1.5,\ 2\}\), că repartiția condiționată de la (c) nu depinde de \(\lambda\).
Laborator Schelet de cod pentru (e) — completați locurile marcate cu ___:
set.seed(7)
sim_pois <- function(lambda, B = 40000) # B eșantioane de volum 4, pe linii
matrix(___, ncol = 4) # 4 B valori Poisson
X <- sim_pois(1.5); S <- rowSums(X) # 40 000 de valori ale lui S_4
round(rbind(simulat = ___, # frecvențele lui 0..8
teoretic = ___), 4) # masa lui S_4, de la (b)
rbind(simulat = c(P_medie_sub_1 = ___, E_T = ___, E_T5 = ___), # (b), (d)
exact = ___) # valorile exacte
cond <- function(X) { # X_1 dat fiind S = 3
X1 <- ___; tabulate(X1 + 1, 4) / length(X1) } # liniile cu S = 3
round(rbind(lambda_0.5 = cond(sim_pois(0.5)), lambda_1.5 = cond(X),
lambda_2 = cond(sim_pois(2)), teoretic = ___), 3) # (c)(a) \(T_1\) (\(h(\bx)=\sum_ix_i\)), \(T_3\) (\(h(\bx)=\max_ix_i\)), \(T_4\) (cu valori în \(\R^2\)) și \(T_5\) (\(h(\bx)=e^{-\bar x}\)) sunt statistici. \(T_2\) și \(T_6\) nu sunt statistici.
(b) \(S_n\sim\Pois(n\lambda)\); \(\PP(\bar X_4\le1)=115\,e^{-6}\approx0.2851\).
(c) \(X_1\mid\{S_n=s\}\sim\Bin(s,1/n)\); repartiția condiționată nu depinde de \(\lambda\).
(d) \(T\) este un estimator nedeplasat al lui \(\PP_\lambda(X_1=0)\); \(\E_\lambda[e^{-\Xbar}]>e^{-\lambda}\); pentru \(n=4\), \(\lambda=1.5\), mediile sunt \(\approx0.2231\) și \(\approx0.2652\).
(e) frecvența evenimentului \(\{\bar X_4\le1\}\) este \(0.2841\), de comparat cu \(115e^{-6}\approx0.2851\); odată cunoscută suma, datele nu mai „știu” nimic despre \(\lambda\).
În exercițiul următor sumăm variabile Poisson cu parametri diferiți și comparăm două totaluri; propoziția privind f.g.m. a sumei nu cere ca termenii să fie identic repartizați.
Pentru acasă O companie asigură \(200\) de persoane, împărțite în trei categorii de risc: \(G\) (sănătate bună, \(40\) de persoane), \(A\) (medie, \(100\) de persoane) și \(P\) (precară, \(60\) de persoane). Numărul de daune declarate într-un an de o persoană are repartiția Poisson cu media \(1\), \(2\), respectiv \(4\), în funcție de categorie, independent de la o persoană la alta.
Determinați repartițiile totalurilor \(T_G\), \(T_A\), \(T_P\) ale daunelor din cele trei categorii și a totalului \(T=T_G+T_A+T_P\). Calculați \(\E[T]\) și \(\Var(T)\) și aproximați \(\PP(T>500)\) cu TLC.
Arătați că, pentru \(m\in\N\), repartiția condiționată a lui \(T_A\) dată fiind \(\{T_A+T_P=m\}\) este \(\Bin\big(m,\frac{5}{11}\big)\) și deduceți două formule pentru \(\PP(T_A>T_P)\).
Aproximați \(\PP(T_A>T_P)\) cu ajutorul unei aproximări normale a diferenței \(D=T_A-T_P\).
Compania cunoaște doar totalul anual \(T\) și vrea să estimeze separat mediile celor trei categorii, \(\theta=(\lambda_G,\lambda_A,\lambda_P)\in(0,\infty)^3\). Este posibil?
În R: calculați exact \(\PP(T>500)\) și \(\PP(T_A>T_P)\) (cu ambele formule de la (b)) și verificați prin simulare.
Laborator Schelet de cod pentru (e) — completați locurile marcate cu ___:
c(P_T_peste_500 = ___, # P(T > 500), exact
normala = 1 - pnorm((500.5 - 480) / sqrt(480)))
k <- 0:2000 # condiționare după T_P
m <- 0:2000 # condiționare după T_A + T_P
c(dupa_TP = sum(___), # P(T_P = k) P(T_A > k)
dupa_total = sum(dpois(m, 440) * # P(Bin(m, 5/11) > m/2)
___), # cu pbinom
normala_cc = 1 - pnorm(40.5 / sqrt(440)))
set.seed(34) # verificare prin simulare
TA <- rpois(1e5, 200); TP <- rpois(1e5, 240); TG <- rpois(1e5, 40)
c(P_TA_peste_TP = ___, P_T_peste_500 = ___) # frecvențe(a) \(T\sim\Pois(480)\); \(\E[T]=\Var(T)=480\); \(\PP(T>500)\approx0.1747\).
(b) \(T_A\mid\{T_A+T_P=m\}\sim\Bin\big(m,\frac5{11}\big)\).
(c) Deși media pe persoană este mai mare în categoria \(P\), cu probabilitatea de aproximativ \(2.7\%\) categoria \(A\) (mai numeroasă) declară într-un an mai multe daune.
(d) Modelul nu este identificabil.
(e) valoarea exactă \(\PP(T>500)\approx0.1745\) este foarte apropiată de aproximarea normală cu corecție de continuitate, \(0.1747\); cele două serii dau aceeași valoare, \(\PP(T_A>T_P)\approx0.02663\), iar aproximarea normală dă \(0.02676\).
Ultimul exercițiu al secțiunii leagă trei idei: identificabilitatea, repartiția Gamma a unei sume de variabile exponențiale și — anticipând secțiunea următoare — minimul. Observăm un minim a două variabile și ne întrebăm ce se poate afla despre parametri din repartiția lui; apoi observăm, în plus, care dintre variabile a realizat minimul.
Dacă timpul permite Un aparat se poate defecta din două cauze independente: uzura, care apare după un timp \(Z\sim\Exp(\lambda)\), și un șoc accidental, care apare după un timp \(Y\sim\Exp(\mu)\), cu \(\theta=(\lambda,\mu)\in(0,\infty)^2\). Se observă momentul defectării, \(X=\min(Z,Y)\).
Determinați repartiția lui \(X\). Este identificabil modelul unui eșantion \(X_1,\dots,X_n\)? Ce funcție a lui \(\theta\) este identificabilă?
Presupunem că se înregistrează și cauza defectării, \(\delta=\Ind_{\{Z<Y\}}\). Calculați \(\PP_\theta(X>t,\ \delta=1)\) pentru \(t\ge0\), deduceți că \(X\) și \(\delta\) sunt independente și arătați că modelul perechii \((X,\delta)\) este identificabil.
Pentru \(n=50\) de aparate, suma timpilor observați este \(125\) (mii de ore), iar \(30\) de defectări s-au datorat uzurii. Estimați \(\lambda\) și \(\mu\) înlocuind, în formulele de la (b), media și probabilitatea cu analogii lor empirici.
Considerând valorile de la (c) ca exacte, determinați repartiția mediei timpilor a \(50\) de aparate, calculați probabilitatea ca ea să depășească \(3\) și comparați cu aproximarea dată de TLC.
În R: verificați (b) și (d) prin simulare și comparați histograma mediilor simulate (pentru \(n=5\) și \(n=50\)) cu densitatea exactă și cu cea normală.
Laborator Schelet de cod pentru (e) — completați locurile marcate cu ___:
set.seed(32)
Z <- rexp(1e5, 0.24); Y <- rexp(1e5, 0.16)
X <- ___; d <- ___ # momentul și cauza defectării
c(P_d = mean(d), P_X_1 = mean(X > 1), P_comun = ___, # P(X > 1, d = 1)
produs = mean(d) * mean(X > 1))
set.seed(8)
medii <- function(n, B = 1e5) # B medii a câte n timpi Exp(0.4)
rowMeans(matrix(___, ncol = n)) # n B timpi
m5 <- medii(5); m50 <- medii(50)
c(P_simulat = mean(m50 > 3), pgamma = ___, TLC = ___) # exact, TLC
hist(m50, freq = FALSE, breaks = 60) # la fel pentru m5 (n = 5)
curve(___, add = TRUE); curve(___, add = TRUE, lty = 2) # (d)(a) \(X\sim\Exp(\lambda+\mu)\); modelul nu este identificabil. Parametrul \(\gamma\) este identificabil.
(b) \(\pi:=\PP_\theta(\delta=1)=\frac{\lambda}{\lambda+\mu}\) și \(\PP_\theta(X>t,\ \delta=1)=\pi e^{-(\lambda+\mu)t}\); \(X\) și \(\delta\) sunt independente; modelul este identificabil.
(c) \(\hat\lambda=\hat\gamma\hat\pi=0.4\cdot0.6=0.24\) și \(\hat\mu=\hat\gamma(1-\hat\pi)=0.4\cdot0.4=0.16\) defectări pe mie de ore.
(d) \(\bar X_{50}\sim\GammaD(50,20)\); \(\PP(\bar X_{50}>3)\approx0.0844\), iar aproximarea normală, \(0.0786\), subestimează coada dreaptă a repartiției Gamma.
(e) Frecvența comună a evenimentului \(\{X>1,\ \delta=1\}\), \(0.4026\), este practic egală cu produsul frecvențelor, \(0.4029\); frecvența simulată a evenimentului \(\{\bar X_{50}>3\}\), \(0.0846\), este apropiată de valoarea exactă \(0.0844\).
4 Minimul și maximul unui eșantion
Repartiția extremelor se obține din observația elementară \(\{X_{(n)}\le x\}=\bigcap_i\{X_i\le x\}\), \(\{X_{(1)}>x\}=\bigcap_i\{X_i>x\}\) (Propoziția 15 din Cursul 2), folosită deja pentru minimul a două variabile în Exercițiul 5. Primul exercițiu atrage atenția asupra cazului discret, în care formula densității nu se aplică, și asupra unei populații cu valori mari și rare (repartiția Pareto); al doilea determină repartiția limită a minimului și o compară cu aproximarea normală.
Tehnica este mereu aceeași și o arătăm întâi pe un exemplu rezolvat: pentru maxim calculăm funcția de repartiție, \(\PP(X_{(n)}\le x)=F(x)^n\); pentru minim, funcția de supraviețuire, \(\PP(X_{(1)}>x)=(1-F(x))^n\); abia apoi trecem la funcția de masă (prin diferențe) sau la densitate (prin derivare).
Aruncăm de trei ori un zar echilibrat; \(X_1,X_2,X_3\) sunt i.i.d., uniforme pe \(\{1,\dots,6\}\). Determinăm repartițiile maximului \(M=X_{(3)}\) și minimului \(m=X_{(1)}\) și mediile lor; apoi comparăm cu cazul continuu al trei numere alese uniform în \((0,1)\).
Seminar Maximul. O aruncare are \(F(k)=\PP(X_i\le k)=\frac k6\), \(k=0,1,\dots,6\). Evenimentul \(\{M\le k\}\) înseamnă că toate cele trei aruncări sunt \(\le k\), deci, din independență (Propoziția 15 din Cursul 2), \[ \PP(M\le k)=\PP(X_1\le k)\,\PP(X_2\le k)\,\PP(X_3\le k)=\Big(\frac k6\Big)^3 . \] \(M\) ia valori întregi, deci funcția de masă este diferența a două valori succesive ale funcției de repartiție: \(\PP(M=k)=\PP(M\le k)-\PP(M\le k-1)=\frac{k^3-(k-1)^3}{216}\), \(k=1,\dots,6\).
Minimul. Evenimentul \(\{m>k\}\) înseamnă că toate aruncările sunt \(>k\), iar \(\PP(X_i>k)=\frac{6-k}{6}\), deci \(\PP(m>k)=\big(\frac{6-k}6\big)^3\) și \[ \PP(m=k)=\PP(m>k-1)-\PP(m>k)=\frac{(7-k)^3-(6-k)^3}{216},\qquad k=1,\dots,6 . \] Cu \(1^3,2^3,\dots,6^3=1,8,27,64,125,216\), diferențele succesive sunt \(1,7,19,37,61,91\): \[ \begin{array}{c|cccccc} k & 1 & 2 & 3 & 4 & 5 & 6\\ \hline 216\cdot\PP(M=k)\rule{0pt}{2.6ex} & 1 & 7 & 19 & 37 & 61 & 91\\ 216\cdot\PP(m=k) & 91 & 61 & 37 & 19 & 7 & 1 \end{array} \] (fiecare linie are suma \(216\)). Cele două repartiții sunt una „oglinda” celeilalte, deoarece \(7-X_i\) are aceeași repartiție ca \(X_i\), iar \(\min_i(7-X_i)=7-\max_iX_i\).
Mediile. \(\E[M]=\frac{1\cdot1+2\cdot7+3\cdot19+4\cdot37+5\cdot61+6\cdot91}{216}=\frac{1071}{216}\approx4.958\) și \(\E[m]=7-\E[M]=\frac{441}{216}\approx2.042\), față de media \(3.5\) a unei singure aruncări.
O greșeală frecventă. Formula \(nF^{n-1}f\) a densității maximului nu dă funcția de masă în cazul discret: ea ar da \(3\big(\frac k6\big)^2\cdot\frac16=\frac{3k^2}{216}\), adică \(\frac{108}{216}=0.5\) pentru \(k=6\), în loc de \(\frac{91}{216}\approx0.421\) (iar suma acestor valori este \(\frac{273}{216}>1\)). Motivul: maximul poate fi atins de mai multe aruncări deodată, iar formula numără astfel de rezultate de mai multe ori.
Cazul continuu, pentru comparație. Pentru trei observații \(U_1,U_2,U_3\) i.i.d. \(\Unif(0,1)\) (Exemplul 21 din Cursul 2), \(F(x)=x\) și \(\PP(U_{(3)}\le x)=x^3\) pe \([0,1]\); această funcție este derivabilă, deci maximul are densitatea \(3x^2=nF^{n-1}f\) pe \((0,1)\) și media \(\int_0^13x^3\dd x=\frac34\). Aici formula este corectă: două valori egale apar cu probabilitatea \(0\).
Laborator sample(6, 3 * 1e5, replace = TRUE) simulează \(3\cdot10^5\) aruncări (extrageri cu revenire din \(1,\dots,6\)), pe care le așezăm câte trei pe linie. apply(Z3, 1, max) aplică funcția max fiecărei linii (al doilea argument, 1, înseamnă „pe linii”; 2 ar însemna „pe coloane”), iar table(M3) numără aparițiile fiecărei valori a maximului.
k <- 1:6
set.seed(303)
Z3 <- matrix(sample(6, 3 * 1e5, replace = TRUE), ncol = 3) # 10^5 triplete
M3 <- apply(Z3, 1, max) # maximul fiecărei linii
round(rbind(simulat = table(M3) / 1e5,
exact = (k^3 - (k - 1)^3) / 216), 4)
c(E_max = mean(M3), E_min = mean(apply(Z3, 1, min)))#> 1 2 3 4 5 6
#> simulat 0.0047 0.0329 0.0874 0.1704 0.2806 0.4240
#> exact 0.0046 0.0324 0.0880 0.1713 0.2824 0.4213
#> E_max E_min
#> 4.961 2.041
Frecvențele simulate ale valorilor \(1,\dots,6\) ale maximului urmează probabilitățile exacte \(\frac1{216},\frac7{216},\dots,\frac{91}{216}\) (de exemplu, pentru \(k=6\): \(0.4240\) față de \(0.4213\)), iar mediile simulate, \(4.961\) și \(2.041\), sunt apropiate de \(4.958\) și \(2.042\).
La seminar (a) Un sistem este format din \(n=5\) componente independente, legate în paralel; componenta \(i\) funcționează un număr \(X_i\sim\Geom(p)\) de cicluri, \(\PP(X_i=k)=p(1-p)^{k-1}\), \(k\ge1\), cu \(p=0.2\). Sistemul funcționează \(X_{(5)}=\max_iX_i\) cicluri. Determinați funcția de repartiție și funcția de masă a lui \(X_{(5)}\), calculați \(\PP(X_{(5)}\le10)\) și \(\E[X_{(5)}]\) și explicați de ce formula \(nF^{n-1}f\) nu dă funcția de masă a maximului.
Fie \(X_1,\dots,X_n\) un eșantion din repartiția Pareto cu \(\PP(X>x)=x^{-\alpha}\), \(x\ge1\), \(\alpha>0\). Arătați că \(X_{(1)}\) are tot o repartiție Pareto, calculați \(\PP(X_{(1)}>1.1)\) și \(\E[X_{(1)}]\) pentru \(\alpha=3\), \(n=4\), apoi \(\E[X_{(1)}]\) pentru \(\alpha=0.8\), \(n=4\). Comentați.
În R: verificați (a) prin simulare (atenție la
rgeom). Pentru (b), simulați observații Pareto prin \(X=U^{-1/\alpha}\), cu \(U\sim\Unif(0,1)\), și comparați media minimului cu media unei singure observații.
Laborator Schelet de cod pentru (c) — completați locurile marcate cu ___:
p <- 0.2; q <- 1 - p; j <- 1:5
c(P_max_sub_10 = ___, P_max_1 = ___, formula_gresita = 5 * p^5, # (a)
E_max = ___) # formula de la (a)
set.seed(35) # verificare prin simulare
X <- matrix(___, ncol = 5) # atenție: rgeom numără eșecurile
M <- ___ # maximul fiecărei linii
c(P_sim = mean(M <= 10), E_sim = mean(M))
set.seed(39); rpareto <- function(n, a) ___ # X = U^(-1/a)
X3 <- matrix(rpareto(4e5, 3), ncol = 4); m3 <- ___ # minimele
X8 <- matrix(rpareto(4e5, 0.8), ncol = 4); m8 <- ___ # minimele
c(P_sim = ___, E_min_a3 = mean(m3), E_min_a08 = mean(m8)) # P(X_(1) > 1.1)
c(media_1000 = ___, media_100000 = ___) # o observațiePentru acasă (a) Fie \(Y_1,\dots,Y_n\) un eșantion din populația cu densitatea \(f_\theta(y)=\theta y^{\theta-1}\), \(0<y<1\), \(\theta>0\), și \(U_n=n\,Y_{(1)}^{\theta}\). Calculați exact funcția de repartiție a lui \(U_n\) și determinați repartiția limită a lui \(U_n\) când \(n\to\infty\). Deduceți repartiția limită a lui \(T_n=n\min(X_1,\dots,X_n)\) pentru un eșantion din \(\Unif(0,\beta)\).
Fie \(X_1,\dots,X_n\) un eșantion din repartiția exponențială de medie \(\beta\) și \(Z_n=\big(X_{(1)}-\E[X_{(1)}]\big)/\sqrt{\Var(X_{(1)})}\) minimul standardizat. Calculați f.g.m. a lui \(Z_n\) și limita ei când \(n\to\infty\). Este \(Z_n\) asimptotic normal?
În R: calculați \(\PP(U_n>1)\) și distanța maximă dintre \(F_{U_n}\) și funcția de repartiție \(\Exp(1)\) pentru \(n\in\{2,5,20,100\}\); verificați prin simulare (a), pentru \(\theta=2.5\) și \(n=20\), și (b), pentru \(\beta=2\) și \(n=50\).
Laborator Schelet de cod pentru (c) — completați locurile marcate cu ___:
nn <- c(2, 5, 20, 100)
dist_max <- sapply(nn, function(n) { # sup_u |F_{U_n}(u) - F(u)|
u <- seq(0, n, length.out = 1e5); max(abs(___)) }) # pe o grilă
rbind(n = nn, P_U_peste_1 = ___, dist_max = round(dist_max, 4)) # din (a)
set.seed(9) # (a): theta = 2.5, n = 20
th <- 2.5; n <- 20 # Y = U^(1/theta) are densitatea f_theta
U <- replicate(1e4, ___) # o valoare a lui U_n
c(medie = mean(U), var = var(U), P_U_peste_1 = mean(U > 1))
set.seed(36) # (b): minimul standardizat
beta <- 2; n <- 50
Z <- replicate(1e4, ___) # o valoare a lui Z_n
c(medie = mean(Z), var = var(Z), asimetrie = mean(Z^3) / sd(Z)^3)(a) \(F_{U_n}(u)=1-(1-u/n)^n\) pentru \(0\le u\le n\); \(F_{U_n}\) converge în orice punct la funcția de repartiție \(\Exp(1)\), deci \(U_n\dto\Exp(1)\); \(T_n\dto\Exp(1/\beta)\) (repartiția exponențială de medie \(\beta\)).
(b) F.g.m. nu depinde de \(n\), deci limita ei este tot \(\frac{e^{-t}}{1-t}\), f.g.m. a variabilei \(E-1\), \(E\sim\Exp(1)\); \(Z_n\) nu este asimptotic normal.
(c) \(\PP(U_n>1)=(1-1/n)^n\) ia valorile \(0.25\), \(0.3277\), \(0.3585\), \(0.3660\) și crește spre limita \(e^{-1}\approx0.3679\); asimetria \(\approx2\) (cea a repartiției exponențiale; o repartiție normală are asimetria \(0\)) și nicio valoare sub \(-1\).
5 Selecția simplă dintr-o populație finită
Trecem de la modelul „populației infinite” la o populație finită \(u_1,\dots,u_N\), în care singura sursă de aleatorism este extragerea. La selecția fără revenire observațiile nu mai sunt independente, dar fiecare are aceeași repartiție marginală ca la selecția cu revenire, iar toate perechile au aceeași repartiție comună (Teorema 5 din Cursul 3). Primul exercițiu verifică formulele prin enumerare, pe o populație de cinci indivizi; al doilea le verifică prin simulare, pe o populație reală; al treilea le redemonstrează pentru o proporție și le leagă de repartiția hipergeometrică.
Înaintea exercițiilor, un exemplu rezolvat pe cea mai mică populație interesantă: toate eșantioanele se pot scrie pe o jumătate de pagină, iar formulele din curs se verifică „cu creionul”.
Cele \(N=4\) firme dintr-o localitate au \(2\), \(4\), \(6\), respectiv \(12\) angajați. Extragem un eșantion de \(n=2\) firme și estimăm numărul mediu de angajați prin media eșantionului, \(\bar X_2\). Comparăm selecția simplă fără revenire cu cea cu revenire.
Seminar Parametrii populației (Definiția 1 din Cursul 3). \(\mu=\frac{2+4+6+12}{4}=6\); abaterile \(u_j-\mu\) sunt \(-4,-2,0,6\) (suma lor este \(0\)), cu pătratele \(16,4,0,36\), deci \(\sigma^2=\frac{56}{4}=14\).
Fără revenire. Cele \(\binom42=6\) submulțimi de două firme sunt egal probabile (Definiția 2 din Cursul 3), fiecare cu probabilitatea \(\frac16\): \[ \begin{array}{c|cccccc} \text{eșantionul} & \{2,4\} & \{2,6\} & \{2,12\} & \{4,6\} & \{4,12\} & \{6,12\}\\ \hline \bar x\rule{0pt}{2.6ex} & 3 & 4 & 7 & 5 & 8 & 9\\ \bar x-\mu & -3 & -2 & 1 & -1 & 2 & 3\\ (\bar x-\mu)^2 & 9 & 4 & 1 & 1 & 4 & 9 \end{array} \] Media mediilor este \(\E[\bar X_2]=\frac{3+4+7+5+8+9}{6}=\frac{36}{6}=6=\mu\), iar varianța lor este \(\Var(\bar X_2)=\frac{9+4+1+1+4+9}{6}=\frac{28}{6}=\frac{14}{3}\approx4.67\). Formula din Teorema 5(c) din Cursul 3 dă aceeași valoare: \[ \Var(\bar X_2)=\frac{\sigma^2}{n}\cdot\frac{N-n}{N-1}=\frac{14}{2}\cdot\frac{4-2}{4-1}=7\cdot\frac23=\frac{14}{3}. \]
Cu revenire. Aceeași firmă poate fi extrasă de două ori, iar ordinea contează: sunt \(4^2=16\) perechi ordonate \((x_1,x_2)\), egal probabile, fiecare cu probabilitatea \(\frac1{16}\). Tabelul conține media fiecărei perechi: \[ \begin{array}{c|cccc} x_1\backslash x_2 & 2 & 4 & 6 & 12\\ \hline 2\rule{0pt}{2.6ex} & 2 & 3 & 4 & 7\\ 4 & 3 & 4 & 5 & 8\\ 6 & 4 & 5 & 6 & 9\\ 12 & 7 & 8 & 9 & 12 \end{array} \qquad\qquad \begin{array}{c|ccccccccc} \bar x & 2 & 3 & 4 & 5 & 6 & 7 & 8 & 9 & 12\\ \hline 16\cdot\PP(\bar X_2=\bar x)\rule{0pt}{2.6ex} & 1 & 2 & 3 & 2 & 1 & 2 & 2 & 2 & 1 \end{array} \] Al doilea tabel numără de câte ori apare fiecare valoare în primul: este repartiția de eșantionare a lui \(\bar X_2\). Din el, \(\E[\bar X_2]=\frac{2+6+12+10+6+14+16+18+12}{16}=\frac{96}{16}=6=\mu\) și \[ \Var(\bar X_2)=\frac{16\cdot1+9\cdot2+4\cdot3+1\cdot2+0+1\cdot2+4\cdot2+9\cdot2+36\cdot1}{16}=\frac{112}{16}=7=\frac{\sigma^2}{n}, \] în acord cu Propoziția 4 din Cursul 3.
Comparația. În ambele planuri media eșantionului are media \(\mu\), dar fără revenire varianța este mai mică, în raportul \(\frac{14/3}{7}=\frac23=\frac{N-n}{N-1}\) (factorul de corecție). Explicația se vede în tabele: cele patru perechi de pe diagonală, \((2,2),(4,4),(6,6),(12,12)\), conțin de fapt o singură firmă (printre ele, mediile extreme \(2\) și \(12\)); selecția fără revenire le exclude.
Laborator Funcția sample(pop4, 2) extrage două elemente distincte ale vectorului (fără revenire), iar sample(pop4, 2, replace = TRUE) extrage de două ori, independent (cu revenire); fiecare apel produce un eșantion nou. Enumerarea se face cu combn(pop4, 2) — o matrice cu câte o submulțime pe fiecare coloană — și cu expand.grid(pop4, pop4), tabelul celor \(16\) perechi ordonate, câte una pe linie.
pop4 <- c(2, 4, 6, 12); mu4 <- mean(pop4)
set.seed(304)
sample(pop4, 2); sample(pop4, 2) # două eșantioane fără revenire
sample(pop4, 2, replace = TRUE); sample(pop4, 2, replace = TRUE)
m_fara <- colMeans(combn(pop4, 2)) # mediile celor 6 submulțimi
m_cu <- rowMeans(expand.grid(pop4, pop4)) # mediile celor 16 perechi
c(E_fara = mean(m_fara), V_fara = mean((m_fara - mu4)^2),
E_cu = mean(m_cu), V_cu = mean((m_cu - mu4)^2))#> [1] 2 4
#> [1] 2 6
#> [1] 6 2
#> [1] 4 4
#> E_fara V_fara E_cu V_cu
#> 6.000 4.667 6.000 7.000
Primele patru linii sunt eșantioane: fără revenire, \((2,4)\) și \((2,6)\); cu revenire, \((6,2)\) și \((4,4)\) — în ultimul, aceeași firmă a fost extrasă de două ori, ceea ce fără revenire nu se poate întâmpla. Ultima linie regăsește valorile calculate de mână: mediile \(6\) și varianțele \(\frac{14}{3}\approx4.667\), respectiv \(7\).
Exercițiul următor reia aceste calcule pentru \(N=5\) și \(n=3\) și adaugă o identitate care explică factorul de corecție.
La seminar O populație are \(N=5\) indivizi, cu valorile \(3,5,6,9,12\). Se extrage, prin selecție simplă fără revenire, un eșantion de volum \(n=3\).
Calculați \(\mu\), \(\sigma^2\), \(\Cov(X_1,X_2)\), \(\Var(\bar X_3)\) și \(\E[S_3^2]\) cu formulele din curs și comparați cu selecția cu revenire.
Enumerați toate eșantioanele posibile și verificați \(\E[\bar X_3]=\mu\) și formula lui \(\Var(\bar X_3)\). Calculați \(\PP(|\bar X_3-\mu|\le1)\).
Arătați că, în general, \(\Xbar-\mu=-\frac{N-n}{n}\big(\bar X'_{N-n}-\mu\big)\), unde \(\bar X'_{N-n}\) este media indivizilor neextrași, și deduceți că \(\Var(\bar X_n)=\big(\frac{N-n}{n}\big)^2\Var(\bar X'_{N-n})\). Verificați compatibilitatea cu formula din curs.
În R: refaceți enumerarea de la (b) cu
combn, enumerați și eșantioanele cu revenire (expand.grid) și verificați prin simulare căsample(u, 3)produce o selecție simplă fără revenire.
Laborator Schelet de cod pentru (d) — completați locurile marcate cu ___:
u <- c(3, 5, 6, 9, 12); N <- 5; n <- 3
mu <- mean(u); s2 <- ___ # sigma^2 cu numitorul N
E <- ___ # cele 10 eșantioane (pe coloane)
m <- colMeans(E) # mediile celor 10 eșantioane
c(E_medie = mean(m), var_enum = ___, var_formula = ___, # (a)
E_S2 = mean(apply(E, 2, var)), P_abatere_1 = ___) # (b)
G <- ___ # cele 5^3 = 125 de triplete
c(var_cu_enum = mean((rowMeans(G) - mu)^2), formula = ___) # cu revenire
set.seed(2)
X <- t(replicate(20000, ___)) # câte un eșantion pe linie
esant <- apply(X, 1, function(x) paste(sort(x), collapse = "-"))
round(table(esant) / nrow(X), 3) # frecvențele celor 10 submulțimiPentru o populație reală enumerarea nu mai este posibilă: din \(N=93\) de indivizi se pot forma \(\binom{93}{20}\approx10^{20}\) eșantioane de volum \(20\). Formulele rămân exacte, iar simularea le verifică.
Dacă timpul permite Setul de date Cars93 (pachetul MASS) descrie \(N=93\) de modele de automobile; variabila Price este prețul mediu al modelului (în mii de dolari). Privim cele \(93\) de prețuri ca pe o populație finită \(u_1,\dots,u_N\).
Pentru un eșantion de volum \(n=20\), scrieți valorile teoretice ale lui \(\E[\Xbar]\), \(\Var(\Xbar)\) și \(\E[S_n^2]\) la selecția simplă cu revenire și la cea fără revenire, apoi calculați-le în R.
Simulați \(B=10^4\) eșantioane de volum \(20\) din fiecare plan și comparați mediile și varianțele lui \(\Xbar\) și mediile lui \(S_n^2\) cu valorile de la (a).
Arătați că, la selecția fără revenire, „formula i.i.d.” \(S_n^2/n\) supraestimează în medie \(\Var(\Xbar)\) cu factorul \(\frac{N}{N-n}\), pe când \((1-f)S_n^2/n\), \(f=n/N\), este un estimator nedeplasat. Verificați pe eșantioanele simulate.
Pentru \(n\in\{2,5,10,20,30,45,60,75,85,92\}\), estimați prin simulare raportul dintre varianța mediei la selecția fără revenire și \(\sigma^2/n\) și comparați-l grafic cu factorul de corecție \(\frac{N-n}{N-1}\).
Laborator Schelet de cod pentru (a) — completați locurile marcate cu ___:
u <- Cars93$Price; N <- length(u); n <- 20
mu <- mean(u); sig2 <- ___ # varianța populației (numitor N)
c(N = N, mu = mu, sigma2 = sig2, var_R = var(u), raport = var(u) / sig2)
teorie <- c(E_cu = mu, V_cu = ___, E_fara = mu, # Var(Xbar), cu revenire
V_fara = ___, # cu factorul de corecție
ES2_cu = sig2, ES2_fara = ___) # E[S_n^2], fără revenireLaborator Schelet de cod pentru (b) (continuăm cu obiectele de la (a)) — completați locurile marcate cu ___:
set.seed(10)
B <- 10000
sim <- replicate(B, {
x_cu <- ___; x_fara <- ___ # cele două planuri
c(m_cu = mean(x_cu), m_fara = mean(x_fara),
S2_cu = var(x_cu), S2_fara = var(x_fara))
})
rbind(simulare = c(mean(sim["m_cu", ]), var(sim["m_cu", ]),
mean(sim["m_fara", ]), var(sim["m_fara", ]),
mean(sim["S2_cu", ]), mean(sim["S2_fara", ])),
teorie = teorie)Laborator Schelet de cod pentru (c) (continuăm cu eșantioanele simulate la (b)) — completați locurile marcate cu ___:
f <- n / N
c(E_estimator_corect = mean(___), # (1 - f) S_n^2 / n
E_formula_iid = mean(___), # S_n^2 / n
Var_adevarata = sig2 / n * (N - n) / (N - 1))Laborator Schelet de cod pentru (d) — completați locurile marcate cu ___:
set.seed(11)
nn <- c(2, 5, 10, 20, 30, 45, 60, 75, 85, 92)
raport <- sapply(nn, function(n) {
v_fara <- var(replicate(4000, ___)) # medii fără revenire
v_fara / (sig2 / n) # raportat la varianța cu revenire
})
plot(nn, raport, pch = 19, xlab = "volumul eșantionului n",
ylab = "Var(fără) / Var(cu)")
curve(___, add = TRUE) # factorul de corecție, ca funcție de n(a) factorul de corecție este \(\frac{73}{92}\approx0.7935\), deci ne așteptăm la o reducere a varianței mediei cu aproximativ \(21\%\); cu revenire, \(\Var(\Xbar)=\frac{92.30}{20}\approx4.615\) și \(\E[S_n^2]=92.30\); fără revenire, \(\Var(\Xbar)=4.615\cdot0.7935\approx3.662\) și \(\E[S_n^2]=\frac{93}{92}\cdot92.30\approx93.30\).
(b) \(\Xbar\) este nedeplasat în ambele planuri; varianța mediilor este \(4.650\) cu revenire (teoretic \(4.615\)) și \(3.566\) fără revenire (teoretic \(3.662\)).
(c) raportul \(\frac{N}{N-n}=\frac{1}{1-f}\), aici \(93/73\approx1.27\); media estimatorului corectat, \(3.658\), este practic egală cu varianța adevărată, \(3.662\), iar „formula i.i.d.” dă în medie \(4.660\).
(d) Punctele simulate urmează dreapta \(\frac{N-n}{N-1}\).
Pentru o populație de valori \(0\)–\(1\) media este o proporție, iar numărul de „succese” din eșantion are repartiția hipergeometrică. Formulele din curs se pot obține în acest caz și fără a calcula repartiția perechilor de indici, folosind doar simetria repartiției vectorului de observații.
Pentru acasă Dintre cei \(N\) alegători ai unui oraș, \(N_A\ge2\) votează candidatul \(A\) și \(N_B=N-N_A\ge2\) candidatul \(B\); \(p=N_A/N\). Se intervievează \(n\le N\) alegători prin selecție simplă fără revenire (extrageri succesive, la fiecare pas uniform dintre cei încă neintervievați); \(X_k=1\) dacă al \(k\)-lea alegător intervievat votează \(A\) și \(X_k=0\) altfel.
Arătați că, pentru \(\bx=(x_1,\dots,x_n)\in\{0,1\}^n\) cu \(s=\sum_kx_k\), \[ \PP(X_1=x_1,\dots,X_n=x_n)=\frac{[N_A(N_A-1)\cdots(N_A-s+1)]\,[N_B\cdots(N_B-n+s+1)]}{N(N-1)\cdots(N-n+1)}. \]
Deduceți că repartiția vectorului \((X_{\tau(1)},\dots,X_{\tau(n)})\) nu depinde de permutarea \(\tau\) a lui \(\{1,\dots,n\}\) și, de aici, \(\E[X_k]=p\) și \(\E[\Xbar]=p\).
Calculați \(\E[X_1X_2]\) și deduceți \(\Var(\Xbar)=\frac{p(1-p)}{n}\big(1-\frac{n-1}{N-1}\big)\).
Arătați, cu inegalitatea lui Cebîșev, că \(\PP(|\Xbar-p|>\varepsilon)\to0\) când \(n\to\infty\), oricum ar fi \(N\ge n\).
Pentru \(N=2\,000\), \(N_A=1\,040\) și \(n=400\), calculați abaterea standard a lui \(\Xbar\) și comparați-o cu cea de la selecția cu revenire. Ce repartiție are numărul \(Y=n\Xbar\) de votanți ai lui \(A\) din eșantion?
În R: calculați exact \(\PP(\Xbar>0.5)\) în cele două planuri (
phyper,pbinom), comparați marginea de la (d), pentru \(\varepsilon=0.05\), cu probabilitatea exactă și simulați sondajul cusample.
Laborator Schelet de cod pentru (f) — completați locurile marcate cu ___:
N <- 2000; NA_ <- 1040; NB <- N - NA_; n <- 400; p <- NA_ / N
v_fara <- ___; v_cu <- p * (1 - p) / n # Var(Xbar), (c)
c(ab_std_fara = sqrt(v_fara), ab_std_cu = sqrt(v_cu))
c(hipergeom = ___, # P(Y > 200), fără
binomial = ___) # și cu revenire
c(Cebisev = ___, # marginea de la (d), eps = 0.05
exact = phyper(188, NA_, NB, n) + # P(Y <= 188) + P(Y >= 228)
phyper(227, NA_, NB, n, lower.tail = FALSE))
set.seed(38)
pop <- ___ # populația: 1 = votează A
Y <- replicate(1e4, ___) # votanții lui A din eșantion
c(medie = mean(Y / n), ab_std = sd(Y / n), P_peste_0.5 = mean(Y > 200))(a) Rezultă formula din enunț (egală cu \(0\) dacă \(s>N_A\) sau \(n-s>N_B\)).
(b) vectorul este interschimbabil; \(\E[X_k]=\PP(X_k=1)=p\) pentru orice \(k\) și, din liniaritatea mediei, \(\E[\Xbar]=\frac1n\sum_k\E[X_k]=p\).
(c) \(\E[X_1X_2]=\frac{N_A(N_A-1)}{N(N-1)}\) și \(\Var(\Xbar)=\frac{p(1-p)}{n}\cdot\frac{N-n}{N-1}\).
(d) uniform în \(N\ge n\) și în \(p\): o formă a legii numerelor mari pentru selecția fără revenire.
(e) \(0.02235\), față de \(\sqrt{0.2496/400}=\sqrt{0.000624}\approx0.02498\) cu revenire; numărul \(Y=n\Xbar\) de votanți ai lui \(A\) din eșantion are repartiția \(\HGeom(2000,1040,400)\).
(f) sondajul îl indică drept câștigător pe \(A\) (care are, de fapt, \(52\%\)) cu probabilitatea \(0.7993\) la selecția fără revenire și \(0.7736\) la cea cu revenire; marginea Cebîșev de la (d), \(\Var(\Xbar)/\varepsilon^2\), este \(\approx0.200\), pe când probabilitatea exactă \(\PP(|\Xbar-p|\ge0.05)\) este \(\approx0.029\).
6 Exerciții suplimentare
Cele trei exerciții de mai jos, pentru studiul individual, reiau ideile ședinței în alte contexte: un model de amestec, în care identificabilitatea se demonstrează „inversând” funcția de masă și se vede apoi la lucru prin simulare; un caz-limită în care legea numerelor mari și teorema limită centrală dau răspunsuri de naturi diferite; o aplicație celebră a selecției fără revenire, în care statistica potrivită este maximul eșantionului.
Pentru acasă Numărul de daune declarate într-un an de un asigurat este modelat astfel: cu probabilitatea \(\pi\) asiguratul face parte din grupul celor care nu declară niciodată daune (\(X=0\)), iar cu probabilitatea \(1-\pi\) numărul de daune are repartiția \(\Pois(\lambda)\). Parametrul este \(\theta=(\pi,\lambda)\in\Theta=[0,1)\times(0,\infty)\).
Scrieți funcția de masă \(p_k(\theta)=\PP_\theta(X=k)\), verificați că este o funcție de masă și precizați măsura dominantă.
Calculați \(\E_\theta[X]\) și \(\Var_\theta(X)\) și comparați-le cu cele ale repartiției Poisson.
Arătați că modelul este identificabil, exprimând explicit \(\theta\) în funcție de \(p_1(\theta)\) și \(p_2(\theta)\). De ce s-a exclus \(\pi=1\)?
Pe un portofoliu de \(n=200\) de asigurați s-au observat frecvențele: \(120\) de asigurați fără daune, \(40\) cu o daună, \(25\) cu două, \(10\) cu trei și \(5\) cu patru daune. Estimați \(\theta\) înlocuind, în formulele de la (c), probabilitățile cu frecvențele relative.
În R: comparați frecvențele observate cu cele prezise de modelul ajustat și de un model Poisson simplu. Scrieți o funcție
rzip(n, pi, lambda)care simulează din model și studiați, pentru \(\pi=0.4\), \(\lambda=1.25\) și \(n\in\{50,200,1\,000,5\,000\}\), media și abaterea standard ale estimatorilor de la (d), pe câte \(1\,000\) de eșantioane.
Laborator Schelet de cod pentru (e) — completați locurile marcate cu ___:
f <- c(120, 40, 25, 10, 5); n <- sum(f); ph <- f / n # frecvențe relative
lam <- ___; om <- ___; pi_hat <- 1 - om # (d)
rbind(observat = f, model_ajustat = round(n * c(___, ___), 1), # p_0; p_1..4
Poisson = round(n * dpois(0:4, 0.7), 1)) # Poisson cu aceeași medie
rzip <- function(n, pi, lambda) ___ # amestecul
est_zip <- function(x) { # inversarea relației de la (c)
p1 <- mean(x == 1); p2 <- mean(x == 2); lam <- ___ # lambda și pi, din (c)
if (p1 * p2 == 0) c(pi = NA, lambda = NA) else c(pi = ___, lambda = lam) }
set.seed(17); x <- rzip(1e5, 0.4, 1.25) # verificați frecvențele lui x
rez <- sapply(c(50, 200, 1000, 5000), function(n) { # es = abaterea standard
E <- t(replicate(1000, est_zip(rzip(n, 0.4, 1.25))))
c(n = n, medie = colMeans(E, na.rm = TRUE), es = ___) }); round(rez, 3)(a) Repartiția este amestecul \(\PP_\theta=\pi\,\delta_0+(1-\pi)\Pois(\lambda)\); modelul este dominat de măsura de numărare pe \(\N\).
(b) \(\E_\theta[X]=(1-\pi)\lambda\), \(\Var_\theta(X)=(1-\pi)\lambda(1+\pi\lambda)\); raportul \(\Var_\theta(X)/\E_\theta[X]=1+\pi\lambda>1\) pentru \(\pi>0\): spre deosebire de repartiția Poisson (raport \(1\)), modelul produce supradispersie.
(c) Modelul este identificabil: \(\lambda=\frac{2p_2}{p_1}\), \(1-\pi=\frac{p_1e^{\lambda}}{\lambda}\); pentru \(\pi=1\) am avea \(\PP_\theta=\delta_0\) oricare ar fi \(\lambda\), iar identificabilitatea s-ar pierde.
(d) Estimăm deci că aproximativ \(44\%\) dintre asigurați nu declară niciodată daune (\(\hat\pi\approx0.4415\)), iar ceilalți au în medie \(1.25\) daune pe an (\(\hat\lambda=1.25\)).
(e) Modelul Poisson cu aceeași medie ar prezice \(99.3\) asigurați fără daune (față de \(120\)) și \(69.5\) cu o daună (față de \(40\)); pe măsură ce \(n\) crește, mediile se apropie de \((0.4,\ 1.25)\).
Repartiția exactă a unei statistici permite să vedem cum se instalează comportamentul asimptotic prezis de legea numerelor mari și de teorema limită centrală.
Pentru acasă Fie \(X_1,X_2,\dots\) i.i.d. \(\Pois(\lambda)\) și \(S_n=X_1+\dots+X_n\).
Exprimați \(\PP(S_n<n)\) ca o sumă finită.
Determinați \(\lim_{n\to\infty}\PP(S_n<n)\) în funcție de \(\lambda>0\).
În R: verificați numeric pentru \(\lambda\in\{0.9,\ 1,\ 1.1\}\) și \(n\in\{10,100,1\,000,10\,000\}\). Pentru \(\lambda=1\), estimați viteza cu care \(\PP(S_n<n)\) se apropie de limită.
Laborator Schelet de cod pentru (c) — completați locurile marcate cu ___:
nn <- c(10, 100, 1000, 10000)
tab <- sapply(c(0.9, 1, 1.1), function(l) ___) # formula (a)
dimnames(tab) <- list(paste0("n=", nn), paste0("lambda=", c(0.9, 1, 1.1)))
signif(tab, 4)
___ # lambda = 1: (1/2 - P(S_n < n)) * sqrt(n)(a) \(\PP(S_n<n)=\PP\big(\Pois(n\lambda)\le n-1\big)\).
(b) \(\PP(S_n<n)\to1\) pentru \(\lambda<1\); \(\PP(S_n<n)\to0\) pentru \(\lambda>1\); limita există și este \(\frac12\) pentru \(\lambda=1\).
(c) Pentru \(\lambda=0.9\) probabilitățile cresc spre \(1\) (\(0.5874\), \(0.8418\), \(0.9995\), \(1.0000\)), iar pentru \(\lambda=1.1\) scad spre \(0\) (\(0.34\), \(0.16\), \(0.001\), \(10^{-22}\)); \(\PP(S_n<n)\approx\frac12-\frac{0.133}{\sqrt n}\).
Exercițiul următor este o aplicație celebră a selecției fără revenire: în al Doilea Război Mondial, statisticienii aliați au estimat producția de tancuri germane din numerele de serie ale tancurilor capturate, cu rezultate mult mai apropiate de realitate decât estimările serviciilor de informații.
Pentru acasă Tancurile produse de o fabrică sunt numerotate \(1,2,\dots,N\), cu \(N\) necunoscut. Numerele de serie ale celor \(n\) tancuri capturate sunt privite ca o selecție simplă fără revenire \(X_1,\dots,X_n\) din populația \(\{1,\dots,N\}\). Fie \(M=X_{(n)}\) cel mai mare număr observat.
Determinați repartiția lui \(M\).
Arătați că \(\E_N[M]=\frac{n(N+1)}{n+1}\) și \(\Var_N(M)=\frac{n(N+1)(N-n)}{(n+1)^2(n+2)}\).
Arătați că \(T_1=\frac{n+1}{n}M-1\) și \(T_2=2\Xbar-1\) au ambele media \(N\) și comparați varianțele lor.
Tancurile capturate au numerele \(19,\ 40,\ 42,\ 60\). Calculați \(T_1\) și \(T_2\).
În R: verificați numeric formulele de la (b) pentru \(N=12\), \(n=3\). Apoi, pentru \(N=300\) și \(n=10\), simulați \(B=20\,000\) de selecții fără revenire și comparați \(M\), \(T_1\) și \(T_2\): medie, varianță, eroare pătratică medie \(\E[(T-N)^2]\); estimați \(\PP(T_2<M)\).
Laborator Schelet de cod pentru (e) — completați locurile marcate cu ___:
N <- 12; n <- 3; m <- n:N # verificarea exactă a lui (b)
pm <- ___ # funcția de masă de la (a)
c(suma_pm = sum(pm), E_M = sum(m * pm), formula_E = n * (N + 1) / (n + 1),
Var_M = ___, # varianța, din funcția de masă
formula_Var = n * (N + 1) * (N - n) / ((n + 1)^2 * (n + 2)))
set.seed(14)
N <- 300; n <- 10; B <- 20000
est <- t(replicate(B, { x <- ___ # o selecție fără revenire
c(M = max(x), T1 = ___, T2 = ___) })) # (c)
rbind(medie = colMeans(est), var_sim = apply(est, 2, var),
EPM_sim = ___) # E[(T - N)^2], estimat
c(P_T2_sub_M = ___) # frecvența lui {T2 < M}(a) \(\PP_N(M=m)=\binom{m-1}{n-1}\big/\binom Nn\), \(m=n,\dots,N\).
(b) formulele dau \(\E[M]=\frac{2\cdot6}{3}=4\) și \(\Var(M)=\frac{2\cdot6\cdot3}{9\cdot4}=1\).
(c) \(\E_N[T_1]=\E_N[T_2]=N\), iar pentru \(n=10\) estimatorul bazat pe maxim are varianța de \(4\) ori mai mică.
(d) \(T_1=\frac54\cdot60-1=74\) și \(T_2=2\cdot40.25-1=79.5\).
(e) Probabilitățile au suma \(1\), iar media și varianța calculate din funcția de masă, \(9.750\) și \(4.388\), coincid cu valorile date de formule; eroarea pătratică medie a lui \(T_1\) este mult mai mică atât decât cea a lui \(M\), cât și decât cea a lui \(T_2\); în aproximativ \(29\%\) dintre eșantioane estimatorul \(T_2\) dă o valoare mai mică decât cel mai mare număr observat.
7 Temă
(Identificabilitate.) Studiați identificabilitatea modelelor: (i) \(X\sim\Norm(\mu,\sigma^2)\) observat doar prin \(Y=\Ind_{\{X\le c\}}\) și \(Z=\Ind_{\{X\le d\}}\), cu \(c<d\) cunoscute; (ii) \(X\sim\GammaD(\alpha,\lambda)\) observat prin \(Y=\lambda X\). Răspuns: (i) identificabil: \(\PP(Y=1)=\Phi\big(\frac{c-\mu}\sigma\big)\) și \(\PP(Z=1)=\Phi\big(\frac{d-\mu}\sigma\big)\) determină \(a=\frac{c-\mu}\sigma\) și \(b=\frac{d-\mu}\sigma\), iar \(\sigma=\frac{d-c}{b-a}\), \(\mu=c-a\sigma\); (ii) \(Y\sim\GammaD(\alpha,1)\) nu depinde de \(\lambda\), deci doar \(\alpha\) este identificabil.
(Statistici Bernoulli.) Fie \(X_1,\dots,X_n\) i.i.d. \(\Bern(\theta)\) și \(S_n=\sum_iX_i\). Arătați, cu f.g.m., că \(S_n\sim\Bin(n,\theta)\), că repartiția condiționată a vectorului \((X_1,\dots,X_n)\) dată fiind \(\{S_n=s\}\) este uniformă pe cele \(\binom ns\) secvențe cu \(s\) valori \(1\) și că \(\E\big[S_n(S_n-1)\big]=n(n-1)\theta^2\). Indicație: \(\PP(\bX=\bx\mid S_n=s)=\theta^s(1-\theta)^{n-s}/\big[\binom ns\theta^s(1-\theta)^{n-s}\big]\) pentru orice \(\bx\) cu suma \(s\); derivați de două ori \(M_{S_n}\) în \(0\) și folosiți \(\E[S_n^2]=M''_{S_n}(0)\).
(Varianța unui estimator.) În situația din Exercițiul 3, calculați \(\Var_\lambda(T)\) pentru \(T=(1-1/n)^{S_n}\) și arătați că \(n\Var_\lambda(T)\to\lambda e^{-2\lambda}\) când \(n\to\infty\). Indicație: \(T^2=a^{S_n}\) cu \(a=(1-\frac1n)^2\). Răspuns: \(\Var_\lambda(T)=e^{-2\lambda}\big(e^{\lambda/n}-1\big)\); pentru \(n=4\), \(\lambda=1.5\), valoarea este \(\approx0.0227\).
(Minimul unor variabile geometrice pe \(\N\).) Fie \(X_1,\dots,X_n\) un eșantion din \(\PP(X=x)=\pi^x(1-\pi)\), \(x\in\N\), \(0<\pi<1\). Determinați repartiția lui \(U=\min_iX_i\). Răspuns: \(\PP(X\ge k)=\pi^k\), deci \(\PP(U\ge k)=\pi^{nk}\) și \(\PP(U=u)=(\pi^n)^u(1-\pi^n)\): aceeași familie, cu \(\pi^n\) în locul lui \(\pi\).
(Hardy–Weinberg: numărul de bolnavi.) În situația din Exercițiul 2, arătați că \(N_1\sim\Bin(n,\theta^2)\), că \(N_1/n\) are media \(\theta^2\) și calculați \(\Cov(N_1,N_2)\). Răspuns: \(N_1\) este suma a \(n\) indicatori independenți \(\Bern(\theta^2)\); \(\Cov(N_1,N_2)=-nq_1q_2=-2n\theta^3(1-\theta)\), deoarece \(\Ind_{\{X_i=1\}}\Ind_{\{X_i=2\}}=0\).
(Maximul, cu revenire; în R.) Se extrag cu revenire \(n\) numere din \(\{1,\dots,N\}\) și fie \(M\) cel mai mare dintre ele. Arătați că \(\PP(M\le m)=(m/N)^n\) și \(\E[M]=N-\sum_{m=1}^{N-1}(m/N)^n\); calculați în R \(\E[M]\) pentru \(N=300\), \(n=10\) și verificați prin simulare cu
sample(N, n, replace = TRUE). Răspuns: \(\E[M]=\sum_{m=0}^{N-1}\PP(M>m)\approx273.2\), față de \(273.6\) fără revenire (Exercițiul 13).(Captură–recaptură; în R.) În situația din Exercițiul 3 din Cursul 2, pentru \(N=300\) de pești, \(K=50\) marcați și \(n=40\) recapturați, simulați \(X\sim\HGeom(300,50,40)\) de \(10\,000\) de ori (
rhyper) și comparați estimatorul \(\lfloor Kn/X\rfloor\) (definit pentru \(X\ge1\)) cu estimatorul \(\frac{(K+1)(n+1)}{X+1}-1\): medie, abatere standard, \(\PP(X=0)\). Calculați și valorile exacte cudhyper. Răspuns: \(\PP(X=0)\approx0.0004\); primul estimator are media \(\approx345\) și abaterea standard \(\approx174\) — o deplasare puternică, datorată valorilor mici ale lui \(X\) —, iar al doilea are media \(\approx300\) și abaterea standard \(\approx114\).(Maximul unui eșantion normal; în R.) Pentru un eșantion de volum \(10\) din \(\Norm(0,1)\), calculați \(\PP(X_{(10)}>2)\) cu Propoziția 15 din Cursul 2 și verificați prin simulare; desenați histograma valorilor simulate ale lui \(X_{(10)}\) și densitatea \(10\,\Phi^9\phi\) (cu \(\phi=\)
dnorm, \(\Phi=\)pnorm). Răspuns: \(1-\Phi(2)^{10}\approx0.2056\).(O populație mică; în R.) O populație are \(N=4\) indivizi, cu valorile \(1,2,3,6\), și se extrage un eșantion de volum \(n=2\). Enumerați, ca în Exemplul 4, toate eșantioanele la selecția fără revenire și la cea cu revenire; calculați în fiecare plan \(\E[\bar X_2]\), \(\Var(\bar X_2)\) și \(\PP(\bar X_2\ge3)\), apoi verificați în R cu
combnșiexpand.grid. Răspuns: \(\mu=3\), \(\sigma^2=3.5\); \(\Var(\bar X_2)=\frac76\approx1.167\) fără revenire și \(1.75\) cu revenire; \(\PP(\bar X_2\ge3)=\frac36=\frac8{16}=0.5\) în ambele planuri.