Seminarul 6. Vectori aleatori: repartiții comune, covarianță și medie condiționată

Fișă de lucru (fără rezolvări)

Slide-urile seminarului și laboratorului 6
Deschide slide-urile pe tot ecranul În prezentare: ← → navigare, F ecran complet, M meniu, O privire de ansamblu.

Aceasta este fișa de lucru: enunțurile, scheletele de cod R și răspunsurile finale pentru exercițiile marcate „Dacă timpul permite” și „Pentru acasă”. Rezolvările complete vor fi publicate ulterior.

Planul seminarului și laboratorului

În aplicații observăm aproape întotdeauna mai multe mărimi deodată — puterea semnalului și numărul de retransmisii ale unui pachet, timpii de răspuns a două servere, numărul de fișiere sosite într-o oră și volumul lor total —, iar întrebările interesante privesc legătura dintre ele: ce aflăm despre una dacă o cunoaștem pe cealaltă și cât de puternic „variază împreună”. În ședința de astăzi lucrăm cu vectori aleatori discreți și continui: construim repartiții comune, extragem din ele marginalele și repartițiile condiționate, decidem dacă variabilele sunt independente, măsurăm dependența prin covarianță și corelație și folosim media condiționată pentru predicție și pentru sume cu un număr aleator de termeni. Fiecare exercițiu are o parte matematică (Seminar) și una în R (Laborator), iar tabelul din primul exercițiu și funcțiile R scrise pe parcurs sunt refolosite până la sfârșitul ședinței.

Obiective. La sfârșitul ședinței studentul trebuie să poată:

  1. citi și construi tabelul repartiției comune a unui vector aleator discret, determina repartițiile marginale și condiționate și decide dacă variabilele sunt independente;
  2. lucra cu o densitate comună: constanta de normalizare, densitățile marginale și condiționate, probabilități calculate ca integrale duble sau ca rapoarte de arii, criteriul de factorizare; determina repartiția minimului și a maximului a două variabile independente;
  3. calcula covarianța și coeficientul de corelație, varianța unei combinații liniare \(aX+bY\) și deosebi variabilele necorelate de cele independente;
  4. calcula media condiționată ca funcție de variabila de condiționare și aplica legea mediei iterate și legea varianței totale, în particular pentru sume aleatoare;
  5. reprezenta în R o repartiție comună ca matrice, simula vectori aleatori (din tabel, în două etape, prin respingere), estima probabilități, corelații și medii condiționate dintr-un eșantion simulat și calcula numeric integrale duble.

Structura. Breviar; vectori aleatori discreți; vectori aleatori continui; covarianță și corelație; media condiționată; exerciții suplimentare; temă. Pentru aprofundare: (Blitzstein and Hwang 2019, cap. 7 și 9), (Bertsekas and Tsitsiklis 2008, cap. 2–4), (Ross 2014, cap. 6–7), (Chan 2021, cap. 5), iar pentru simulări în R (Wagaman and Dobrow 2021).

Planul ședinței

De rezolvat la seminar (în această ordine):

  • Exercițiul 1 — tabelul repartiției comune: marginale, repartiții condiționate, independență; matricea P și funcția sim_tabel;
  • Exercițiul 3 — independența a două variabile discrete; funcțiile tabel și abatere_indep;
  • Exercițiul 4 — o densitate comună: constanta, marginalele, factorizarea, condiționarea la un eveniment; integrala dublă int2 și simularea prin respingere;
  • Exercițiul 7 — covarianța și corelația, din tabel și din date; funcția cov_tabel;
  • Exercițiul 11 — o sumă aleatoare: legea mediei iterate și legea varianței totale; simularea în două etape.

Dacă timpul permite:

  • Exercițiul 6 — minimul și maximul a două durate exponențiale independente;
  • Exercițiul 8 — varianța unei combinații liniare și ponderea optimă a două măsurători;
  • Exercițiul 10 — media condiționată ca funcție și ca predicție; legea varianței totale pe un tabel.

Pentru acasă:

  • Exercițiile 2 (minimul și maximul a două zaruri), 5 (un punct uniform într-un triunghi) și 9 (corelație negativă și corelație nulă);
  • exercițiile suplimentare 12, 13, 14 și 15 (Secțiunea 6);
  • enunțurile din Secțiunea 7.

Rezolvările complete vor fi publicate ulterior; scheletele de cod R se completează în locurile marcate cu ___. Exercițiile marcate „Dacă timpul permite” și „Pentru acasă” au, după enunț, răspunsurile finale, pentru verificare.

1 Breviar

Folosim noțiunile și rezultatele din Cursul 6; le reamintim pe scurt, cu trimiterile corespunzătoare, iar în soluții (publicate ulterior) indicăm la fiecare pas rezultatul aplicat. Regula de bază: pentru variabile discrete apar probabilități și sume, pentru variabile continue densități și integrale.

Rezultate din Cursul 6 folosite azi
  • Repartiția comună (Definițiile 4 din Cursul 6 și 13 din Cursul 6): \(p_{X,Y}(x,y)=\PP(X=x,Y=y)\) în cazul discret; în cazul continuu \(\PP((X,Y)\in A)=\iint_Af_{X,Y}(x,y)\dd x\dd y\). Pentru \((X,Y)\sim\Unif(S)\), densitatea este \(1/\mathrm{Aria}(S)\) pe \(S\), iar probabilitățile sunt rapoarte de arii (Definiția 15 din Cursul 6).
  • Marginale (Definiția 5 din Cursul 6, Propoziția 14 din Cursul 6): \(p_X(x)=\sum_yp_{X,Y}(x,y)\), respectiv \(f_X(x)=\int f_{X,Y}(x,y)\dd y\).
  • Condiționate (Definițiile 7 din Cursul 6 și 18 din Cursul 6): \(p_{Y\mid X}(y\mid x)=\frac{p_{X,Y}(x,y)}{p_X(x)}\), \(f_{Y\mid X}(y\mid x)=\frac{f_{X,Y}(x,y)}{f_X(x)}\); regula de înmulțire \(f_{X,Y}=f_X\,f_{Y\mid X}\) și formula lui Bayes (Propozițiile 8 din Cursul 6 și 24 din Cursul 6).
  • Independență (Definiția 9 din Cursul 6, Propozițiile 20 din Cursul 6 și 21 din Cursul 6): \(p_{X,Y}=p_X\,p_Y\), respectiv \(f_{X,Y}=f_X\,f_Y\); este suficient ca \(f_{X,Y}(x,y)=g(x)h(y)\) pe tot planul. Dacă \(X\indep Y\), atunci \(\E[XY]=\E[X]\E[Y]\) (Propoziția 22 din Cursul 6).
  • Media unei funcții (Teoremele 10 din Cursul 6 și 25 din Cursul 6): \(\E[g(X,Y)]=\sum_x\sum_yg(x,y)\,p_{X,Y}(x,y)\), respectiv \(\iint g\,f_{X,Y}\).
  • Covarianță și corelație (Definițiile 31 din Cursul 6 și 35 din Cursul 6, Propoziția 34 din Cursul 6, Teorema 36 din Cursul 6): \[\Cov(X,Y)=\E[XY]-\E[X]\E[Y],\qquad \rho(X,Y)=\frac{\Cov(X,Y)}{\sqrt{\Var(X)\Var(Y)}}\in[-1,1],\] \[\Var(aX+bY)=a^2\Var(X)+b^2\Var(Y)+2ab\,\Cov(X,Y).\] Independența implică necorelarea (Propoziția 33 din Cursul 6); reciproca este falsă (Exemplul 16 din Cursul 6).
  • Media condiționată (Definițiile 11 din Cursul 6, 26 din Cursul 6 și 27 din Cursul 6): \(g(x)=\E[Y\mid X=x]\) este un număr care depinde de \(x\), iar \(\E[Y\mid X]=g(X)\) este o variabilă aleatoare. Legea mediei iterate și legea varianței totale (Teorema 28 din Cursul 6): \[\E\big[\E[Y\mid X]\big]=\E[Y],\qquad \Var(Y)=\E\big[\Var(Y\mid X)\big]+\Var\big(\E[Y\mid X]\big).\]
  • Sume aleatoare (Propoziția 30 din Cursul 6): pentru \(S=X_1+\dots+X_N\), \(\E[S]=\E[N]\,\E[X_1]\) și \(\Var(S)=\E[N]\Var(X_1)+\Var(N)\,(\E[X_1])^2\).
  • Sume de variabile independente (Propoziția 42 din Cursul 6): \(p_{X+Y}(z)=\sum_xp_X(x)p_Y(z-x)\), \(f_{X+Y}(z)=\int f_X(x)f_Y(z-x)\dd x\).
Instrumente R folosite azi
  • matrix(v, nrow, byrow = TRUE, dimnames = list(X = ..., Y = ...)) — tabelul repartiției comune ca matrice cu linii și coloane denumite; P[i, j], P[i, ], P[, j] — o celulă, o linie, o coloană;
  • rowSums(P), colSums(P) — sumele pe linii și pe coloane, adică marginalele; sweep(P, 1, pX, "/") — împarte fiecare linie la suma ei (repartițiile condiționate \(Y\mid X=x\)); cu 2 în loc de 1, pe coloane;
  • outer(a, b) — matricea produselor \(a_ib_j\); outer(pX, pY) este tabelul pe care l-ar avea două variabile independente cu marginalele date; outer(x, y, "+") — matricea sumelor \(x_i+y_j\);
  • table(u, v) — tabelul cu dublă intrare al frecvențelor a doi vectori; sample(length(P), B, replace = TRUE, prob = as.vector(P)) și arrayInd — simularea unor celule ale tabelului;
  • cov(x, y), cor(x, y) — covarianța și corelația empirice ale unui eșantion de perechi; tapply(y, x, mean) — media valorilor y pentru fiecare valoare a lui x, adică estimarea lui \(\E[Y\mid X=x]\); cut(x, breaks) — împarte valorile unei variabile continue în clase;
  • runif, rexp, rnorm, rgamma — simularea repartițiilor continue (Seminarul 5); simularea în două etape (întâi \(X\), apoi \(Y\) din repartiția condiționată la valoarea obținută pentru \(X\)) și prin respingere (păstrăm numai punctele care îndeplinesc o condiție); mean(conditie) — estimarea Monte Carlo a probabilității unei regiuni din plan;
  • integrate(f, a, b)$value — integrala numerică a unei funcții de o variabilă; două apeluri imbricate dau o integrală dublă.

2 Vectori aleatori discreți

Repartiția comună a două variabile aleatoare discrete este un tabel cu dublă intrare, iar în R un tabel este o matrice: sumele pe linii și pe coloane dau marginalele, iar o linie împărțită la suma ei dă o repartiție condiționată. Primul exercițiu fixează aceste operații pe un tabel dat, pe care îl vom relua în Exercițiile 7 și 10; în următoarele două tabelul trebuie mai întâi construit, pornind de la experiment.

Exercițiul 1 (Semnalul și retransmisiile: un tabel de repartiție)

La seminar Un laptop trimite pachete de date printr-o rețea fără fir. Pentru un pachet ales la întâmplare notăm cu \(X\) numărul de liniuțe de semnal afișate în momentul trimiterii (\(1\) = semnal slab, \(2\) = mediu, \(3\) = bun) și cu \(Y\) numărul de retransmisii de care a avut nevoie pachetul (\(0\), \(1\) sau \(2\)). Din jurnalul plăcii de rețea s-a estimat repartiția comună a vectorului \((X,Y)\): \[ \begin{array}{c|ccc} X\backslash Y & 0 & 1 & 2\\ \hline 1 & 0.05 & 0.10 & 0.10\\ 2 & 0.15 & 0.15 & 0.05\\ 3 & 0.30 & 0.10 & 0 \end{array} \]

  1. Verificați că tabelul definește o repartiție comună, determinați repartițiile marginale și calculați \(\PP(X\le2,\ Y\ge1)\) și \(\PP(X+Y\ge4)\).

  2. Determinați repartițiile condiționate \(Y\mid X=1\), \(Y\mid X=3\) și \(X\mid Y=2\). Un pachet a avut nevoie de două retransmisii: care este probabilitatea ca semnalul să fi fost slab?

  3. Sunt \(X\) și \(Y\) independente?

  4. În R: reprezentați tabelul ca matrice, regăsiți (a)–(c) și simulați \(10^5\) pachete cu repartiția din tabel.

Laborator Schelet de cod pentru (d) — completați locurile marcate cu ___ (celulele unei matrice sunt numerotate pe coloane; arrayInd transformă numărul celulei în perechea (linie, coloană); matricele P, PY_X și funcția sim_tabel vor fi refolosite):

P <- matrix(c(0.05, 0.10, 0.10,
              0.15, 0.15, 0.05,
              0.30, 0.10, 0.00), nrow = 3, byrow = TRUE,
            dimnames = list(X = 1:3, Y = 0:2))
x <- 1:3; y <- 0:2                  # valorile lui X și ale lui Y
pX <- ___; pY <- ___                # marginalele
c(total = sum(P), P1 = sum(___),    # P1 = P(X <= 2, Y >= 1)
  P2 = sum(P[outer(x, y, "+") >= 4]))
PY_X <- ___                         # liniile: repartițiile Y | X = x (sweep)
PX_Y <- sweep(P, 2, pY, "/")        # coloanele: repartițiile X | Y = y
round(PY_X, 3); round(PX_Y[, "2"], 3)
max(abs(P - ___))                   # abaterea față de produsul marginalelor
sim_tabel <- function(B, P, x, y) { # B perechi (X, Y) cu repartiția P
  k <- sample(length(P), B, replace = TRUE, prob = ___)
  ij <- arrayInd(k, dim(P))         # linia și coloana fiecărei celule
  data.frame(X = x[ij[, 1]], Y = y[ij[, 2]])
}
set.seed(601)
d <- sim_tabel(1e5, P, x, y)
round(table(d$X, d$Y) / 1e5, 3)     # frecvențele relative ale celulelor
mean(___)                           # estimarea lui P(X = 1 | Y = 2)
set.seed(602)                       # simularea în două etape
X2 <- sample(x, 1e4, replace = TRUE, prob = pX)               # etapa 1: X
Y2 <- sapply(X2, function(i) sample(y, 1, prob = ___))        # etapa 2: Y | X
round(table(X2, Y2) / 1e4, 2)

De cele mai multe ori tabelul nu este dat, ci trebuie dedus din descrierea experimentului. Când rezultatele sunt egal probabile, îl obținem numărând — de mână sau, în R, cu table.

Exercițiul 2 (Minimul și maximul a două zaruri)

Pentru acasă Se aruncă două zaruri echilibrate; fie \(U\) cel mai mic și \(V\) cel mai mare dintre cele două numere obținute (dacă zarurile arată același număr, \(U=V\)).

  1. Determinați repartiția comună a vectorului \((U,V)\) și repartițiile marginale.

  2. Determinați repartiția condiționată a lui \(U\) la \(V=4\) și media condiționată \(\E[U\mid V=4]\).

  3. Arătați că \(\E[U\mid V=v]=\frac{v^2}{2v-1}\) pentru \(v=1,\dots,6\) și regăsiți \(\E[U]\) din aceste medii condiționate.

  4. În R: construiți tabelul prin enumerarea celor \(36\) de rezultate și calculați mediile condiționate cu tapply, exact și pe un eșantion simulat.

Răspunsuri
  1. \(p_{U,V}(u,v)=\frac{2}{36}\) pentru \(u<v\), \(\frac1{36}\) pentru \(u=v\) și \(0\) pentru \(u>v\); \(\PP(U=u)=\frac{13-2u}{36}\) și \(\PP(V=v)=\frac{2v-1}{36}\), pentru \(u,v=1,\dots,6\).

  2. \(U\mid V=4\) ia valorile \(1,2,3,4\) cu probabilitățile \(\frac27,\frac27,\frac27,\frac17\); \(\E[U\mid V=4]=\frac{16}{7}\approx2.29\).

  3. (demonstrație) \(\E[U\mid V=v]=1,\ \frac43,\ \frac95,\ \frac{16}7,\ \frac{25}9,\ \frac{36}{11}\) pentru \(v=1,\dots,6\); \(\E[U]=\sum_v\E[U\mid V=v]\,\PP(V=v)=\frac{91}{36}\approx2.53\).

  4. tapply pe cele \(36\) de rezultate dă exact valorile de la (c), iar pe un eșantion simulat valori apropiate; ponderând cu \(\PP(V=v)\) se obține \(\frac{91}{36}\approx2.528\).

În exercițiile de până acum am construit tabelul și am citit din el marginalele și repartițiile condiționate. Următorul exercițiu se întreabă dacă două părți ale aceluiași număr aleator sunt independente și introduce o funcție R care compară un tabel cu produsul marginalelor sale.

Exercițiul 3 (Câtul și restul unui număr aleator: sunt independente?)

La seminar Un generator produce un număr întreg \(N\) repartizat uniform pe \(\{0,1,\dots,n-1\}\). Fie \(X=N\bmod 4\) restul împărțirii lui \(N\) la \(4\) (numărul format din ultimii doi biți ai lui \(N\)) și \(Y=\lfloor N/4\rfloor\) câtul (numărul format din ceilalți biți), astfel încât \(N=4Y+X\).

  1. Pentru \(n=12\), determinați repartiția comună și marginalele. Sunt \(X\) și \(Y\) independente?

  2. Aceeași întrebare pentru \(n=10\). Calculați \(\PP(X=0\mid Y=2)\) și comparați cu \(\PP(X=0)\).

  3. În R: scrieți o funcție care măsoară abaterea unui tabel de la independență și aplicați-o pentru \(n=12\), \(n=10\) și pentru tabelele din Exercițiile 1 și 2. Ce se întâmplă dacă tabelul este estimat dintr-un eșantion simulat?

Laborator Schelet de cod pentru (c) — completați locurile marcate cu ___ (P este matricea din Exercițiul 1; funcțiile tabel și abatere_indep vor fi folosite și în exercițiile următoare și în temă):

tabel <- function(a, b) ___                       # repartiția comună (frecvențe relative)
abatere_indep <- function(P) {
  max(abs(P - ___))                               # max |p(x, y) - pX(x) pY(y)|
}
N12 <- 0:11; N10 <- 0:9
c(n12 = abatere_indep(tabel(N12 %% 4, ___)),      # restul și câtul
  n10 = abatere_indep(tabel(N10 %% 4, N10 %/% 4)),
  semnal = abatere_indep(P))
# după Exercițiul s06-zaruri: abatere_indep(PUV)
set.seed(604)
N <- sample(0:11, 1e4, replace = TRUE)            # 10 000 de numere, n = 12
abatere_indep(tabel(N %% 4, N %/% 4))
N <- ___                                          # 10 000 de numere, n = 10
abatere_indep(tabel(N %% 4, N %/% 4))

3 Vectori aleatori continui

În cazul continuu tabelul este înlocuit de o densitate \(f_{X,Y}\), sumele de integrale, iar probabilitatea unei regiuni din plan este volumul de sub graficul densității deasupra acelei regiuni. În R avem două căi de verificare: integrarea numerică, prin două apeluri integrate imbricate, și simularea, în care generăm multe puncte \((X,Y)\) și numărăm câte cad în regiune.

Exercițiul 4 (Două procese cer memorie: o densitate pe pătrat și pe triunghi)

La seminar Două procese pornesc simultan pe un server și cer fracțiunile \(X\), respectiv \(Y\) din memoria disponibilă. Vectorul \((X,Y)\) are densitatea \[ f_{X,Y}(x,y)=\begin{cases}c\,xy,&0\le x\le1,\ 0\le y\le1,\\ 0,&\text{altfel.}\end{cases} \]

  1. Determinați constanta \(c\) și densitățile marginale. Sunt \(X\) și \(Y\) independente?

  2. Cele două cereri pot fi satisfăcute simultan dacă \(X+Y\le1\). Calculați \(\PP(X+Y\le1)\).

  3. Știind că ambele cereri au fost satisfăcute, adică condiționat de evenimentul \(A=\{X+Y\le1\}\), determinați densitatea comună a lui \((X,Y)\), densitatea marginală a lui \(X\) și \(\E[X\mid A]\). Mai sunt \(X\) și \(Y\) independente?

  4. În R: verificați (a) și (b) prin integrare numerică și prin simulare, apoi obțineți un eșantion din repartiția de la (c) păstrând numai perechile simulate cu \(X+Y\le1\).

Laborator Schelet de cod pentru (d) — completați locurile marcate cu ___ (int2 calculează \(\int_a^b\int_{\text{jos}(x)}^{\text{sus}(x)}f(x,y)\dd y\dd x\) prin două apeluri integrate imbricate și va fi folosită și în exercițiile următoare și în temă; pentru simulare, densitatea \(2x\) se obține prin metoda inversei, ca în Exercițiul 2 din Seminarul 5):

int2 <- function(f, a, b, jos, sus) {     # integrala dublă a lui f(x, y):
  interior <- function(x) sapply(x, function(x0)   # x de la a la b,
    integrate(function(y) f(x0, y) + 0 * y, jos(x0), sus(x0))$value)
  ___                                     # integrala exterioară, în x
}
f <- function(x, y) ___                   # densitatea, cu c de la (a)
zero <- function(x) 0; unu <- function(x) 1
c(total = int2(f, 0, 1, zero, unu),
  P_A = int2(f, 0, 1, zero, ___))         # regiunea x + y <= 1
set.seed(605)
B <- 1e5
X <- ___; Y <- ___                        # densitatea 2x, metoda inversei
A <- ___                                  # cererile încap simultan?
c(P_A = mean(A), E_X = mean(X), cor = cor(X, Y))
XA <- X[A]; YA <- Y[A]                    # păstrăm doar perechile din A
c(n = length(XA), E_X_A = mean(XA), cor_A = cor(XA, YA))

Când densitatea este constantă pe o regiune, calculele se reduc la arii. Exercițiul următor arată însă că „a alege un punct la întâmplare” într-o regiune cere atenție atunci când alegerea se face coordonată cu coordonată.

Exercițiul 5 (Un punct ales uniform într-un triunghi)

Pentru acasă Vectorul \((X,Y)\) este repartizat uniform pe triunghiul \(T=\{(x,y)\mid 0\le y\le x\le1\}\), cu vârfurile \((0,0)\), \((1,0)\) și \((1,1)\).

  1. Scrieți densitatea comună și determinați densitățile marginale. Sunt \(X\) și \(Y\) independente?

  2. Determinați densitatea condiționată a lui \(Y\) la \(X=x\) și media condiționată \(\E[Y\mid X=x]\). Deduceți \(\E[Y]\).

  3. Calculați \(\PP\big(X-Y\ge\frac12\big)\) și \(\PP(Y\le X^2)\).

  4. În R: generați puncte uniforme în \(T\) prin respingere și în două etape și verificați (b) și (c). Un coleg propune algoritmul „aleg \(X\) uniform pe \([0,1]\), apoi \(Y\) uniform pe \([0,X]\)”. Este corect?

Răspunsuri
  1. \(f_{X,Y}(x,y)=2\) pe \(T\) și \(0\) în rest; \(f_X(x)=2x\) și \(f_Y(y)=2(1-y)\) pentru \(x,y\in[0,1]\); \(X\) și \(Y\) nu sunt independente.

  2. \(f_{Y\mid X}(y\mid x)=\frac1x\) pentru \(0\le y\le x\), adică \(Y\mid X=x\sim\Unif(0,x)\); \(\E[Y\mid X=x]=\frac x2\) și \(\E[Y]=\frac13\).

  3. \(\PP\big(X-Y\ge\frac12\big)=\frac14\) și \(\PP(Y\le X^2)=\frac23\).

  4. Respingerea și generarea în două etape (\(X=\sqrt U\), apoi \(Y\) uniformă pe \([0,X]\)) dau valori apropiate de \(\E[X]=\frac23\), \(\E[Y]=\frac13\), \(\frac14\) și \(\frac23\). Algoritmul colegului nu este corect: punctul generat are densitatea \(\frac1x\) pe \(T\) (punctele se îngrămădesc spre origine); pentru el, \(\PP\big(X-Y\ge\frac12\big)=\frac{1-\ln2}{2}\approx0.153\).

Ultimul exercițiu al secțiunii folosește independența într-o situație frecventă în sistemele distribuite: aceeași cerere este trimisă către două servere. Repartiția minimului și cea a maximului se obțin cu funcția de repartiție, traducând evenimentele \(\{\min>t\}\) și \(\{\max\le t\}\) în evenimente despre ambele variabile.

Exercițiul 6 (O cerere trimisă la două servere: minimul și maximul)

Dacă timpul permite Pentru a reduce latența, o aplicație trimite aceeași cerere către două servere. Timpii de răspuns (în secunde) sunt independenți: \(X\sim\Exp(2)\) pentru primul server și \(Y\sim\Exp(4)\) pentru al doilea, adică în medie \(0.5\), respectiv \(0.25\) secunde. Fie \(L=\min(X,Y)\) momentul primului răspuns și \(M=\max(X,Y)\) momentul în care au sosit ambele răspunsuri.

  1. Determinați funcția de repartiție și densitatea lui \(L\). Cu cât scade timpul mediu de răspuns față de folosirea numai a serverului rapid?

  2. Calculați probabilitatea ca serverul lent să răspundă primul, \(\PP(X<Y)\).

  3. Determinați funcția de repartiție, densitatea și media lui \(M\).

  4. După sosirea primului răspuns, cât mai așteptăm, în medie, al doilea răspuns?

  5. Verificați rezultatele în R, prin simulare și prin integrare numerică.

Laborator Schelet de cod pentru (e) — completați locurile marcate cu ___ (int2 este funcția din Exercițiul 4; limitele de integrare pot fi Inf):

set.seed(607)
B <- 1e5
X <- rexp(B, rate = 2); Y <- rexp(B, rate = 4)
L <- ___; M <- ___                        # primul și al doilea răspuns
c(E_L = mean(L), P_lent = mean(___), E_M = mean(M), E_rest = mean(M - L))
fM <- function(t) ___                     # densitatea lui M, de la (c)
c(E_M = integrate(function(t) t * fM(t), 0, Inf)$value,
  P_lent = int2(function(x, y) ___, 0, Inf,          # densitatea comună
                function(x) x, function(x) Inf))     # regiunea x < y
hist(M, breaks = 100, freq = FALSE, xlim = c(0, 2.5), main = "",
     xlab = "t (secunde)", ylab = "densitate", col = "grey88", border = "white")
curve(fM(x), add = TRUE, col = "red", lwd = 2)                 # maximul
curve(dexp(x, ___), add = TRUE, col = "blue", lty = 2, lwd = 2) # minimul
Răspunsuri
  1. \(F_L(t)=1-e^{-6t}\) și \(f_L(t)=6e^{-6t}\) pentru \(t>0\), adică \(L\sim\Exp(6)\); \(\E[L]=\frac16\approx0.167\) s, față de \(0.25\) s cu serverul rapid singur: o reducere cu o treime.

  2. \(\PP(X<Y)=\frac13\).

  3. \(F_M(t)=(1-e^{-2t})(1-e^{-4t})\), \(f_M(t)=2e^{-2t}+4e^{-4t}-6e^{-6t}\) pentru \(t>0\); \(\E[M]=\frac7{12}\approx0.583\) s.

  4. \(\E[M-L]=\frac5{12}\approx0.417\) s.

  5. Valorile simulate sunt apropiate de \(0.167\), \(\frac13\), \(0.583\) și \(0.417\); integrarea numerică dă \(\frac7{12}\) și \(\frac13\); histograma lui \(M\) urmează densitatea \(f_M\), care pornește din \(0\), spre deosebire de densitatea \(\Exp(6)\) a minimului.

4 Covarianță și corelație

Independența este o proprietate de tip „da sau nu”. Covarianța și coeficientul de corelație măsoară cât de puternică este legătura (liniară) dintre două variabile și în ce sens merge ea. Începem cu tabelul din Exercițiul 1, apoi folosim covarianța pentru varianța unei combinații liniare și încheiem cu două situații clasice la zaruri, în care calculăm covarianțe cu metoda indicatorilor și comparăm necorelarea cu independența.

Exercițiul 7 (Covarianța și corelația dintre semnal și retransmisii)

La seminar Revenim la vectorul \((X,Y)\) din Exercițiul 1: \(X\) este numărul de liniuțe de semnal, iar \(Y\) numărul de retransmisii.

  1. Calculați \(\E[X]\), \(\E[Y]\), \(\E[XY]\), \(\Cov(X,Y)\), \(\Var(X)\), \(\Var(Y)\) și \(\rho(X,Y)\). Interpretați semnul corelației.

  2. Puterea semnalului, în dBm, este \(S=-90+15X\), iar timpul de livrare a pachetului, în milisecunde, este \(T=10+30\,Y\). Calculați \(\Cov(S,T)\) și \(\rho(S,T)\).

  3. În R: scrieți o funcție care calculează mărimile de la (a) pentru un tabel oarecare. Apoi priviți problema „dinspre date”: dintr-un eșantion de \(n\) pachete calculați covarianța și corelația empirice, din formule și cu cov și cor, pentru \(n\in\{100,10^3,10^4,10^5\}\).

Laborator Schelet de cod pentru (c) — completați locurile marcate cu ___ (P, x, y și sim_tabel sunt cele din Exercițiul 1; outer(x, y) este matricea produselor \(x_iy_j\); funcția cov_tabel va fi folosită și în exercițiile următoare și în temă):

cov_tabel <- function(P, x, y) {
  pX <- rowSums(P); pY <- colSums(P)
  EX <- sum(x * pX); EY <- ___
  EXY <- ___                              # suma x * y * p(x, y)
  VX <- sum(x^2 * pX) - EX^2; VY <- ___
  c(EX = EX, EY = EY, VarX = VX, VarY = VY, Cov = EXY - EX * EY,
    rho = ___)
}
round(rbind(semnal = cov_tabel(P, x, y),
            dBm_ms = cov_tabel(P, ___, ___)), 4)   # S și T de la (b)
# după Exercițiul s06-zaruri: cov_tabel(PUV, 1:6, 1:6)
set.seed(608)
d <- sim_tabel(1e5, P, x, y)              # „jurnalul” a 100 000 de pachete
X <- d$X; Y <- d$Y
cov_n <- ___                              # formula de calcul, pe date
cor_n <- cov_n / sqrt((mean(X^2) - mean(X)^2) * (mean(Y^2) - mean(Y)^2))
c(cov_formula = cov_n, cov = cov(X, Y), cor_formula = cor_n,
  cor = cor(X, Y))
sapply(c(n_100 = 100, n_1000 = 1000, n_1e4 = 1e4, n_1e5 = 1e5),
       function(n) ___)                   # corelația primelor n perechi

Covarianța apare în varianța oricărei combinații liniare. Aplicația următoare — combinarea a două măsurători ale aceleiași mărimi — continuă Exercițiul 11 din Seminarul 4, în care măsurătorile erau independente și la fel de precise.

Exercițiul 8 (Combinarea a două măsurători: ponderea care minimizează varianța)

Dacă timpul permite Temperatura \(\mu\) dintr-o sală de servere este măsurată de doi senzori: \(X=\mu+\varepsilon_1\) și \(Y=\mu+\varepsilon_2\), unde erorile au media zero, \(\Var(X)=4\) (senzorul bun), \(\Var(Y)=9\) (senzorul slab), iar coeficientul de corelație este \(\rho=\rho(X,Y)\). Cele două măsurători se combină într-una singură, \(T_a=aX+(1-a)Y\), cu \(a\in[0,1]\).

  1. Arătați că \(\E[T_a]=\mu\) pentru orice \(a\) și exprimați \(\Var(T_a)\) în funcție de \(a\) și \(\rho\).

  2. Presupunem că senzorii sunt independenți. Calculați varianța mediei aritmetice \(\frac{X+Y}2\), apoi determinați ponderea \(a^*\) care minimizează \(\Var(T_a)\) și varianța minimă.

  3. Reluați (b) pentru \(\rho=0.5\) (senzorii sunt afectați de aceleași perturbații) și pentru \(\rho=-0.5\).

  4. În R: reprezentați grafic \(\Var(T_a)\) pentru cele trei valori ale lui \(\rho\), găsiți minimul numeric și verificați cazul \(\rho=0.5\) prin simulare.

Laborator Schelet de cod pentru (d) — completați locurile marcate cu ___ (pentru erori corelate: dacă \(Z_1,Z_2\sim\Norm(0,1)\) sunt independente, atunci \(\rho Z_1+\sqrt{1-\rho^2}\,Z_2\) are varianța \(1\) și corelația \(\rho\) cu \(Z_1\), vezi Exercițiul 14):

var_comb <- function(a, rho, vX = 4, vY = 9)   # Var(aX + (1 - a)Y)
  ___
a <- seq(0, 1, by = 0.001)
sapply(c(rho_0 = 0, rho_0.5 = 0.5, rho_minus = -0.5), function(r) {
  v <- var_comb(a, r)
  c(a_optim = ___, var_min = min(v),       # minimul pe grilă (which.min)
    var_medie = var_comb(0.5, r))
})
plot(a, var_comb(a, 0.5), type = "l", col = "red", lwd = 2, ylim = c(0, 9),
     xlab = "ponderea a a senzorului bun", ylab = "Var(aX + (1 - a)Y)")
lines(a, var_comb(a, 0), col = "blue", lwd = 2)
lines(a, var_comb(a, -0.5), col = "darkgreen", lwd = 2)
abline(h = 4, lty = 2)                    # senzorul bun singur (a = 1)
set.seed(609)
B <- 1e5; rho <- 0.5
Z1 <- rnorm(B); Z2 <- rnorm(B)
e1 <- 2 * Z1                              # eroarea senzorului bun: sd = 2
e2 <- ___                                 # sd = 3, corelație rho cu e1
c(cor = cor(e1, e2), var_optim = var(___),     # combinația optimă de la (c)
  var_medie = var((e1 + e2) / 2))
Răspunsuri
  1. \(\E[T_a]=\mu\); \(\Var(T_a)=4a^2+9(1-a)^2+12\rho\,a(1-a)\).

  2. \(\Var\big(\frac{X+Y}2\big)=3.25\); \(a^*=\frac9{13}\approx0.692\), cu varianța minimă \(\frac{36}{13}\approx2.77\).

  3. Pentru \(\rho=0.5\): \(a^*=\frac67\approx0.857\), varianța minimă \(\frac{27}7\approx3.86\), iar media aritmetică are varianța \(4.75\) (mai mare decât \(4\), a senzorului bun singur). Pentru \(\rho=-0.5\): \(a^*=\frac{12}{19}\approx0.632\), varianța minimă \(\frac{27}{19}\approx1.42\), iar media aritmetică are varianța \(1.75\).

  4. Grila dă aceleași ponderi optime și varianțe minime; prin simulare, corelația erorilor este apropiată de \(0.5\), iar varianțele combinației optime și ale mediei aritmetice de \(3.86\) și \(4.75\).

Covarianța unor variabile care numără se calculează cel mai ușor cu metoda indicatorilor din Seminarul 4: scriem fiecare variabilă ca sumă de indicatori și folosim faptul că covarianța unei sume este suma covarianțelor.

Exercițiul 9 (Zaruri: corelație negativă și corelație nulă)

Pentru acasă Considerăm două experimente. În primul, un zar echilibrat se aruncă de \(n\) ori; fie \(N_1\) numărul de apariții ale feței \(1\) și \(N_6\) numărul de apariții ale feței \(6\). În al doilea se aruncă două zaruri echilibrate; fie \(Z_1\) și \(Z_2\) numerele obținute, \(S=Z_1+Z_2\) suma și \(D=Z_1-Z_2\) diferența lor.

  1. Scrieți \(N_1\) și \(N_6\) ca sume de indicatori și arătați că \(\Cov(N_1,N_6)=-\frac{n}{36}\) și \(\rho(N_1,N_6)=-\frac15\).

  2. Verificați rezultatul de la (a) pornind de la repartiția lui \(N_1+N_6\).

  3. Arătați că \(\Cov(S,D)=0\). Sunt \(S\) și \(D\) independente?

  4. În R: verificați (a) prin simulare pentru \(n=12\); construiți tabelul repartiției comune a lui \((S,D)\) și aplicați-i funcțiile cov_tabel și abatere_indep; ilustrați prin simulare Exemplul 16 din Cursul 6.

Răspunsuri
  1. (demonstrație) \(\Cov(N_1,N_6)=-\frac{n}{36}\) și \(\rho(N_1,N_6)=-\frac15\), oricare ar fi \(n\).

  2. \(N_1+N_6\sim\Bin\big(n,\frac13\big)\), deci \(\frac{8n}{36}=\frac{10n}{36}+2\Cov(N_1,N_6)\), de unde aceeași covarianță.

  3. \(\Cov(S,D)=0\), dar \(S\) și \(D\) nu sunt independente: de exemplu \(\PP(S=12,\,D=1)=0\), deși \(\PP(S=12)=\frac1{36}\) și \(\PP(D=1)=\frac5{36}\).

  4. Pentru \(n=12\), covarianța, corelația și varianța sumei simulate sunt apropiate de \(-0.333\), \(-0.2\) și \(2.667\); pentru \((S,D)\), cov_tabel dă covarianța și corelația exact \(0\), iar abatere_indep o valoare nenulă (\(\approx0.028\)); pentru \(X\sim\Norm(0,1)\) și \(Y=X^2\), corelația empirică este practic nulă, dar \(\PP(Y\le1)\approx0.68\), pe când \(\PP(Y\le1\mid X>1)=0\).

5 Media condiționată

Medii condiționate apar și în Exercițiile 2 și 5. În această secțiune le privim ca pe un instrument: funcția \(g(x)=\E[Y\mid X=x]\) este cea mai bună predicție a lui \(Y\) atunci când îl cunoaștem pe \(X\), iar condiționarea „în etape” permite calculul mediei și al varianței unor variabile construite în doi pași.

Exercițiul 10 (Media condiționată ca funcție: ce spune semnalul despre retransmisii)

Dacă timpul permite Pentru vectorul \((X,Y)\) din Exercițiul 1 vrem să prezicem numărul de retransmisii \(Y\) atunci când cunoaștem numărul \(X\) de liniuțe de semnal.

  1. Calculați \(g(x)=\E[Y\mid X=x]\) pentru \(x=1,2,3\), scrieți repartiția variabilei aleatoare \(\E[Y\mid X]\) și verificați legea mediei iterate.

  2. Calculați \(\Var(Y\mid X=x)\) și verificați legea varianței totale.

  3. Prezicem \(Y\) prin \(g(X)\). Calculați eroarea pătratică medie \(\E\big[(Y-g(X))^2\big]\) și comparați-o cu eroarea celei mai bune predicții constante.

  4. În R: calculați (a)–(c) pornind de la matricea P, apoi estimați mediile și varianțele condiționate dintr-un eșantion simulat, cu tapply. Estimați la fel funcția \(x\mapsto\E[Y\mid X=x]\) pentru punctul uniform în triunghi din Exercițiul 5.

Laborator Schelet de cod pentru (d) — completați locurile marcate cu ___ (P, PY_X, pX, x, y și sim_tabel sunt cele din Exercițiul 1; ultimele trei rânduri folosesc vectorii X2, Y2 ai punctelor uniforme în triunghi, generate în două etape în Exercițiul 5):

g <- sapply(1:3, function(i) ___)                          # E[Y | X = x]
v <- sapply(1:3, function(i) sum(y^2 * PY_X[i, ])) - g^2   # Var(Y | X = x)
rbind(x = x, g = g, v = v)
c(E_Y = ___, E_var = sum(v * pX),                          # media iterată
  var_E = sum(g^2 * pX) - sum(g * pX)^2)
set.seed(612)
d <- sim_tabel(1e5, P, x, y)
rbind(medii = ___, variante = tapply(d$Y, d$X, var))       # pe grupe după X
pred <- g[d$X]                            # predicția g(X) a fiecărui pachet
c(eroare_g = mean((d$Y - pred)^2), eroare_const = ___)     # predicția constantă E[Y]
clasa <- cut(X2, breaks = seq(0, 1, by = 0.2))    # cinci clase pentru X
round(rbind(medie_Y = tapply(Y2, clasa, mean),
            teoretic = ___), 3)           # E[Y | X = x] de la s06-triunghi (b), în media clasei
Răspunsuri
  1. \(g(1)=1.2\), \(g(2)=\frac57\approx0.714\), \(g(3)=0.25\); \(\E[Y\mid X]\) ia valorile \(1.2\), \(\frac57\), \(0.25\) cu probabilitățile \(0.25\), \(0.35\), \(0.40\), iar \(\E\big[\E[Y\mid X]\big]=0.65=\E[Y]\).

  2. \(\Var(Y\mid X=x)=0.56\), \(\frac{24}{49}\approx0.490\), \(0.1875\) pentru \(x=1,2,3\); \(\E\big[\Var(Y\mid X)\big]\approx0.3864\) și \(\Var\big(\E[Y\mid X]\big)\approx0.1411\), cu suma \(0.5275=\Var(Y)\).

  3. \(\E\big[(Y-g(X))^2\big]\approx0.3864\), față de \(\Var(Y)=0.5275\) pentru cea mai bună predicție constantă, \(0.65\): o reducere de aproximativ \(27\%\).

  4. Valorile de la (a)–(c); pe eșantionul simulat, mediile și varianțele pe grupe și cele două erori pătratice medii sunt apropiate de ele. Pentru triunghi, în fiecare clasă media valorilor lui \(Y\) este aproximativ jumătate din media valorilor lui \(X\) (\(\E[Y\mid X=x]=\frac x2\)).

Ultimul exercițiu al părții principale combină tot ce am făcut în această secțiune: o variabilă construită în două etape — întâi câți termeni, apoi termenii —, pentru care condiționarea la numărul de termeni dă imediat media și varianța.

Exercițiul 11 (Volumul total al fișierelor încărcate într-o oră: o sumă aleatoare)

La seminar Pe un server de stocare sosesc într-o oră \(N\sim\Pois(20)\) fișiere. Mărimile lor \(X_1,X_2,\dots\) (în MB) sunt independente între ele și de \(N\) și au repartiția \(\GammaD\big(4,\frac12\big)\), deci media \(\E[X_1]=8\) și varianța \(\Var(X_1)=16\) (Propoziția 23 din Cursul 5). Volumul total încărcat într-o oră este \(S=X_1+X_2+\dots+X_N\) (cu \(S=0\) dacă \(N=0\)).

  1. Calculați \(\E[S\mid N=n]\) și \(\Var(S\mid N=n)\). Ce variabile aleatoare sunt \(\E[S\mid N]\) și \(\Var(S\mid N)\)?

  2. Deduceți \(\E[S]\), \(\Var(S)\) și \(\mathrm{SD}(S)\). Ce parte din varianță se datorează faptului că numărul de fișiere este aleator?

  3. Calculați \(\Cov(N,S)\) și \(\rho(N,S)\).

  4. În R: simulați \(10^5\) ore, verificați (a)–(c) și estimați capacitatea \(c\) pentru care \(\PP(S>c)=0.01\).

Laborator Schelet de cod pentru (d) — completați locurile marcate cu ___ (simularea în două etape: întâi numărul de fișiere din fiecare oră, apoi suma mărimilor lor; rgamma(n, shape, rate)):

set.seed(613)
B <- 1e5
N <- ___                                  # etapa 1: numărul de fișiere din fiecare oră
S <- sapply(N, function(n) ___)           # etapa 2: suma a n mărimi
c(E_S = mean(S), Var_S = var(S), SD_S = sd(S), Cov = cov(N, S),
  cor = cor(N, S))
n <- as.character(c(10, 15, 20, 25, 30))  # câteva valori ale lui N
rbind(medie = ___, varianta = tapply(S, N, var)[n])   # pe grupe după N
c(quantile(S, ___), P_peste_240 = mean(S > 240))     # capacitatea c

6 Exerciții suplimentare

Exercițiile următoare, cu răspunsuri finale, sunt destinate studiului individual: o simulare clasică, formula lui Bayes cu o observație continuă, repartiția normală bidimensională și repartiția unei sume de variabile independente.

Exercițiul 12 (Acul lui Buffon prin simulare)

Pentru acasă În Exemplul 7 din Cursul 6 s-a arătat că un ac de lungime \(l\le d\), aruncat la întâmplare pe o podea cu linii paralele aflate la distanța \(d\) una de alta, intersectează o linie cu probabilitatea \(p=\frac{2l}{\pi d}\).

  1. Pentru \(l=d=1\), calculați \(p\). Dacă din \(n\) aruncări \(K\) intersectează o linie, ce estimare a lui \(\pi\) obținem? Care sunt media și abaterea standard ale frecvenței relative \(K/n\)?

  2. Un ac lung (\(l>d\)) poate intersecta mai multe linii. Arătați, împărțind acul în bucăți scurte, că numărul mediu de linii intersectate este tot \(\frac{2l}{\pi d}\).

  3. În R: simulați aruncarea acului (poziția centrului și unghiul), numărați liniile intersectate și estimați \(\pi\). Repetați estimarea de \(200\) de ori pentru \(n\in\{10^3,10^4,10^5\}\) aruncări: cum scade eroarea?

Răspunsuri
  1. \(p=\frac2\pi\approx0.6366\); \(\pi\approx\frac{2n}{K}\); frecvența relativă \(\frac Kn\) are media \(p\) și abaterea standard \(\sqrt{p(1-p)/n}\) (aproximativ \(0.0048\) pentru \(n=10^4\)).

  2. (demonstrație, cu liniaritatea mediei — bucățile acului nu sunt independente) \(\E[C]=\frac{2l}{\pi d}\); de exemplu, pentru \(l=3d\), \(\frac6\pi\approx1.91\).

  3. Frecvența intersecțiilor este apropiată de \(\frac2\pi\), iar estimarea lui \(\pi\) are doar prima zecimală exactă; pentru acul cu \(l=3\), numărul mediu de linii intersectate este apropiat de \(1.91\), iar frecvența aruncărilor cu cel puțin o intersecție de \(0.89\). Estimările lui \(\pi\) sunt centrate în \(\pi\), iar abaterea lor standard scade de aproximativ \(\sqrt{10}\approx3.2\) ori când \(n\) crește de \(10\) ori.

Exercițiul 13 (De la ce server a venit răspunsul? Formula lui Bayes cu o observație continuă)

Pentru acasă Un sistem de echilibrare a încărcării trimite \(70\%\) dintre cereri către serverul \(A\) și \(30\%\) către serverul \(B\). Timpul de răspuns (în milisecunde) este aproximativ \(\Norm(50,10^2)\) pentru serverul \(A\) și \(\Norm(80,15^2)\) pentru serverul \(B\). Pentru o cerere s-a măsurat timpul de răspuns \(T\), dar nu se știe ce server a tratat-o.

  1. Determinați densitatea, media și varianța lui \(T\).

  2. Calculați \(\PP(B\mid T=70)\).

  3. Clasificăm cererea ca provenind de la \(B\) dacă \(\PP(B\mid T=t)>\frac12\). Pentru ce valori ale lui \(t\) se întâmplă acest lucru și care este probabilitatea de a greși?

  4. În R: reprezentați grafic \(t\mapsto\PP(B\mid T=t)\), găsiți pragul și verificați (a)–(c) prin simulare.

Răspunsuri
  1. \(f_T(t)=0.7\,f_A(t)+0.3\,f_B(t)\) (un amestec de două densități normale); \(\E[T]=59\) ms, \(\Var(T)=137.5+189=326.5\), \(\mathrm{SD}(T)\approx18.1\) ms.

  2. \(\PP(B\mid T=70)\approx0.628\).

  3. \(\PP(B\mid T=t)>\frac12\) pentru \(t>t^*\approx67.8\) ms; probabilitatea de a greși este \(\approx0.089\).

  4. Curba \(t\mapsto\PP(B\mid T=t)\) crește de la aproape \(0\) la aproape \(1\) și trece prin \(\frac12\) în \(t^*\approx67.8\); prin simulare, media și varianța sunt apropiate de \(59\) și \(326.5\), proporția cererilor tratate de \(B\) printre cele cu \(T\) între \(69\) și \(71\) ms de \(0.62\) (teoretic, \(0.628\)), iar frecvența erorilor de clasificare de \(0.09\).

Exercițiul 14 (Repartiția normală bidimensională: simulare și dreapta de regresie)

Pentru acasă Fie \(Z_1,Z_2\sim\Norm(0,1)\) independente, \(\rho\in(-1,1)\) și \[ X=Z_1,\qquad Y=\rho Z_1+\sqrt{1-\rho^2}\,Z_2 . \] Vectorul \((X,Y)\) are repartiția normală bidimensională standard cu coeficientul de corelație \(\rho\) (Definiția 38 din Cursul 6).

  1. Arătați că \(\E[Y]=0\), \(\Var(Y)=1\) și \(\rho(X,Y)=\rho\).

  2. Arătați că \(\E[Y\mid X=x]=\rho x\) și \(\Var(Y\mid X=x)=1-\rho^2\).

  3. Punctajele unor studenți la două teste sunt \(T_1=70+10X\) și \(T_2=70+10Y\), cu \(\rho=0.6\). Ce punctaj ne așteptăm să obțină la al doilea test un student care a obținut \(90\) la primul? Cu ce probabilitate obține el peste \(90\) și la al doilea test?

  4. În R: simulați \(10^5\) perechi de punctaje, verificați corelația, estimați mediile condiționate cu tapply și reprezentați norul de puncte împreună cu dreapta \(t\mapsto\E[T_2\mid T_1=t]\).

Răspunsuri
  1. (demonstrație) \(\E[Y]=0\), \(\Var(Y)=1\), \(\Cov(X,Y)=\rho\), deci \(\rho(X,Y)=\rho\).

  2. (demonstrație) \(Y\mid X=x\sim\Norm\big(\rho x,\,1-\rho^2\big)\): \(\E[Y\mid X=x]=\rho x\) și \(\Var(Y\mid X=x)=1-\rho^2\).

  3. \(\E[T_2\mid T_1=90]=82\); \(T_2\mid T_1=90\sim\Norm(82,8^2)\), deci \(\PP(T_2>90\mid T_1=90)=1-\Phi(1)\approx0.159\) (regresia către medie).

  4. Corelația empirică este apropiată de \(0.6\), iar \(T_2\) are media \(\approx70\) și abaterea standard \(\approx10\); pentru studenții cu \(T_1\) în jur de \(90\): media \(\approx82\), abaterea standard \(\approx8\), frecvența \(\approx0.159\); mediile pe clase urmează dreapta \(70+0.6\,(t-70)\), mai puțin înclinată decât prima bisectoare.

Exercițiul 15 (Suma a două variabile independente: convoluția)

Pentru acasă Repartiția sumei a două variabile aleatoare independente se obține din repartițiile termenilor prin formula de convoluție (Propoziția 42 din Cursul 6).

  1. Se aruncă un zar cu \(4\) fețe și un zar obișnuit, cu \(6\) fețe, ambele echilibrate. Determinați repartiția sumei \(Z\) a celor două numere.

  2. Fie \(X,Y\sim\Unif(0,1)\) independente. Determinați densitatea sumei \(Z=X+Y\) și calculați \(\PP(Z\le1.5)\).

  3. În R: scrieți o funcție care calculează repartiția sumei a două variabile discrete independente, cu outer și tapply. Verificați (a) și faptul că suma a două variabile Poisson independente, de parametri \(2\) și \(3\), are repartiția \(\Pois(5)\) (Exemplul 21 din Cursul 6); verificați (b) prin simulare și prin integrare numerică.

Răspunsuri
  1. \(Z\) ia valorile \(2,3,\dots,10\) cu probabilitățile \(\frac1{24},\frac2{24},\frac3{24},\frac4{24},\frac4{24},\frac4{24},\frac3{24},\frac2{24},\frac1{24}\).

  2. \(f_Z(z)=z\) pentru \(0\le z\le1\), \(f_Z(z)=2-z\) pentru \(1<z\le2\) și \(0\) în rest (densitatea triunghiulară); \(\PP(Z\le1.5)=\frac78\).

  3. Funcția de convoluție reproduce numărătorii \(1,2,3,4,4,4,3,2,1\), iar convoluția repartițiilor \(\Pois(2)\) și \(\Pois(3)\) coincide cu \(\Pois(5)\) până la erori de rotunjire; frecvența simulată a evenimentului \(\{Z\le1.5\}\) este apropiată de \(0.875\), iar integrala numerică dă \(f_Z(0.5)=0.5\), \(f_Z(1)=1\), \(f_Z(1.5)=0.5\).

7 Temă

  1. Vectorul \((X,Y)\) are repartiția comună \(\PP(X=0,Y=0)=0.2\), \(\PP(X=0,Y=1)=0.1\), \(\PP(X=0,Y=2)=0.1\), \(\PP(X=1,Y=0)=0.1\), \(\PP(X=1,Y=1)=0.2\), \(\PP(X=1,Y=2)=0.3\). Determinați marginalele, repartiția \(Y\mid X=1\), \(\E[Y\mid X=0]\), \(\E[Y\mid X=1]\) și \(\rho(X,Y)\). Sunt variabilele independente? Verificați în R cu cov_tabel și abatere_indep.

    Răspuns: \(X\sim\Bern(0.6)\); \(Y\) ia valorile \(0,1,2\) cu probabilitățile \(0.3,0.3,0.4\); \(Y\mid X=1\sim\big(\frac16,\frac13,\frac12\big)\); \(\E[Y\mid X=0]=0.75\), \(\E[Y\mid X=1]=\frac43\); \(\Cov(X,Y)=0.14\), \(\rho\approx0.344\); nu sunt independente.

  2. O monedă echilibrată se aruncă de trei ori. Fie \(X\) numărul de capete din primele două aruncări și \(Y\) numărul de capete din toate cele trei. Construiți în R tabelul repartiției comune (prin enumerarea celor \(8\) rezultate, cu funcția tabel), determinați \(\E[Y\mid X=x]\) și calculați \(\Cov(X,Y)\) și \(\rho(X,Y)\).

    Răspuns: \(\E[Y\mid X=x]=x+\frac12\); \(\Cov(X,Y)=\Var(X)=\frac12\); \(\Var(Y)=\frac34\), deci \(\rho=\sqrt{2/3}\approx0.816\).

  3. Pentru densitatea \(24xy\) pe triunghiul \(\{x\ge0,\ y\ge0,\ x+y\le1\}\) din Exercițiul 4 (c), calculați \(\E[XY]\), \(\Cov(X,Y)\) și \(\rho(X,Y)\), apoi \(f_{Y\mid X}(y\mid x)\) și \(\E[Y\mid X=x]\). Verificați primele trei valori în R cu funcția int2.

    Răspuns: \(\E[XY]=\frac2{15}\), \(\Cov(X,Y)=\frac2{15}-\frac4{25}=-\frac2{75}\), \(\Var(X)=\Var(Y)=\frac1{25}\), \(\rho=-\frac23\); \(f_{Y\mid X}(y\mid x)=\frac{2y}{(1-x)^2}\) pe \([0,1-x]\) și \(\E[Y\mid X=x]=\frac23(1-x)\).

  4. Punctul \((X,Y)\) este uniform în pătratul \([0,1]^2\). Calculați \(\PP(X^2+Y^2\le1)\) și folosiți rezultatul pentru a estima \(\pi\) în R, cu \(10^6\) puncte simulate. Comparați precizia cu cea din Exercițiul 12.

    Răspuns: \(\frac\pi4\) (aria unui sfert de disc); 4 * mean(runif(1e6)^2 + runif(1e6)^2 <= 1). Abaterea standard a estimării este \(4\sqrt{\frac\pi4\big(1-\frac\pi4\big)/n}\approx\frac{1.64}{\sqrt n}\), mai mică decât la acul lui Buffon (\(\approx\frac{2.37}{\sqrt n}\)).

  5. O cerere este trimisă către trei servere cu timpi de răspuns independenți, \(\Exp(1)\), \(\Exp(2)\) și \(\Exp(3)\). Determinați repartiția timpului până la primul răspuns și probabilitatea ca primul să răspundă serverul cel mai lent. Verificați prin simulare.

    Indicație: ca în Exercițiul 6. Răspuns: \(\Exp(6)\), cu media \(\frac16\); probabilitatea este \(\frac{1}{1+2+3}=\frac16\) (în R: mean(X1 < pmin(X2, X3))).

  6. Variabilele \(X\) și \(Y\) au \(\Var(X)=4\), \(\Var(Y)=1\) și \(\rho(X,Y)=0.25\). Calculați \(\Var(2X-3Y+1)\), \(\Cov(X+Y,\,X-Y)\) și \(\rho(X+Y,\,X-Y)\).

    Răspuns: \(\Cov(X,Y)=0.5\); \(\Var(2X-3Y+1)=16+9-6=19\); \(\Cov(X+Y,X-Y)=\Var(X)-\Var(Y)=3\); \(\Var(X+Y)=6\), \(\Var(X-Y)=4\), deci \(\rho=\frac{3}{\sqrt{24}}\approx0.612\).

  7. Un zar echilibrat se aruncă de \(n\) ori. Fie \(N_p\) numărul de aruncări la care apare un număr par și \(N_6\) numărul de apariții ale feței \(6\). Calculați \(\Cov(N_p,N_6)\) și \(\rho(N_p,N_6)\) și comparați cu Exercițiul 9.

    Indicație: indicatori; la aceeași aruncare, \(\Cov=\frac16-\frac12\cdot\frac16=\frac1{12}\). Răspuns: \(\Cov(N_p,N_6)=\frac n{12}\), \(\rho=\frac{1}{\sqrt5}\approx0.447\) — corelație pozitivă, pentru că fața \(6\) este pară.

  8. Aruncăm un zar echilibrat și apoi aruncăm o monedă echilibrată de atâtea ori câte puncte a arătat zarul (modelul din Exercițiul 13 din Seminarul 2). Fie \(N\) numărul arătat de zar și \(Y\) numărul de capete. Calculați \(\E[Y]\) și \(\Var(Y)\) cu legea mediei iterate și legea varianței totale și verificați prin simulare.

    Răspuns: \(\E[Y\mid N]=\frac N2\), \(\Var(Y\mid N)=\frac N4\); \(\E[Y]=\frac74\), \(\Var(Y)=\frac{3.5}{4}+\frac14\cdot\frac{35}{12}=\frac{77}{48}\approx1.604\). În R: N <- sample(6, 1e5, replace = TRUE); Y <- rbinom(1e5, N, 0.5).

Bibliografie

Bertsekas, Dimitri P., and John N. Tsitsiklis. 2008. Introduction to Probability. 2nd ed. Athena Scientific.
Blitzstein, Joseph K., and Jessica Hwang. 2019. Introduction to Probability. 2nd ed. CRC Press.
Chan, Stanley H. 2021. Introduction to Probability for Data Science. Michigan Publishing.
Ross, Sheldon M. 2014. Introduction to Probability and Statistics for Engineers and Scientists. 5th ed. Elsevier Academic Press.
Wagaman, Amy S., and Robert P. Dobrow. 2021. Probability with Applications and R. 2nd ed. Wiley.