Normal-gamma taqsimoti - Normal-gamma distribution

normal-gamma

Parametrlar	${displaystyle mu,}$ Manzil (haqiqiy ) ${displaystyle lambda> 0,}$ (haqiqiy) ${displaystyle alfa> 0,}$ (haqiqiy) ${displaystyle eta> 0,}$ (haqiqiy)
Qo'llab-quvvatlash	${displaystyle xin (-finty, asossiz),!,; au in (0, infty)}$
PDF	${displaystyle f (x, au mid mu, lambda, alfa, eta) = {frac {eta ^ {alpha} {sqrt {lambda}}} {Gamma (alfa) {sqrt {2pi}}}}, au ^ {alfa - {frac {1} {2}}}, e ^ {- eta au}, e ^ {- {frac {lambda au (x-mu) ^ {2}} {2}}}}$
Anglatadi	[1] ${displaystyle operator nomi {E} (X) = mu,!, to'rtinchi operator nomi {E} (mathrm {T}) = alfa eta ^ {- 1}}$
Rejim	${displaystyle chapda (mu, {frac {alpha - {frac {1} {2}}} {eta}} ight)}$
Varians	[1] ${displaystyle operatorname {var} (X) = {Big (} {frac {eta} {lambda (alfa -1)}} {Big)}, to'rtinchi operator nomi {var} (mathrm {T}) = alfa eta ^ {- 2}}$

Yilda ehtimollik nazariyasi va statistika, normal-gamma taqsimoti (yoki Gauss-gamma tarqalishi) ikki parametrli to'rt parametrli doimiy oiladir ehtimollik taqsimoti. Bu oldingi konjugat a normal taqsimot noma'lum bilan anglatadi va aniqlik.^[2]

Ta'rif

Bir juft uchun tasodifiy o'zgaruvchilar, (X,T) deb taxmin qiling shartli taqsimlash ning X berilgan T tomonidan berilgan

${displaystyle Xmid Tsim N (mu, 1 / (lambda T)),!,}$

shartli taqsimotning a ekanligini anglatadi normal taqsimot bilan anglatadi ${displaystyle mu}$ va aniqlik ${displaystyle lambda T}$ - teng ravishda, bilan dispersiya ${displaystyle 1 / (lambda T).}$

Ning chegara taqsimoti ham deylik T tomonidan berilgan

${displaystyle Tmid alfa, eta sim operatorname {Gamma} (alfa, eta),}$

qaerda bu degani T bor gamma taqsimoti. Bu yerda λ, a va β qo'shma taqsimot parametrlari.

Keyin (X,T) normal-gamma taqsimotiga ega va bu bilan belgilanadi

${displaystyle (X, T) sim operator nomi {NormalGamma} (mu, lambda, alfa va boshqalar).}$

Xususiyatlari

Ehtimollar zichligi funktsiyasi

Qo'shish ehtimollik zichligi funktsiyasi ning (X,T)^{[iqtibos kerak ]}

${displaystyle f (x, au mid mu, lambda, alfa, eta) = {frac {eta ^ {alpha} {sqrt {lambda}}} {Gamma (alfa) {sqrt {2pi}}}}, au ^ {alfa - {frac {1} {2}}}, e ^ {- eta au} exp left (- {frac {lambda au (x-mu) ^ {2}} {2}} ight)}$

Marginal taqsimotlar

Qurilish bo'yicha marginal taqsimot ning ${displaystyle au}$ a gamma taqsimoti, va shartli taqsimlash ning ${displaystyle x}$ berilgan ${displaystyle au}$ a Gauss taqsimoti. The marginal taqsimot ning ${displaystyle x}$ uchta parametr standartlashtirilmagan Talabalarning t-taqsimoti parametrlari bilan ${displaystyle (u, mu, sigma ^ {2}) = (2alpha, mu, eta / (lambda alfa))}$.^{[iqtibos kerak ]}

Eksponent oilasi

Normal-gamma taqsimoti to'rtta parametrdir eksponent oilasi bilan tabiiy parametrlar ${displaystyle alfa -1 / 2, - eta -lambda mu ^ {2} / 2, lambda mu, -lambda / 2}$ va tabiiy statistika ${displaystyle ln au, au, au x, au x ^ {2}}$.^{[iqtibos kerak ]}

Tabiiy statistika lahzalari

Yordamida quyidagi daqiqalarni osongina hisoblash mumkin etarli statistikaning moment hosil qiluvchi funktsiyasi:^{[iqtibos kerak ]}

${displaystyle operator nomi {E} (ln T) = psi chap (alfa ight) -ln eta,}$

qayerda ${displaystyle psi chapda (alfa ight)}$ bo'ladi digamma funktsiyasi,

${displaystyle {egin {aligned} operator nomi {E} (T) & = {frac {alpha} {eta}}, [5pt] operatorname {E} (TX) & = mu {frac {alpha} {eta}}, [5pt] operator nomi {E} (TX ^ {2}) & = {frac {1} {lambda}} + mu ^ {2} {frac {alfa} {eta}}. End {aligned}}}$

O'lchov

Agar ${displaystyle (X, T) sim mathrm {NormalGamma} (mu, lambda, alfa va boshqalar),}$ keyin har qanday uchun b > 0, (bX,bT) sifatida taqsimlanadi^{[iqtibos kerak ]} ${displaystyle {m {NormalGamma}} (bmu, lambda, alfa, b ^ {2} eta).}$^{[shubhali – muhokama qilish]}

Parametrlarning orqa taqsimlanishi

Buni taxmin qiling x o'rtacha noma'lum bo'lgan normal taqsimot bo'yicha taqsimlanadi ${displaystyle mu}$ va aniqlik ${displaystyle au}$.

${displaystyle xsim {mathcal {N}} (mu, au ^ {- 1})}$

va oldindan tarqatish ${displaystyle mu}$ va ${displaystyle au}$, ${displaystyle (mu, au)}$, normal-gamma taqsimotiga ega

${displaystyle (mu, au) sim {ext {NormalGamma}} (mu _ {0}, lambda _ {0}, alfa _ {0}, eta _ {0}),}$

buning uchun zichlik π qondiradi

${displaystyle pi (mu, au) propto au ^ {alfa _ {0} - {frac {1} {2}}}, exp [- eta _ {0} au], exp chap [- {frac {lambda _ { 0} au (mu -mu _ {0}) ^ {2}} {2}} tun].}$

Aytaylik

${displaystyle x_ {1}, ldots, x_ {n} mid mu, au sim operator nomi {{i.} {i.} {d.}} operator nomi {N} chap (mu, au ^ {- 1} ight), }$

ya'ni. ning tarkibiy qismlari ${displaystyle mathbf {X} = (x_ {1}, ldots, x_ {n})}$ shartli ravishda mustaqil berilgan ${displaystyle mu, au}$ va ularning har birining shartli taqsimlanishi ${displaystyle mu, au}$ kutilgan qiymat bilan normaldir ${displaystyle mu}$ va dispersiya ${displaystyle 1 / au.}$ Ning orqa tarqalishi ${displaystyle mu}$ va ${displaystyle au}$ ushbu ma'lumotlar to'plami berilgan ${displaystyle mathbb {X}}$ tomonidan analitik ravishda aniqlanishi mumkin Bayes teoremasi.^[3] Aniq,

${displaystyle mathbf {P} (au, mu mid mathbf {X}) propto mathbf {L} (mathbf {X} mid au, mu) pi (au, mu),}$

qayerda ${displaystyle mathbf {L}}$ parametrlarga berilgan ma'lumotlarning ehtimolligi.

Ma'lumotlar i.i.d bo'lganligi sababli, barcha ma'lumotlar to'plamining ehtimoli alohida ma'lumotlar namunalari ehtimoli mahsulotiga teng:

${displaystyle mathbf {L} (mathbf {X} mid au, mu) = prod _ {i = 1} ^ {n} mathbf {L} (x_ {i} mid au, mu).}$

Ushbu iborani quyidagicha soddalashtirish mumkin:

${displaystyle {egin {aligned} mathbf {L} (mathbf {X} mid au, mu) & propto prod _ {i = 1} ^ {n} au ^ {1/2} exp left [{frac {- au} { 2}} (x_ {i} -mu) ^ {2} ight] [5pt] & propto au ^ {n / 2} exp left [{frac {- au} {2}} sum _ {i = 1} ^ {n} (x_ {i} -mu) ^ {2} ight] [5pt] & propto au ^ {n / 2} exp left [{frac {- au} {2}} sum _ {i = 1} ^ {n} (x_ {i} - {ar {x}} + {ar {x}} - mu) ^ {2} ight] [5pt] & propto au ^ {n / 2} exp chap [{frac {- au} {2}} sum _ {i = 1} ^ {n} chap ((x_ {i} - {ar {x}}) ^ {2} + ({ar {x}} - mu) ^ {2 } ight) ight] [5pt] & propto au ^ {n / 2} exp left [{frac {- au} {2}} left (ns + n ({ar {x}} - mu) ^ {2} ight ) kechasi], oxiri {hizalangan}}}$

qayerda ${displaystyle {ar {x}} = {frac {1} {n}} sum _ {i = 1} ^ {n} x_ {i}}$, ma'lumotlar namunalarining o'rtacha qiymati va ${displaystyle s = {frac {1} {n}} sum _ {i = 1} ^ {n} (x_ {i} - {ar {x}}) ^ {2}}$, namunaviy dispersiya.

Parametrlarning orqa taqsimlanishi oldingi vaqtlar ehtimoli bilan mutanosibdir.

${displaystyle {egin {aligned} mathbf {P} (au, mu mid mathbf {X}) & propto mathbf {L} (mathbf {X} mid au, mu) pi (au, mu) & propto au ^ {n / 2 } exp left [{frac {- au} {2}} left (ns + n ({ar {x}} - mu) ^ {2} ight) ight] au ^ {alfa _ {0} - {frac {1 } {2}}}, exp [{- eta _ {0} au}], exp chap [- {frac {lambda _ {0} au (mu -mu _ {0}) ^ {2}} {2} } ight] & propto au ^ {{frac {n} {2}} + alfa _ {0} - {frac {1} {2}}} exp left [- au left ({frac {1} {2}}) ns + eta _ {0} ight) ight] exp left [- {frac {au} {2}} left (lambda _ {0} (mu -mu _ {0}) ^ {2} + n ({ar {x) }} - mu) ^ {2} ight) ight] oxiri {hizalanmış}}}$

Kvadratni to'ldirish bilan yakuniy eksponent termin soddalashtiriladi.

${displaystyle {egin {aligned} lambda _ {0} (mu -mu _ {0}) ^ {2} + n ({ar {x}} - mu) ^ {2} & = lambda _ {0} mu ^ {2} -2lambda _ {0} mu mu _ {0} + lambda _ {0} mu _ {0} ^ {2} + nmu ^ {2} -2n {ar {x}} mu + n {ar { x}} ^ {2} & = (lambda _ {0} + n) mu ^ {2} -2 (lambda _ {0} mu _ {0} + n {ar {x}}) mu + lambda _ {0} mu _ {0} ^ {2} + n {ar {x}} ^ {2} & = (lambda _ {0} + n) (mu ^ {2} -2 {frac {lambda _ {) 0} mu _ {0} + n {ar {x}}} {lambda _ {0} + n}} mu) + lambda _ {0} mu _ {0} ^ {2} + n {ar {x} } ^ {2} & = (lambda _ {0} + n) qoldi (mu - {frac {lambda _ {0} mu _ {0} + n {ar {x}}} {lambda _ {0} + n}} ight) ^ {2} + lambda _ {0} mu _ {0} ^ {2} + n {ar {x}} ^ {2} - {frac {chap (lambda _ {0} mu _ {) 0} + n {ar {x}} ight) ^ {2}} {lambda _ {0} + n}} & = (lambda _ {0} + n) chap (mu - {frac {lambda _ {0) } mu _ {0} + n {ar {x}}} {lambda _ {0} + n}} ight) ^ {2} + {frac {lambda _ {0} n ({ar {x}} - mu _ {0}) ^ {2}} {lambda _ {0} + n}} oxiri {hizalanmış}}}$

Buni yuqoridagi iboraga qaytarishda,

${displaystyle {egin {aligned} mathbf {P} (au, mu mid mathbf {X}) & propto au ^ {{frac {n} {2}} + alfa _ {0} - {frac {1} {2}} } chapga chap - [chap tomonga ({frac {1} {2}} ns + eta _ {0} ight) ight] chapga chapga [- {frac {au} {2}} chapga (chapga (lambda _ {0} +) night) left (mu - {frac {lambda _ {0} mu _ {0} + n {ar {x}}} {lambda _ {0} + n}} ight) ^ {2} + {frac {lambda _ {0} n ({ar {x}} - mu _ {0}) ^ {2}} {lambda _ {0} + n}} ight) ight] & propto au ^ {{frac {n} {2} } + alfa _ {0} - {frac {1} {2}}} exp left [- au left ({frac {1} {2}} ns + eta _ {0} + {frac {lambda _ {0} n " ({ar {x}} - mu _ {0}) ^ {2}} {2 (lambda _ {0} + n)}} ight) ight] exp left [- {frac {au} {2}} left (lambda _ {0} + kecha) chap (mu - {frac {lambda _ {0} mu _ {0} + n {ar {x}}} {lambda _ {0} + n}} tun) ^ {2 } sakkiz] oxiri {hizalangan}}}$

Ushbu yakuniy ifoda Normal-Gamma taqsimoti bilan bir xil shaklda, ya'ni.

${displaystyle mathbf {P} (au, mu mid mathbf {X}) = {ext {NormalGamma}} chap ({frac {lambda _ {0} mu _ {0} + n {ar {x}}} {lambda _ {0} + n}}, lambda _ {0} + n, alfa _ {0} + {frac {n} {2}}, eta _ {0} + {frac {1} {2}} chap (ns +) {frac {lambda _ {0} n ({ar {x}} - mu _ {0}) ^ {2}} {lambda _ {0} + n}} ight) ight)}$

Parametrlarni talqin qilish

Parametrlarni psevdo-kuzatuvlar nuqtai nazaridan izohlash quyidagicha:

• Yangi o'rtacha eskirgan psevdo-o'rtacha va kuzatilgan o'rtacha o'rtacha bog'liqlikni (psevdo-) kuzatuvlar soniga qarab olingan.
• Aniqlik taxmin qilingan ${displaystyle 2alpha}$ psevdo-kuzatuvlar (ya'ni o'rtacha va aniqlik farqini alohida nazorat qilishga imkon beradigan turli xil psevdo-kuzatuvlar) o'rtacha namuna bilan ${displaystyle mu}$ va namunaviy farq ${displaystyle {frac {eta} {alfa}}}$ (ya'ni yig'indisi bilan kvadratik og'ishlar ${displaystyle 2 va boshqalar}$).
• Orqa psevdo-kuzatuvlar sonini yangilaydi (${displaystyle lambda _ {0}}$) shunchaki mos keladigan yangi kuzatuvlar sonini qo'shish orqali (${displaystyle n}$).
• Kvadratik og'ishning yangi yig'indisi avvalgi tegishli kvadratik og'ishlarning yig'indisini qo'shish bilan hisoblanadi. Shu bilan birga, uchinchi "o'zaro ta'sir atamasi" kerak, chunki kvadratik og'ishlarning ikkita to'plami turli xil vositalar bo'yicha hisoblab chiqilgan va shuning uchun ikkitasining yig'indisi haqiqiy umumiy kvadratik og'ishni kamaydi.

Natijada, agar kimdir oldindan o'rtacha qiymatga ega bo'lsa ${displaystyle mu _ {0}}$ dan ${displaystyle n_ {mu}}$ namunalari va oldindan aniqligi ${displaystyle au _ {0}}$ dan ${displaystyle n_ {au}}$ namunalar, oldindan tarqatish ${displaystyle mu}$ va ${displaystyle au}$ bu

${displaystyle mathbf {P} (au, mu mid mathbf {X}) = operator nomi {NormalGamma} chap (mu _ {0}, n_ {mu}, {frac {n_ {au}} {2}}, {frac { n_ {au}} {2 au _ {0}}} kech)}$

va kuzatgandan keyin ${displaystyle n}$ o'rtacha namunalar ${displaystyle mu}$ va dispersiya ${displaystyle s}$, orqa ehtimollik

${displaystyle mathbf {P} (au, mu mid mathbf {X}) = {ext {NormalGamma}} chap ({frac {n_ {mu} mu _ {0} + nmu} {n_ {mu} + n}}, n_ {mu} + n, {frac {1} {2}} (n_ {au} + n), {frac {1} {2}} chap ({frac {n_ {au}} {au _ {0} }} + ns + {frac {n_ {mu} n (mu -mu _ {0}) ^ {2}} {n_ {mu} + n}} ight) ight)}$

Kabi ba'zi dasturlash tillarida ekanligini unutmang Matlab, gamma taqsimoti teskari ta'rifi bilan amalga oshiriladi ${displaystyle eta}$, shuning uchun Normal-Gamma taqsimotining to'rtinchi argumenti ${displaystyle 2 au _ {0} / n_ {au}}$.

Normal-gamma tasodifiy o'zgarishlarni yaratish

Tasodifiy o'zgarishni yaratish to'g'ridan-to'g'ri:

1. Namuna ${displaystyle au}$ parametrlari bo'lgan gamma taqsimotidan ${displaystyle alfa}$ va ${displaystyle eta}$
2. Namuna ${displaystyle x}$ o'rtacha taqsimotdan ${displaystyle mu}$ va dispersiya ${displaystyle 1 / (lambda au)}$

Tegishli tarqatishlar

• The normal-teskari-gamma taqsimoti aslida aniqlik emas, balki dispersiya bilan parametrlangan bir xil taqsimot
• The normal-eksponent-gamma taqsimoti

Izohlar

Adabiyotlar

• Bernardo, JM.; Smit, A.F.M. (1993) Bayes nazariyasi, Vili. ISBN  0-471-49464-X
• Dearden va boshq. "Bayesian Q-learning", Sun'iy intellekt bo'yicha o'n beshinchi milliy konferentsiya materiallari (AAAI-98), 26-30 iyul 1998, Madison, Viskonsin, AQSh.