Matritsaning normal taqsimlanishi - Matrix normal distribution

Matritsa normal

Notation	${ displaystyle { mathcal {MN}} _ {n, p} ( mathbf {M}, mathbf {U}, mathbf {V})}$
Parametrlar	${ displaystyle mathbf {M}}$ Manzil (haqiqiy ${ displaystyle n times p}$ matritsa ) ${ displaystyle mathbf {U}}$ o'lchov (ijobiy-aniq haqiqiy ${ displaystyle n times n}$ matritsa ) ${ displaystyle mathbf {V}}$ o'lchov (ijobiy-aniq haqiqiy ${ displaystyle p times p}$ matritsa )
Qo'llab-quvvatlash	${ displaystyle mathbf {X} in mathbb {R} ^ {n marta p}}$
PDF	${ displaystyle { frac { exp left (- { frac {1} {2}} , mathrm {tr} left [ mathbf {V} ^ {- 1} ( mathbf {X} - mathbf {M}) ^ {T} mathbf {U} ^ {- 1} ( mathbf {X} - mathbf {M}) right] right)} {(2 pi) ^ {np / 2} | mathbf {V} | ^ {n / 2} | mathbf {U} | ^ {p / 2}}}}$
Anglatadi	${ displaystyle mathbf {M}}$
Varians	${ displaystyle mathbf {U}}$ (qatorlar orasida) va ${ displaystyle mathbf {V}}$ (ustunlar orasida)

Yilda statistika, matritsaning normal taqsimlanishi yoki matritsa Gauss taqsimoti a ehtimollik taqsimoti ning umumiyligi ko'p o'zgaruvchan normal taqsimot matritsali tasodifiy o'zgaruvchilarga.

Ta'rif

The ehtimollik zichligi funktsiyasi tasodifiy matritsa uchun X (n × p) matritsaning normal taqsimlanishiga amal qiladi ${ displaystyle { mathcal {MN}} _ {n, p} ( mathbf {M}, mathbf {U}, mathbf {V})}$ quyidagi shaklga ega:

${ displaystyle p ( mathbf {X} mid mathbf {M}, mathbf {U}, mathbf {V}) = { frac { exp left (- { frac {1} {2} } , mathrm {tr} left [ mathbf {V} ^ {- 1} ( mathbf {X} - mathbf {M}) ^ {T} mathbf {U} ^ {- 1} ( mathbf {X} - mathbf {M}) right] right)} {(2 pi) ^ {np / 2} | mathbf {V} | ^ {n / 2} | mathbf {U} | ^ {p / 2}}}}$

qayerda ${ displaystyle mathrm {tr}}$ bildiradi iz va M bu n × p, U bu n × n va V bu p × p.

Normal matritsa bilan bog'liq ko'p o'zgaruvchan normal taqsimot quyidagi tarzda:

${ displaystyle mathbf {X} sim { mathcal {MN}} _ {n times p} ( mathbf {M}, mathbf {U}, mathbf {V}),}$

agar va faqat agar

${ displaystyle mathrm {vec} ( mathbf {X}) sim { mathcal {N}} _ {np} ( mathrm {vec} ( mathbf {M}), mathbf {V} otimes mathbf {U})}$

qayerda ${ displaystyle otimes}$ belgisini bildiradi Kronecker mahsuloti va ${ displaystyle mathrm {vec} ( mathbf {M})}$ belgisini bildiradi vektorlashtirish ning ${ displaystyle mathbf {M}}$.

Isbot

Yuqoridagilar o'rtasidagi tenglik matritsa normal va ko'p o'zgaruvchan normal zichlik funktsiyalarini ning bir nechta xossalari yordamida ko'rsatish mumkin iz va Kronecker mahsuloti, quyidagicha. Biz matritsaning normal PDF ko'rsatkichi argumentidan boshlaymiz:

${ displaystyle { begin {aligned} & ; ; ; ; - { frac {1} {2}} { text {tr}} left [ mathbf {V} ^ {- 1} ( mathbf {X} - mathbf {M}) ^ {T} mathbf {U} ^ {- 1} ( mathbf {X} - mathbf {M}) right] & = - { frac {1} {2}} { text {vec}} left ( mathbf {X} - mathbf {M} right) ^ {T} { text {vec}} left ( mathbf {U} ^ {- 1} ( mathbf {X} - mathbf {M}) mathbf {V} ^ {- 1} o'ng) & = - { frac {1} {2}} { text { vec}} chap ( mathbf {X} - mathbf {M} o'ng) ^ {T} chap ( mathbf {V} ^ {- 1} otimes mathbf {U} ^ {- 1} o'ng) { text {vec}} chap ( mathbf {X} - mathbf {M} o'ng) & = - { frac {1} {2}} chap [{ text {vec} } ( mathbf {X}) - { text {vec}} ( mathbf {M}) right] ^ {T} left ( mathbf {V} otimes mathbf {U} right) ^ { -1} chap [{ text {vec}} ( mathbf {X}) - { text {vec}} ( mathbf {M}) right] end {hizalangan}}}$

bu ko'p o'zgaruvchan normal PDF eksponentining argumenti. Dalil determinant xususiyati yordamida to'ldiriladi: ${ displaystyle | mathbf {V} otimes mathbf {U} | = | mathbf {V} | ^ {n} | mathbf {U} | ^ {p}.}$

Xususiyatlari

Agar ${ displaystyle mathbf {X} sim { mathcal {MN}} _ {n times p} ( mathbf {M}, mathbf {U}, mathbf {V})}$, keyin biz quyidagi xususiyatlarga egamiz:^[1][2]

Kutilayotgan qiymatlar

O'rtacha, yoki kutilayotgan qiymat bu:

${ displaystyle E [ mathbf {X}] = mathbf {M}}$

va bizda ikkinchi darajali kutishlar mavjud:

${ displaystyle E [( mathbf {X} - mathbf {M}) ( mathbf {X} - mathbf {M}) ^ {T}] = mathbf {U} operatorname {tr} ( mathbf {V})}$

${ displaystyle E [( mathbf {X} - mathbf {M}) ^ {T} ( mathbf {X} - mathbf {M})] = = mathbf {V} operatorname {tr} ( mathbf {U})}$

qayerda ${ displaystyle operatorname {tr}}$ bildiradi iz.

Umuman olganda, mos o'lchovli matritsalar uchun A,B,C:

${ displaystyle { begin {aligned} E [ mathbf {X} mathbf {A} mathbf {X} ^ {T}] & = mathbf {U} operatorname {tr} ( mathbf {A} ^ {T} mathbf {V}) + mathbf {MAM} ^ {T} E [ mathbf {X} ^ {T} mathbf {B} mathbf {X}] & = mathbf {V} operatorname {tr} ( mathbf {U} mathbf {B} ^ {T}) + mathbf {M} ^ {T} mathbf {BM} E [ mathbf {X} mathbf {C} mathbf {X}] & = mathbf {V} mathbf {C} ^ {T} mathbf {U} + mathbf {MCM} end {aligned}}}$

Transformatsiya

Transpoze o'zgartirish:

${ displaystyle mathbf {X} ^ {T} sim { mathcal {MN}} _ {p times n} ( mathbf {M} ^ {T}, mathbf {V}, mathbf {U} )}$

Lineer konvertatsiya: ruxsat bering D. (r-by-n), to'liq bo'ling daraja r ≤ n va C (p-by-s), to'liq darajadagi bo'lish s p, keyin:

${ displaystyle mathbf {DXC} sim { mathcal {MN}} _ {r times s} ( mathbf {DMC}, mathbf {DUD} ^ {T}, mathbf {C} ^ {T} mathbf {VC})}$

Misol

Ning namunasini tasavvur qilaylik n mustaqil pa ga ko'ra bir xil taqsimlangan o'lchovli tasodifiy o'zgaruvchilar ko'p o'zgaruvchan normal taqsimot:

${ displaystyle mathbf {Y} _ {i} sim { mathcal {N}} _ {p} ({ boldsymbol { mu}}, { boldsymbol { Sigma}}) { text {with} } i in {1, ldots, n }}$.

Belgilashda n × p matritsa ${ displaystyle mathbf {X}}$ buning uchun menuchinchi qator ${ displaystyle mathbf {Y} _ {i}}$, biz quyidagilarni olamiz:

${ displaystyle mathbf {X} sim { mathcal {MN}} _ {n times p} ( mathbf {M}, mathbf {U}, mathbf {V})}$

har bir qator ${ displaystyle mathbf {M}}$ ga teng ${ displaystyle { boldsymbol { mu}}}$, anavi ${ displaystyle mathbf {M} = mathbf {1} _ {n} times { boldsymbol { mu}} ^ {T}}$, ${ displaystyle mathbf {U}}$ bo'ladi n × n identifikatsiya matritsasi, ya'ni qatorlar mustaqil va ${ displaystyle mathbf {V} = { boldsymbol { Sigma}}}$.

Parametrlarni maksimal taxmin qilish

Berilgan k har bir o'lchamdagi matritsalar n × p, belgilangan ${ displaystyle mathbf {X} _ {1}, mathbf {X} _ {2}, ldots, mathbf {X} _ {k}}$, biz taxmin qildik, ular namuna olingan i.i.d. normal taqsimot matritsasidan maksimal ehtimollik smetasi parametrlarini maksimal darajaga ko'tarish orqali olish mumkin:

${ displaystyle prod _ {i = 1} ^ {k} { mathcal {MN}} _ {n times p} ( mathbf {X} _ {i} mid mathbf {M}, mathbf { U}, mathbf {V}).}$

O'rtacha echim yopiq shaklga ega, ya'ni

${ displaystyle mathbf {M} = { frac {1} {k}} sum _ {i = 1} ^ {k} mathbf {X} _ {i}}$

ammo kovaryans parametrlari yo'q. Shu bilan birga, ushbu parametrlar o'z gradiyentlarini nolga tenglashtirgan holda takroriy ravishda maksimal darajaga ko'tarilishi mumkin:

${ displaystyle mathbf {U} = { frac {1} {kp}} sum _ {i = 1} ^ {k} ( mathbf {X} _ {i} - mathbf {M}) mathbf {V} ^ {- 1} ( mathbf {X} _ {i} - mathbf {M}) ^ {T}}$

va

${ displaystyle mathbf {V} = { frac {1} {kn}} sum _ {i = 1} ^ {k} ( mathbf {X} _ {i} - mathbf {M}) ^ { T} mathbf {U} ^ {- 1} ( mathbf {X} _ {i} - mathbf {M}),}$

Masalan, qarang ^[3] va ulardagi ma'lumotnomalar. Kovaryans parametrlari har qanday miqyosli omil uchun, s> 0, bizda ... bor:

${ displaystyle { mathcal {MN}} _ {n times p} ( mathbf {X} mid mathbf {M}, mathbf {U}, mathbf {V}) = { mathcal {MN} } _ {n marta p} ( mathbf {X} mid mathbf {M}, s mathbf {U}, 1 / s mathbf {V}).}$

Tarqatishdan qiymatlarni chizish

Matritsaning normal taqsimlanishidan namuna olish, uchun namuna olish protsedurasining alohida hodisasidir ko'p o'zgaruvchan normal taqsimot. Ruxsat bering ${ displaystyle mathbf {X}}$ bo'lish n tomonidan p matritsasi np standart normal taqsimotdan mustaqil namunalar, shuning uchun

${ displaystyle mathbf {X} sim { mathcal {MN}} _ {n times p} ( mathbf {0}, mathbf {I}, mathbf {I}).}$

Keyin ruxsat bering

${ displaystyle mathbf {Y} = mathbf {M} + mathbf {A} mathbf {X} mathbf {B},}$

Shuning uchun; ... uchun; ... natijasida

${ displaystyle mathbf {Y} sim { mathcal {MN}} _ {n times p} ( mathbf {M}, mathbf {AA} ^ {T}, mathbf {B} ^ {T} mathbf {B}),}$

qayerda A va B tomonidan tanlanishi mumkin Xoleskiy parchalanishi yoki shunga o'xshash matritsali kvadrat ildiz ishi.

Boshqa tarqatish bilan bog'liqlik

Dovid (1981) matritsada baholangan normal taqsimotning boshqa taqsimotlarga, shu jumladan Istaklarni tarqatish, Orqaga Wishart tarqatish va matritsa t-taqsimoti, lekin bu erda ishlatilganidan farqli belgilarni ishlatadi.

Shuningdek qarang

• Ko'p o'zgaruvchan normal taqsimot.

Adabiyotlar

• Dovid, A.P. (1981). "Ba'zi bir matritsali o'zgaruvchan taqsimot nazariyasi: notatsional mulohazalar va Bayes dasturlari". Biometrika. 68 (1): 265–274. doi:10.1093 / biomet / 68.1.265. JSTOR  2335827. JANOB  0614963.
• Dutilleul, P (1999). "Matritsani normal taqsimlash uchun MLE algoritmi". Statistik hisoblash va simulyatsiya jurnali. 64 (2): 105–123. doi:10.1080/00949659908811970.
• Arnold, S.F. (1981), Lineer modellar nazariyasi va ko'p o'zgaruvchan tahlil, Nyu York: John Wiley & Sons, ISBN  0471050652