Multinomial tarqatish - Multinomial distribution

Ko'p pulli

Parametrlar	${ displaystyle n> 0}$ sinovlar soni (tamsayı ) ${ displaystyle p_ {1}, ldots, p_ {k}}$ voqea ehtimollari (${ displaystyle Sigma p_ {i} = 1}$)
Qo'llab-quvvatlash	${ displaystyle x_ {i} in {0, dots, n }, , , , , i in {1, dots, k }}$ ${ displaystyle Sigma x_ {i} = n !}$
PMF	${ displaystyle { frac {n!} {x_ {1}! cdots x_ {k}!}} p_ {1} ^ {x_ {1}} cdots p_ {k} ^ {x_ {k}}}$
Anglatadi	${ displaystyle operator nomi {E} (X_ {i}) = np_ {i}}$
Varians	${ displaystyle operator nomi {Var} (X_ {i}) = np_ {i} (1-p_ {i})}$ ${ displaystyle operator nomi {Cov} (X_ {i}, X_ {j}) = - np_ {i} p_ {j} ~~ (i neq j)}$
Entropiya	${ displaystyle - log (n!) - n sum _ {i = 1} ^ {k} p_ {i} log (p_ {i}) + sum _ {i = 1} ^ {k} sum _ {x_ {i} = 0} ^ {n} { binom {n} {x_ {i}}} p_ {i} ^ {x_ {i}} (1-p_ {i}) ^ {n- x_ {i}} log (x_ {i}!)}$
MGF	${ displaystyle { biggl (} sum _ {i = 1} ^ {k} p_ {i} e ^ {t_ {i}} { biggr)} ^ {n}}$
CF	${ displaystyle left ( sum _ {j = 1} ^ {k} p_ {j} e ^ {it_ {j}} right) ^ {n}}$ qayerda ${ displaystyle i ^ {2} = - 1}$
PGF	${ displaystyle { biggl (} sum _ {i = 1} ^ {k} p_ {i} z_ {i} { biggr)} ^ {n} { text {for}} (z_ {1}, ldots, z_ {k}) in mathbb {C} ^ {k}}$

Yilda ehtimollik nazariyasi, multinomial tarqatish ning umumlashtirilishi binomial taqsimot. Masalan, u a ning har bir tomoni uchun hisoblash ehtimolini modellashtiradi k- yonboshlab o'ralgan n marta. Uchun n mustaqil ularning har biri aynan bittasi uchun muvaffaqiyatga olib keladigan sinovlar k toifalar, har bir toifada ma'lum bir muvaffaqiyatga erishish ehtimoli mavjud bo'lib, multinomial taqsimot turli toifalar uchun muvaffaqiyatlar sonining har qanday aniq kombinatsiyasini ehtimolini beradi.

Qachon k 2 va n 1 ga teng, multinomial taqsimot Bernulli taqsimoti. Qachon k 2 va n 1 dan katta, u binomial taqsimot. $ K $ $ 2 $ va $ dan kattaroq bo'lganda n 1 ga teng, u kategorik taqsimot.

The Bernulli taqsimoti bitta natijani modellashtiradi Bernulli sudi. Boshqacha qilib aytganda, u a (ehtimol) ni aylantirishni modellaydi xolis ) bir marta tanga muvaffaqiyatli bo'lishiga (bosh olish) yoki muvaffaqiyatsizlikka (quyruq olish) olib keladi. The binomial taqsimot buni bosh ijrochilar soniga qarab umumlashtiradi n bir xil tanga mustaqil burilishlari (Bernulli sinovlari). Multinomial taqsimot natijani modellashtiradi n tajribalar, bu erda har bir sinov natijasi a kategorik taqsimot, masalan, prokat a k- ikki tomonlama o'lim n marta.

Ruxsat bering k sobit sonli son bo'lishi. Matematik jihatdan bizda k tegishli ehtimolliklar bilan o'zaro istisno qilinadigan natijalar p₁, ..., p_kva n mustaqil sinovlar. Beri k natijalar bir-birini istisno qiladi va bunga erishishimiz kerak p_men ≥ 0 uchun men = 1, ..., k va ${ displaystyle sum _ {i = 1} ^ {k} p_ {i} = 1}$. Keyin tasodifiy o'zgaruvchilar bo'lsa X_men natija sonining sonini ko'rsating men ustidan kuzatiladi n sinovlar, vektor X = (X₁, ..., X_k) parametrlari bilan multinomial taqsimotga amal qiladi n va p, qayerda p = (p₁, ..., p_k). Sinovlar mustaqil bo'lsa-da, ularning natijalari X bog'liqdir, chunki ular n ga yig'ilishi kerak.

Kabi ba'zi sohalarda tabiiy tilni qayta ishlash, kategorik va multinomial taqsimotlar sinonimdir va agar ko'p sonli taqsimot haqida gapirish odatiy holdir kategorik taqsimot aslida nazarda tutilgan. Bu ba'zida toifali taqsimot natijalarini butun son sifatida emas, balki "1 ning of K" vektori (bitta elementi 1 ga va boshqa barcha elementlari 0 bo'lgan vektor) sifatida ifodalash qulay bo'lganidan kelib chiqadi. oralig'ida ${ displaystyle 1 nuqta K}$; ushbu shaklda kategorik taqsimot bitta sinov davomida ko'p monomial taqsimotga tengdir.

Texnik xususiyatlari

Ehtimollik massasi funktsiyasi

Aytaylik, ekstraktsiya bo'yicha tajriba o'tkazdi n to'plari k sumkadan har xil ranglar, har bir tortishdan keyin chiqarilgan sharlarni almashtiring. Bir xil rangdagi to'plar tengdir. Olingan rang to'plari soni bo'lgan o'zgaruvchini belgilang men (men = 1, ..., k) kabi X_menva kabi belgilang p_men berilgan ekstraktsiyaning rangli bo'lish ehtimoli men. The ehtimollik massasi funktsiyasi ushbu multinomial taqsimot quyidagilar:

${ displaystyle { begin {aligned} f (x_ {1}, ldots, x_ {k}; n, p_ {1}, ldots, p_ {k}) & {} = Pr (X_ {1}) = x_ {1} { text {and}} dots { text {and}} X_ {k} = x_ {k}) & {} = { begin {case} { displaystyle {n! over x_ {1}! cdots x_ {k}!} p_ {1} ^ {x_ {1}} times cdots times p_ {k} ^ {x_ {k}}}, quad & { text {when}} sum _ {i = 1} ^ {k} x_ {i} = n 0 & { text {aks holda,}} end {case}}} end {aligned}}}$

manfiy bo'lmagan butun sonlar uchun x₁, ..., x_k.

Ehtimollik massasi funktsiyasi yordamida ifodalanishi mumkin gamma funktsiyasi kabi:

${ displaystyle f (x_ {1}, dots, x_ {k}; p_ {1}, ldots, p_ {k}) = { frac { Gamma ( sum _ {i} x_ {i} + 1)} { prod _ {i} Gamma (x_ {i} +1)}} prod _ {i = 1} ^ {k} p_ {i} ^ {x_ {i}}.}$

Ushbu shakl uning o'xshashligini ko'rsatadi Dirichlet tarqatish, bu uning oldingi konjugat.

Vizualizatsiya

Umumlashtirilgan Paskal uchburchagi bo'laklari sifatida

Xuddi shunday talqin qilish mumkin binomial taqsimot sifatida (normallashtirilgan) bir o'lchovli (1D) bo'laklari Paskal uchburchagi, shuning uchun ham multinomial taqsimotni 2D (uchburchak) bo'laklari sifatida izohlash mumkin Paskal piramidasi, yoki Paskal uchburchagi yuqori o'lchovli analoglarining 3D / 4D / + (piramida shaklidagi) bo'laklari. Bu "ning" talqinini ochib beradi oralig'i taqsimot: ixtiyoriy o'lchamdagi diskretlangan teng materialli "piramidalar", ya'ni. a oddiy panjara bilan.^{[iqtibos kerak ]}

Polinom koeffitsientlari sifatida

Xuddi shunday, xuddi shunday talqin qilish mumkin binomial taqsimot ning polinom koeffitsientlari sifatida ${ displaystyle (p + (1-p)) ^ {n}}$ kengaytirilganda multinomial taqsimotni koeffitsientlari sifatida izohlash mumkin ${ displaystyle (p_ {1} + p_ {2} + p_ {3} + cdots + p_ {k}) ^ {n}}$ kengaytirilganda. (E'tibor bering, binomial taqsimot singari koeffitsientlar ham 1 ga teng bo'lishi kerak.) Bu ismning kelib chiqishi "multinomial tarqatish ".

Xususiyatlari

The kutilgan natija necha marta men ustidan kuzatilgan n sinovlar

${ displaystyle operator nomi {E} (X_ {i}) = np_ {i}. ,}$

The kovaryans matritsasi quyidagicha. Har bir diagonal yozuv dispersiya binomial taqsimlangan tasodifiy o'zgaruvchining, va shuning uchun

${ displaystyle operator nomi {Var} (X_ {i}) = np_ {i} (1-p_ {i}). ,}$

Diagonaldan tashqari yozuvlar kovaryanslar:

${ displaystyle operator nomi {Cov} (X_ {i}, X_ {j}) = - np_ {i} p_ {j} ,}$

uchun men, j aniq.

Barcha kovaryanslar salbiy, chunki ular aniqlanadi n, multinomial vektorning bitta komponentining ko'payishi boshqa komponentning kamayishini talab qiladi.

Ushbu iboralar bilan matritsaga birlashtirilganda men, j element ${ displaystyle operatorname {cov} (X_ {i}, X_ {j}),}$ natija a k × k ijobiy-yarim cheksiz kovaryans matritsasi daraja k - 1. qaerda bo'lgan maxsus holatda k = n va qaerda p_men barchasi teng, kovaryans matritsasi esa markazlashtiruvchi matritsa.

Tegishli yozuvlar korrelyatsiya matritsasi bor

${ displaystyle rho (X_ {i}, X_ {i}) = 1.}$

${ displaystyle rho (X_ {i}, X_ {j}) = { frac { operatorname {Cov} (X_ {i}, X_ {j})} { sqrt { operatorname {Var} (X_ {) i}) operator nomi {Var} (X_ {j})}}} = { frac {-p_ {i} p_ {j}} { sqrt {p_ {i} (1-p_ {i}) p_ { j} (1-p_ {j})}}} = - { sqrt { frac {p_ {i} p_ {j}} {(1-p_ {i}) (1-p_ {j})}} }.}$

E'tibor bering, namuna hajmi ushbu ifodadan chiqib ketadi.

Har biri k komponentlar alohida parametrlarga ega binomial taqsimotga ega n va p_men, pastki indeksning tegishli qiymati uchun men.

The qo'llab-quvvatlash multinomial taqsimotning to'plamidir

${ displaystyle {(n_ {1}, dots, n_ {k}) in mathbb {N} ^ {k} mid n_ {1} + cdots + n_ {k} = n }. ,}$

Uning elementlari soni

${ displaystyle {n + k-1 k-1} ni tanlang.}$

Matritsa yozuvlari

Matritsa yozuvida,

${ displaystyle operatorname {E} ( mathbf {X}) = n mathbf {p}, ,}$

va

${ displaystyle operator nomi {Var} ( mathbf {X}) = n lbrace operator nomi {diag} ( mathbf {p}) - mathbf {p} mathbf {p} ^ { rm {T}} rbrace, ,}$

bilan p^T = ustunli vektorning qatorli vektor transpozitsiyasi p.

Misol

Deylik, katta mamlakat uchun uch tomonlama saylovlarda A nomzodi 20%, B nomzodi 30%, C nomzodi esa 50% ovoz oldi. Agar oltita saylovchi tasodifiy tanlansa, unda A nomzod uchun to'liq bitta, B nomzod uchun ikkita va C nomzod uchun uchta tarafdor bo'lish ehtimoli qanday?

Izoh: Ovoz beruvchilar soni ko'p deb taxmin qilayotganimiz sababli, namuna uchun saylovchi tanlangandan so'ng, ehtimolliklar o'zgarmas deb o'ylash o'rinli va joizdir. Texnik ma'noda, bu almashtirishsiz namuna olishdir, shuning uchun to'g'ri tarqatish bu ko'p o'zgaruvchan gipergeometrik taqsimot, ammo aholi ko'payishi bilan taqsimotlar birlashadi.

${ displaystyle Pr (A = 1, B = 2, C = 3) = { frac {6!} {1! 2! 3!}} (0.2 ^ {1}) (0.3 ^ {2}) ( 0,5 ^ {3}) = 0,135}$

Multinomial taqsimotdan namuna olish

Birinchidan, parametrlarni qayta tartiblang ${ displaystyle p_ {1}, ldots, p_ {k}}$ shunday qilib ular kamayish tartibida saralanadi (bu faqat hisoblashni tezlashtirish uchun va juda zarur emas). Endi, har bir sinov uchun, yordamchi o'zgaruvchini torting X bir xil (0, 1) taqsimotdan. Olingan natija - bu tarkibiy qism

${ displaystyle j = min left {j ' in {1, dots, k }: left ( sum _ {i = 1} ^ {j'} p_ {i} right) - X geq 0 o'ng }.}$

{X_j = 1, X_k = 0 uchun k ≠ j } - bu multinomial taqsimotning bitta kuzatuvi ${ displaystyle p_ {1}, ldots, p_ {k}}$ va n = 1. Ushbu eksperimentning mustaqil takrorlanishlari yig'indisi - bilan ko'p yadroli taqsimotdan kuzatuv n bunday takrorlashlar soniga teng.

Multinomial taqsimotdan taqlid qilish

Multinomial taqsimotni simulyatsiya qilish uchun turli usullardan foydalanish mumkin. Juda oddiy echim (0,1) da bir xil psevdo-tasodifiy sonlar generatoridan foydalanishdir. Birinchidan, (0,1) oraliqni ikkiga ajratamizk ning ehtimolliklariga teng uzunlikdagi subintervallar k toifalar. Keyin, biz ishlab chiqaramiz n qaysi birida ekanligini aniqlash uchun mustaqil psevdo-tasodifiy sonlar k ular paydo bo'ladigan intervallar va har bir intervalda paydo bo'lish sonini hisoblaydi.

Misol

Agar bizda:

Keyin Excel kabi dasturiy ta'minot bilan biz quyidagi retseptdan foydalanishimiz mumkin:

Shundan so'ng, biz kuzatilgan natijalarni toifalar bo'yicha to'plash va har bir taqlid qilingan namuna uchun taxminiy kovaryans matritsasini hisoblash uchun SumIf kabi funktsiyalardan foydalanamiz.

Yana bir usul - diskret tasodifiy sonlar generatoridan foydalanish. Bunday holda, toifalar raqamli qiymatlar bilan belgilanishi yoki qayta yozilishi kerak.

Ikkala holatda, natijada bilan multinomial tarqatish bo'ladi k toifalar. Bu taqlid qilish uchun doimiy tasodifiy taqsimot bilan tengdir k mustaqil standartlashtirilgan normal taqsimotlar yoki N (0, I) ega bo'lgan juda g'ayritabiiy taqsimot k komponentlar bir xil taqsimlangan va statistik jihatdan mustaqil.

Barcha toifalar soni sinovlar sonini yig'ishi kerak bo'lganligi sababli, toifalar soni har doim salbiy bog'liqdir.^[1]

Multinomial taqsimot uchun ekvivalentlik testlari

Ekvivalentlikni sinashning maqsadi - nazariy multinomial taqsimot va kuzatilgan hisoblash chastotalari o'rtasida kelishuvni o'rnatish. Nazariy taqsimot to'liq ko'rsatilgan multinomial taqsimot yoki multinomial taqsimotlarning parametrik oilasi bo'lishi mumkin.

Ruxsat bering ${ displaystyle q}$ nazariy multinomial taqsimotni belgilang va ruxsat bering ${ displaystyle p}$ haqiqiy asosiy taqsimot bo'lishi. Tarqatish ${ displaystyle p}$ va ${ displaystyle q}$ agar teng bo'lsa, ular hisoblanadi ${ displaystyle d (p, q) < varepsilon}$ masofa uchun ${ displaystyle d}$ va bardoshlik parametri ${ displaystyle varepsilon> 0}$. Ekvivalentlik testi muammosi ${ displaystyle H_ {0} = {d (p, q) geq varepsilon }}$ ga qarshi ${ displaystyle H_ {1} = {d (p, q) < varepsilon }}$. Haqiqiy asosiy tarqatish ${ displaystyle p}$ noma'lum. Buning o'rniga, hisoblash chastotalari ${ displaystyle p_ {n}}$ kuzatilmoqda, qaerda ${ displaystyle n}$ namuna hajmi. Ekvivalentlik testidan foydalaniladi ${ displaystyle p_ {n}}$ rad qilmoq ${ displaystyle H_ {0}}$. Agar ${ displaystyle H_ {0}}$ rad etilishi mumkin, keyin o'rtasidagi ekvivalentlik ${ displaystyle p}$ va ${ displaystyle q}$ berilgan ahamiyat darajasida ko'rsatilgan. Evklid masofasi uchun ekvivalentlik testini Wellek (2010) darsligida topish mumkin.^[2] Umumiy o'zgaruvchan masofa uchun ekvivalentlik testi Ostrovskida (2017) ishlab chiqilgan.^[3] Maxsus kümülatif masofa uchun aniq ekvivalentlik testi Frey (2009) da taklif qilingan.^[4]

Haqiqiy asosiy taqsimot orasidagi masofa ${ displaystyle p}$ va multinomial tarqatish oilasi ${ displaystyle { mathcal {M}}}$ bilan belgilanadi ${ displaystyle d (p, { mathcal {M}}) = min _ {h in { mathcal {M}}} d (p, h)}$. Keyin ekvivalentlik testi muammosi tomonidan berilgan ${ displaystyle H_ {0} = {d (p, { mathcal {M}}) geq varepsilon }}$ va ${ displaystyle H_ {1} = {d (p, { mathcal {M}}) < varepsilon }}$. Masofa ${ displaystyle d (p, { mathcal {M}})}$ odatda raqamli optimallashtirish yordamida hisoblanadi. Ushbu holat bo'yicha testlar yaqinda Ostrovskida (2018) ishlab chiqilgan.^[5]

Tegishli tarqatishlar

• Qachon k = 2, multinomial taqsimot bu binomial taqsimot.
• Kategorik taqsimot, har bir sud jarayonini taqsimlash; uchun k = 2, bu Bernulli taqsimoti.
• The Dirichlet tarqatish bo'ladi oldingi konjugat multinomial in Bayes statistikasi.
• Dirichlet-multinomial taqsimot.
• Beta-binomial model.
• Salbiy multinomial taqsimot
• Hardy-Vaynberg printsipi (bu ehtimolliklar bilan trinomial taqsimot ${ displaystyle ( theta ^ {2}, 2 theta (1- theta), (1- theta) ^ {2})}$)

Adabiyotlar

Iqtiboslar

Manbalar