Doimiy tahminchi - Consistent estimator

{T₁, T₂, T₃, ...} - parametr uchun taxminchilar ketma-ketligi θ₀, ularning haqiqiy qiymati 4. Bu ketma-ketlik mos keladi: taxminchilar tobora ko'proq haqiqiy qiymatga yaqinlashmoqdalar θ₀; Shu bilan birga, bu taxminchilar bir tomonlama emas. Ketma-ketlikning cheklangan taqsimoti tenglashtirilgan degenerativ tasodifiy o'zgaruvchidir θ₀ ehtimollik bilan 1.

Yilda statistika, a izchil baholovchi yoki asimptotik ravishda izchil baholovchi bu taxminchi - parametr taxminlarini hisoblash qoidasi θ₀- ishlatilgan ma'lumotlar punktlari soni cheksiz ko'payib borishi natijasida olingan hisob-kitoblar ketma-ketligi xususiyatiga ega bo'lish ehtimollik bilan yaqinlashadi ga θ₀. Bu shuni anglatadiki, taxminlarning taqsimlanishi taxmin qilinayotgan parametrning haqiqiy qiymati yaqinida tobora ko'proq joyga jamlanib boradi, shuning uchun taxmin qiluvchining o'zboshimchalik bilan ehtimolligi θ₀ biriga yaqinlashadi.

Amalda taxminchi mavjud namunaning funktsiyasi sifatida tuziladi hajmi n, va keyin ma'lumotlarni to'plash va namunani kengaytirishda davom etishni tasavvur qiladi reklama infinitum. Shu tarzda indekslangan taxminlar ketma-ketligini olish mumkin n, va izchillik - bu namuna hajmi "cheksizgacha o'sib borishi" natijasida paydo bo'ladigan xususiyatdir. Agar taxminiy ketma-ketlikni ehtimollik bilan haqiqiy qiymatga yaqinlashishini matematik ravishda ko'rsatish mumkin bo'lsa θ₀, bu izchil taxminchi deb ataladi; aks holda taxminchi deyiladi nomuvofiq.

Bu erda ta'riflangan izchillik ba'zan deb nomlanadi zaif mustahkamlik. Ehtimollikdagi yaqinlashishni qachon bilan o'zgartiramiz deyarli aniq yaqinlashish, keyin taxminchi deyiladi qat'iy izchil. Izchillik bilan bog'liq tarafkashlik; qarang qat'iylik va qarama-qarshilik.

Ta'rif

Rasmiy ravishda aytganda, an taxminchi T_n parametr θ deb aytilgan izchil, agar shunday bo'lsa ehtimollik bilan yaqinlashadi parametrning haqiqiy qiymatiga:^[1]

{ displaystyle { underset {n to infty} { operatorname {plim}}} ; T_ {n} = theta.}

ya'ni agar hamma uchun ε > 0

{ displaystyle lim _ {n to infty} Pr { big (} | T_ {n} - theta |> varepsilon { big)} = 0.}

Keyinchalik qat'iy ta'rifda haqiqat hisobga olinadi θ aslida noma'lum va shuning uchun ehtimollikning yaqinlashuvi ushbu parametrning har qanday qiymati uchun sodir bo'lishi kerak. Aytaylik {p_θ: θ ∈ Θ} - tarqatish oilasi (the parametrli model ) va X^θ = {X₁, X₂, … : X_men ~ p_θ} cheksizdir namuna tarqatishdan p_θ. Ruxsat bering {T_n(X^θ)} ba'zi parametrlar uchun taxminiy ketma-ketlik bo'lishi g(θ). Odatda T_n birinchisiga asoslanadi n namunani kuzatish. Keyin bu ketma-ketlik {T_n} deyiladi (zaif) izchil agar ^[2]

{ displaystyle { underset {n to infty} { operatorname {plim}}} ; T_ {n} (X ^ { theta}) = g ( theta), { text {for all }} theta in Theta.}

Ushbu ta'rifdan foydalaniladi g(θ) o'rniga oddiy θ, chunki ko'pincha ma'lum bir funktsiyani yoki asosiy parametrning sub-vektorini taxmin qilish qiziqtiradi. Keyingi misolda biz modelning joylashish parametrini baholaymiz, ammo o'lchovni emas:

Misollar

Oddiy tasodifiy o'zgaruvchining namunaviy o'rtacha qiymati

Deylik, kuzatuvlar ketma-ketligi bor {X₁, X₂, ...} dan normal N(m, σ²) tarqatish. Taxmin qilish m birinchisiga asoslanib n kuzatishlar, dan foydalanish mumkin namuna o'rtacha: T_n = (X₁ + ... + X_n)/n. Bu namuna hajmi bo'yicha indekslangan taxminchilar ketma-ketligini belgilaydi n.

Normal taqsimotning xususiyatlaridan biz quyidagilarni bilamiz namunalarni taqsimlash ushbu statistik ma'lumot: T_n o'zi o'rtacha taqsimlanadi, o'rtacha bilan m va dispersiya σ²/n. Teng ravishda, ${ displaystyle scriptstyle (T_ {n} - mu) / ( sigma / { sqrt {n}})}$ standart normal taqsimotga ega:

{ displaystyle Pr ! left [, | T_ {n} - mu | geq varepsilon , right] = Pr ! left [{ frac {{ sqrt {n}} , { big |} T_ {n} - mu { big |}} { sigma}} geq { sqrt {n}} varepsilon / sigma right] = 2 chap (1- Phi chap ({ frac {{ sqrt {n}} , varepsilon} { sigma}} o'ng) o'ng) dan 0} gacha

kabi n har qanday qat'iy uchun abadiylikka intiladi ε > 0. Shuning uchun ketma-ketlik T_n namunaviy vositalar aholi soniga mos keladim (buni eslab ${ displaystyle Phi}$ bo'ladi kumulyativ taqsimot normal taqsimot).

Muvofiqlikni o'rnatish

Asimptotik konsistentsiya tushunchasi juda yaqin, ehtimollikdagi yaqinlashish tushunchasi bilan deyarli sinonimdir. Shunday qilib, ehtimollikni yaqinlashtirishni o'rnatadigan har qanday teorema, lemma yoki xususiyatlardan izchillikni isbotlash uchun foydalanish mumkin. Ko'pgina bunday vositalar mavjud:

To'g'ridan-to'g'ri ta'rifga muvofiqlikni namoyish qilish uchun tengsizlikdan foydalanish mumkin ^[3]

{ displaystyle Pr ! { big [} h (T_ {n} - theta) geq varepsilon { big]} leq { frac { operatorname {E} { big [} h (T_ {n} - theta) { big]}} {h ( varepsilon)}},}

funktsiya uchun eng keng tarqalgan tanlov h yoki mutlaq qiymat bo'lish (bu holda u sifatida tanilgan) Markov tengsizligi ) yoki kvadratik funktsiya (mos ravishda Chebyshevning tengsizligi ).

Yana bir foydali natija uzluksiz xaritalash teoremasi: agar T_n uchun izchil θ va g(·) - bu nuqtada uzluksiz haqiqiy qiymatli funktsiya θ, keyin g(T_n) uchun izchil bo'ladi g(θ):^[4]

{ displaystyle T_ {n} { xrightarrow {p}} theta quad Rightarrow quad g (T_ {n}) { xrightarrow {p}} g ( theta)}

Slutskiy teoremasi yordamida bir nechta turli xil taxminchilarni yoki tasodifiy bo'lmagan konvergent ketma-ketlik bilan baholovchini birlashtirish mumkin. Agar T_n →^dava S_n →^pβ, keyin ^[5]

{ displaystyle { begin {aligned} va T_ {n} + S_ {n} { xrightarrow {d}} alfa + beta, & T_ {n} S_ {n} { xrightarrow {d} }} alfa beta, & T_ {n} / S_ {n} { xrightarrow {d}} alfa / beta, { text {}}} beta neq 0 end {hizalanmış holda }}}

Agar taxminchi bo'lsa T_n aniq formulada berilgan, keyin katta ehtimollik bilan formulada tasodifiy o'zgaruvchilar yig'indisi, keyin esa katta sonlar qonuni foydalanish mumkin: ketma-ketlik uchun {X_n} tasodifiy o'zgaruvchilar va mos sharoitlarda,

{ displaystyle { frac {1} {n}} sum _ {i = 1} ^ {n} g (X_ {i}) { xrightarrow {p}} operator nomi {E} [, g (X) ,]}

Agar taxminchi bo'lsa T_n bilvosita, masalan, muayyan maqsad funktsiyasini maksimal darajaga ko'taradigan qiymat sifatida aniqlanadi (qarang ekstremal baholovchi ), keyin murakkabroq dalil stoxastik tenglik ishlatilishi kerak.^[6]

Muvofiqlikka nisbatan yonma-yonlik

Xolis, ammo izchil emas

Tahminchi bo'lishi mumkin xolis ammo izchil emas. Masalan, uchun iid namuna {x
₁,..., x
_n} foydalanish mumkin T
_n(X) = x
_n o'rtacha E [x]. Bu erda namuna taqsimotiga e'tibor bering T
_n asosiy tarqatish bilan bir xil (har biri uchun n, chunki u barcha nuqtalarni hisobga olmaydi, lekin oxirgisi), shuning uchun E [T
_n(X)] = E [x] va u xolis, ammo hech qanday qiymatga yaqinlashmaydi.

Ammo, agar taxminchilar ketma-ketligi xolis bo'lsa va qiymatga yaqinlashadi, keyin u mos keladi, chunki u to'g'ri qiymatga yaqinlashishi kerak.

Bir tomonlama, ammo izchil

Shu bilan bir qatorda, taxminchi bir tomonlama, ammo izchil bo'lishi mumkin. Masalan, agar o'rtacha o'rtacha tomonidan baholansa ${ displaystyle {1 over n} sum x_ {i} + {1 over n}}$ u noaniq, ammo ${ displaystyle n rightarrow infty}$ , u to'g'ri qiymatga yaqinlashadi va shuning uchun u izchil.

Muhim misollarga quyidagilar kiradi namunaviy farq va namunaviy standart og'ish. Yo'q Besselning tuzatishlari (ya'ni namuna o'lchamidan foydalanganda ${ displaystyle n}$ o'rniga erkinlik darajasi ${ displaystyle n-1}$ ), bu ikkalasi ham salbiy tarafkash, ammo izchil taxminchilar. Tuzatish bilan, tuzatilgan namunadagi dispersiya xolis emas, tuzatilgan namunadagi standart og'ish hali ham noaniq, ammo unchalik kam emas va har ikkisi ham izchil: namuna hajmi o'sishi bilan tuzatish koeffitsienti 1 ga yaqinlashadi.

Yana bir misol. Ruxsat bering ${ displaystyle T_ {n}}$ uchun taxminchilar ketma-ketligi bo'lishi ${ displaystyle theta}$ .

{ displaystyle Pr (T_ {n}) = { start {case} 1-1 / n, & { mbox {if}} , T_ {n} = theta 1 / n, & { mbox {if}} , T_ {n} = n delta + theta end {case}}}

Buni ko'rishimiz mumkin ${ displaystyle T_ {n} { xrightarrow {p}} theta}$ , ${ displaystyle operator nomi {E} [T_ {n}] = theta + delta}$ va noaniqlik nolga yaqinlashmaydi.