Transfer entropiyasi - Transfer entropy - Wikipedia

Transfer entropiyasi a parametrik bo'lmagan statistik yo'naltirilgan (vaqt assimetrik) o'tkazish miqdorini o'lchash ma `lumot ikkitasi o'rtasida tasodifiy jarayonlar.[1][2][3] Jarayondan entropiyani o'tkazish X boshqa jarayonga Y ning kelajakdagi qiymatlarida pasaytirilgan noaniqlik miqdori Y ning o'tgan qadriyatlarini bilish orqali X ning o'tgan qiymatlari berilgan Y. Aniqrog'i, agar va uchun ikkita tasodifiy jarayonni belgilang va ma'lumot miqdori yordamida o'lchanadi Shennonning entropiyasi, transfer entropiyasi quyidagicha yozilishi mumkin:

qayerda H(X) bu Shannon entropiyasi X. Transfer entropiyasining yuqoridagi ta'rifi boshqa turlari tomonidan kengaytirilgan entropiya kabi choralar Reniy entropiyasi.[3][4]

Transfer entropiyasi shartli o'zaro ma'lumot,[5][6] ta'sirlangan o'zgaruvchining tarixi bilan shartda:

Transfer entropiyasi quyidagicha kamayadi Grangerning sababi uchun vektorli avtomatik regressiv jarayonlar.[7] Shunday qilib, masalan, Granjerning sababchi model taxminlari mavjud bo'lmaganda foydalidir, masalan chiziqli bo'lmagan signallar.[8][9] Biroq, odatda aniq taxmin qilish uchun ko'proq namunalar talab qilinadi.[10]Entropiya formulasidagi ehtimolliklar turli xil yondashuvlar yordamida (binning, eng yaqin qo'shnilar) yoki murakkablikni kamaytirish uchun bir xil bo'lmagan ko'milish yordamida baholanishi mumkin.[11]Dastlab u uchun belgilangan edi ikki tomonlama tahlil, uzatish entropiyasi uzaytirildi ko'p o'zgaruvchan shakllari, yoki boshqa potentsial manba o'zgaruvchilarini shartlash[12] yoki manbalar to'plamidan o'tkazishni ko'rib chiqish,[13] garchi ushbu shakllar yana ko'proq namunalarni talab qilsa ham.

Transfer entropiyasi taxmin qilish uchun ishlatilgan funktsional ulanish ning neyronlar[13][14][15] va ijtimoiy ta'sir yilda ijtimoiy tarmoqlar.[8]Transfer entropiyasi - ning so'nggi versiyasidir Yo'naltirilgan ma'lumotlar tomonidan 1990 yilda aniqlangan Jeyms Massi [16] kabi , qayerda vektorni bildiradi va bildiradi . The yo'naltirilgan ma'lumot asosiy chegaralarni tavsiflashda muhim rol o'ynaydi (kanal hajmi ) teskari aloqa bilan yoki aloqasiz aloqa kanallari [17] [18] va qimor nedensel ma'lumot bilan,[19]

Shuningdek qarang

Adabiyotlar

  1. ^ Shrayber, Tomas (2000 yil 1-iyul). "Axborot uzatishni o'lchash". Jismoniy tekshiruv xatlari. 85 (2): 461–464. arXiv:nlin / 0001042. Bibcode:2000PhRvL..85..461S. doi:10.1103 / PhysRevLett.85.461. PMID  10991308.
  2. ^ Set, Anil (2007). "Grangerning sababi". Scholarpedia. 2. p. 1667. Bibcode:2007SchpJ ... 2.1667S. doi:10.4249 / scholarpedia.1667.
  3. ^ a b Xlavachkova-Shindler, Katerina; Palus, M; Vejmelka, M; Battacharya, J (2007 yil 1 mart). "Vaqt ketma-ketligini tahlil qilishda axborot-nazariy yondashuvlarga asoslangan sabablarni aniqlash". Fizika bo'yicha hisobotlar. 441 (1): 1–46. Bibcode:2007 yil PH ... 441 .... 1H. CiteSeerX  10.1.1.183.1617. doi:10.1016 / j.physrep.2006.12.004.
  4. ^ Jizba, Petr; Kleinert, Xagen; Shefaat, Muhammad (2012-05-15). "Reniyning moliyaviy vaqt seriyalari o'rtasida ma'lumot uzatish". Physica A: Statistik mexanika va uning qo'llanilishi. 391 (10): 2971–2989. arXiv:1106.5913. Bibcode:2012 yil. HyA..391.2971J. doi:10.1016 / j.physa.2011.12.064. ISSN  0378-4371.
  5. ^ Vayner, A. D. (1978). "Ixtiyoriy ansambllar uchun shartli o'zaro ma'lumotlarning ta'rifi". Axborot va boshqarish. 38 (1): 51–59. doi:10.1016 / s0019-9958 (78) 90026-8.
  6. ^ Dobrushin, R. L. (1959). "Shannonning axborot nazariyasidagi asosiy teoremasini umumiy shakllantirish". Uspekhi mat. Nauk. 14: 3–104.
  7. ^ Barnett, Lionel (2009 yil 1-dekabr). "Grangerning sababi va transfer entropiyasi Gauss o'zgaruvchilari uchun tengdir". Jismoniy tekshiruv xatlari. 103 (23): 238701. arXiv:0910.4514. Bibcode:2009PhRvL.103w8701B. doi:10.1103 / PhysRevLett.103.238701. PMID  20366183.
  8. ^ a b Ver Stig, Greg; Galstyan, Aram (2012). "Ijtimoiy tarmoqlarda ma'lumot uzatish". World Wide Web (WWW '12) bo'yicha 21-xalqaro konferentsiya materiallari.. ACM. 509-518 betlar. arXiv:1110.2724. Bibcode:2011arXiv1110.2724V.
  9. ^ Lungarella, M.; Ishiguro, K .; Kuniyoshi, Y .; Otsu, N. (2007 yil 1 mart). "Ikki o'zgaruvchan vaqt qatorlarining sababiy tuzilishini miqdoriy aniqlash usullari". Xalqaro bifurkatsiya va betartiblik jurnali. 17 (3): 903–921. Bibcode:2007IJBC ... 17..903L. CiteSeerX  10.1.1.67.3585. doi:10.1142 / S0218127407017628.
  10. ^ Pereda, E; Quiroga, RQ; Battacharya, J (2005 yil sentyabr - oktyabr). "Neyrofiziologik signallarning chiziqli bo'lmagan ko'p o'zgaruvchan tahlili". Neyrobiologiyada taraqqiyot. 77 (1–2): 1–37. arXiv:nlin / 0510077. Bibcode:2005nlin ..... 10077P. doi:10.1016 / j.pneurobio.2005.10.003. PMID  16289760.
  11. ^ Montalto, A; Faes, L; Marinazzo, D (oktyabr 2014). "MuTE: ko'p o'zgaruvchan transfer entropiyasining o'rnatilgan va yangi tahminchilarini taqqoslash uchun MATLAB asboblar qutisi". PLOS ONE. 9 (10): e109462. Bibcode:2014PLoSO ... 9j9462M. doi:10.1371 / journal.pone.0109462. PMC  4196918. PMID  25314003.
  12. ^ Lizier, Jozef; Prokopenko, Mixail; Zomaya, Albert (2008). "Mahalliy axborot uzatish murakkab tizimlar uchun makon-zamon filtri sifatida". Jismoniy sharh E. 77 (2): 026110. arXiv:0809.3275. Bibcode:2008PhRvE..77b6110L. doi:10.1103 / PhysRevE.77.026110. PMID  18352093.
  13. ^ a b Lizier, Jozef; Xaynzl, Yakob; Horstmann, Annette; Xeyns, Jon-Dilan; Prokopenko, Mixail (2011). "Ko'p o'zgaruvchan axborot-nazariy chora-tadbirlar yo'naltirilgan axborot tuzilishini va FMRI ulanishidagi tegishli o'zgarishlarni aniqlaydi". Hisoblash nevrologiyasi jurnali. 30 (1): 85–107. doi:10.1007 / s10827-010-0271-2. PMID  20799057.
  14. ^ Visente, Raul; Vibral, Maykl; Lindner, Maykl; Pipa, Gordon (2011 yil fevral). "Transfer entropiyasi - nevrologiya uchun samarali ulanishning modelsiz o'lchovi". Hisoblash nevrologiyasi jurnali. 30 (1): 45–67. doi:10.1007 / s10827-010-0262-3. PMC  3040354. PMID  20706781.
  15. ^ Shimono, Masanori; Beggs, John (oktyabr 2014). "Kortikal mikrokonnektomdagi funktsional klasterlar, markazlar va jamoalar". Miya yarim korteksi. 25 (10): 3743–57. doi:10.1093 / cercor / bhu252. PMC  4585513. PMID  25336598.
  16. ^ Massey, Jeyms (1990). "Sabablilik, mulohazalar va yo'naltirilgan ma'lumotlar" (ISITA). CiteSeerX  10.1.1.36.5688. Iqtibos jurnali talab qiladi | jurnal = (Yordam bering)
  17. ^ Permuter, Xaim Genri; Vaysman, Tsachy; Goldsmith, Andrea J. (2009 yil fevral). "Vaqt o'zgarmas Deterministik fikr-mulohazalarga ega bo'lgan so'nggi davlat kanallari". Axborot nazariyasi bo'yicha IEEE operatsiyalari. 55 (2): 644–662. arXiv:cs / 0608070. doi:10.1109 / TIT.2008.2009849.
  18. ^ Kramer, G. (2003 yil yanvar). "Diskret xotirasiz tarmoq uchun imkoniyatlar natijalari". Axborot nazariyasi bo'yicha IEEE operatsiyalari. 49 (1): 4–21. doi:10.1109 / TIT.2002.806135.
  19. ^ Permuter, Xayim X.; Kim, Young-Xan; Vaysman, Tsachy (iyun 2011). "Portfolio nazariyasidagi yo'naltirilgan ma'lumotlarning talqini, ma'lumotlarni siqish va gipotezani sinash". Axborot nazariyasi bo'yicha IEEE operatsiyalari. 57 (6): 3248–3259. arXiv:0912.4872. doi:10.1109 / TIT.2011.2136270.

Tashqi havolalar