Eliezer Yudkovskiy - Eliezer Yudkowsky - Wikipedia

Eliezer Yudkovskiy
Eliezer Yudkovskiy, Stenford 2006 (kvadrat ekinlari) .jpg
Yudkovskiy Stenford universiteti 2006 yilda
Tug'ilgan (1979-09-11) 1979 yil 11 sentyabr (41 yosh)
Chikago, Illinoys, BIZ.
MillatiAmerika
TashkilotMashina razvedkasi tadqiqot instituti
Ma'lumTermin yaratish do'stona sun'iy aql
Bo'yicha tadqiqotlar AI xavfsizligi
Ratsionallik yozish
Asoschisi Kamroq
Veb-saytyudkovskiy.net

Eliezer Shlomo Yudkovskiy (1979 yil 11 sentyabrda tug'ilgan) - amerikalik sun'iy intellekt (AI) g'oyasini ommalashtirish bilan mashhur bo'lgan tadqiqotchi va yozuvchi do'stona sun'iy aql.[1][2] U hammualliflaridan biri[3] va ilmiy xodim Mashina razvedkasi tadqiqot instituti (MIRI), xususiy tadqiqot notijorat tashkiloti Berkli, Kaliforniya.[4] Qochish istiqboliga bag'ishlangan uning ishi razvedka portlashi ta'sir ko'rsatdi Nik Bostrom "s Superintelligence: yo'llar, xatarlar, strategiyalar.[5] An autodidakt,[6] Yudkovskiy o'rta yoki kollejda o'qimagan.[7]

Sun'iy intellekt xavfsizligida ishlash

Shuningdek qarang: Mashina razvedkasi tadqiqot instituti

Dasturiy ta'minot tizimlarida maqsadlarni o'rganish va rag'batlantirish

Yudkovskiyning kelajakdagi sun'iy intellekt tizimlari xavfsizligi muammolari haqidagi qarashlari sun'iy intellektning bakalavriat darsligida, Styuart Rassel va Piter Norvig "s Sun'iy aql: zamonaviy yondashuv. Rassel va Norvig umumiy maqsadlarni qo'lda rasmiy ravishda belgilashning qiyinligini ta'kidlab, Yudkovskiyning avtonom va adaptiv tizimlar vaqt o'tishi bilan to'g'ri xulq-atvorni o'rganish uchun ishlab chiqilishi kerakligi haqidagi taklifini keltiradilar:

Yudkovskiy (2008)[8] dizayni qanday tuzish haqida batafsilroq ma'lumotga ega Do'st A.I.. Uning ta'kidlashicha, do'stona munosabat (odamlarga zarar etkazmaslik istagi) boshidanoq ishlab chiqilishi kerak, ammo dizaynerlar o'zlarining dizaynlari noto'g'ri bo'lishi mumkinligini va robot vaqt o'tishi bilan o'rganib, rivojlanib borishini tan olishlari kerak. Shunday qilib, mexanizmni loyihalashtirishning asosiy vazifasi - nazorat va muvozanat tizimi ostida sun'iy intellektni rivojlantirish mexanizmini ishlab chiqish va tizimga bunday o'zgarishlarga qarshi do'stona bo'lib qoladigan foydali funktsiyalarni berishdir.[1]

Ga javoban instrumental konvergentsiya Muvaffaqiyatsiz ishlab chiqilgan maqsadlarga ega bo'lgan avtonom qarorlarni qabul qilish tizimlari odamlarga yomon munosabatda bo'lishni rag'batlantirishi mumkin bo'lgan tashvish, Yudkovskiy va boshqa MIRI tadqiqotchilari o'zlarining maqsadlari aniq belgilanmagan bo'lsa ham, xavfsiz odatiy xatti-harakatlarga yaqinlashadigan dasturiy ta'minot agentlarini aniqlash bo'yicha ish olib borishni maslahat berishdi.[9][2]

Imkoniyatlarni bashorat qilish

In razvedka portlashi tomonidan taxmin qilingan ssenariy I. J. Yaxshi, o'z-o'zini takomillashtiradigan sun'iy sun'iy intellekt tizimlari inson osti umumiy aqldan tezda o'tish super aqlli. Nik Bostrom 2014 yilgi kitob Superintelligence: yo'llar, xatarlar, strategiyalar Yudkovskiyning rivojlangan sun'iy intellekt tizimlarini antropomorfizatsiya qilish odamlarda razvedka portlashining mohiyatini noto'g'ri tushunishiga olib kelishi xavfi to'g'risida yozganini keltirib, Gudning argumentini batafsil eskizlaydi. "AI ong hosil qilishi mumkin aftidan antropomorfizm natijasida faqat aqlga keskin sakrash, odamning "aqlsizlar" va "Eynshteyn" ni aql-idrok o'lchovining o'ta chekkalari deb o'ylash istagi, umuman aqllar miqyosidagi deyarli farqlanmaydigan nuqtalar o'rniga. "[1][3][8][10]

Yilda ularning darsligi sun'iy intellekt bo'yicha, Styuart Rassel va Piter Norvig aqlli muammolarni hal qilishning ma'lum chegaralari mavjudligiga e'tiroz bildiring hisoblash murakkabligi nazariyasi; agar algoritmlarning har xil informatika vazifalarini qanchalik samarali hal qilishi borasida qat'iy chegaralar mavjud bo'lsa, unda razvedka portlashi mumkin emas.[1]

Ratsionallik yozish

2006 yildan 2009 yilgacha Yudkovskiy va Robin Xanson asosiy hissasini qo'shganlar Yomonlikni engib o'tishhomiyligidagi kognitiv va ijtimoiy fanlarga oid blog Insoniyat institutining kelajagi Oksford universiteti. 2009 yil fevral oyida Yudkovskiy asos solgan Kamroq, "insonning aql-idrok san'atini takomillashtirishga bag'ishlangan jamoat blogi".[11][12] Yomonlikni engib o'tish O'shandan beri Hansonning shaxsiy blogi sifatida ishlagan.

Yudkovskiyning falsafa va fanga oid 300 dan ortiq blogpostlari (dastlab yozilgan) Kamroq va Yomonlikni engib o'tish) elektron kitob sifatida chiqarildi Ratsionallik: AI dan Zombiesgacha tomonidan Mashina razvedkasi tadqiqot instituti (MIRI) 2015 yilda.[13] MIRI ham nashr etdi Etarli bo'lmagan muvozanat, Yudkovskiyning 2017 yildagi ijtimoiy samarasizligi mavzusidagi elektron kitobi.[14]

Yudkovskiy bir qancha badiiy asarlar ham yozgan. Uning fanfik roman, Garri Potter va ratsionallik usullari, dan fitna elementlaridan foydalanadi J.K. Rouling "s Garri Potter fan mavzularini tasvirlash uchun turkum.[11][15] Nyu-Yorker tasvirlangan Garri Potter va ratsionallik usullari Roulingning asl nusxasini "Garrining sehrgarligini ilmiy usul orqali tushuntirishga urinish uchun" takrorlash sifatida.[16]

Akademik nashrlar

  • Yudkovskiy, Eliezer (2007). "Umumiy razvedkada tashkilot darajalari" (PDF). Sun'iy umumiy aql. Berlin: Springer.
  • Yudkovskiy, Eliezer (2008). "Global xavf-xatarlar hukmiga ta'sir etishi mumkin bo'lgan bilimga moyilliklar" (PDF). Yilda Bostrom, Nik; Cirkovich, Milan (tahrir). Global halokatli xatarlar. Oksford universiteti matbuoti. ISBN  978-0199606504.
  • Yudkovskiy, Eliezer (2008). "Sun'iy intellekt global xavfning ijobiy va salbiy omili sifatida" (PDF). Yilda Bostrom, Nik; Cirkovich, Milan (tahrir). Global halokatli xatarlar. Oksford universiteti matbuoti. ISBN  978-0199606504.
  • Yudkovskiy, Eliezer (2011). "Do'stona sun'iy intellektdagi murakkab qiymat tizimlari" (PDF). Sun'iy umumiy razvedka: 4-xalqaro konferentsiya, AGI 2011, Mountain View, Kaliforniya, AQSh, 2011 yil 3-6 avgust. Berlin: Springer.
  • Yudkovskiy, Eliezer (2012). "Do'stona sun'iy aql". Adanda, Ammon; Mur, Jeyms; Soraker, Jon; va boshq. (tahr.). Yagonalik farazlari: ilmiy va falsafiy baho. Chegaralar to'plami. Berlin: Springer. pp.181 –195. doi:10.1007/978-3-642-32560-1_10. ISBN  978-3-642-32559-5.
  • Bostrom, Nik; Yudkovskiy, Eliezer (2014). "Sun'iy intellekt etikasi" (PDF). Frankda, Kit; Ramsey, Uilyam (tahrir). Sun'iy intellekt bo'yicha Kembrij qo'llanmasi. Nyu-York: Kembrij universiteti matbuoti. ISBN  978-0-521-87142-6.
  • LaVictoire, Patrik; Fallenshteyn, Benja; Yudkovskiy, Eliezer; Barash, Mixali; Christiano, Pol; Herreshoff, Marchello (2014). "Lob teoremasi orqali mahbus dilemmasidagi dastur muvozanati". Oldindan muvofiqlashtirilmasdan multiagentli o'zaro ta'sir: AAAI-14 seminaridan olingan hujjatlar. AAAI nashrlari.
  • Soares, Neyt; Fallenshteyn, Benja; Yudkovskiy, Eliezer (2015). "Tuzatish" (PDF). AAAI ustaxonalari: Sun'iy intellekt bo'yicha AAAI yigirma to'qqizinchi konferentsiyasidagi seminarlar, Ostin, TX, 25-26 yanvar, 2015. AAAI nashrlari.

Shuningdek qarang

Adabiyotlar

  1. ^ a b v d Rassel, Styuart; Norvig, Piter (2009). Sun'iy aql: zamonaviy yondashuv. Prentice Hall. ISBN  978-0-13-604259-4.
  2. ^ a b Leyton, Jonathan (2011). Mehr-shafqat uchun jang: befarq olamdagi axloq. Algora. ISBN  978-0-87586-870-7.
  3. ^ a b Dovd, Mourin. "A.I. Apokalipsisini to'xtatish uchun Elon Maskning milliard dollarlik salib yurishi". Vanity Fair. Olingan 28 iyul, 2018.
  4. ^ Kurzveyl, Rey (2005). Singularity yaqin. Nyu-York shahri: Viking Pengueni. ISBN  978-0-670-03384-3.
  5. ^ Ford, Pol (2015 yil 11-fevral). "Bizning sun'iy aqldan qo'rqishimiz". MIT Technology Review. Olingan 9 aprel, 2019.
  6. ^ Metyus, Dilan; Pinkerton, Berd (2019 yil 19-iyun). "U Skype-ga asos solgan. Endi u boyligini xavfli AIni to'xtatishga sarflaydi". Vox.
  7. ^ Sapersteyn, Gregori (2012 yil 9-avgust). "Vizyoner bilan 5 daqiqa: Eliezer Yudkovskiy".
  8. ^ a b Yudkovskiy, Eliezer (2008). "Sun'iy intellekt global xavfning ijobiy va salbiy omili sifatida" (PDF). Yilda Bostrom, Nik; Cirkovich, Milan (tahrir). Global halokatli xatarlar. Oksford universiteti matbuoti. ISBN  978-0199606504.
  9. ^ Soares, Neyt; Fallenshteyn, Benja; Yudkovskiy, Eliezer (2015). "Tuzatish". AAAI ustaxonalari: Sun'iy intellekt bo'yicha AAAI yigirma to'qqizinchi konferentsiyasidagi seminarlar, Ostin, TX, 25-26 yanvar, 2015. AAAI nashrlari.
  10. ^ Bostrom, Nik (2014). Superintelligence: yo'llar, xatarlar, strategiyalar. ISBN  978-0199678112.
  11. ^ a b Miller, Jeyms (2012). Singularity Rising. BenBella Books, Inc. ISBN  978-1936661657.
  12. ^ Miller, Jeyms (2011 yil 28-iyul). "Siz qanday qilib yanada oqilona bo'lishni o'rganishingiz mumkin". Business Insider. Olingan 25 mart, 2014.
  13. ^ Miller, Jeyms D. "Ratsionallikdagi yoriqlar - yangi Rambler sharhi". newramblerreview.com. Olingan 28 iyul, 2018.
  14. ^ Mashina razvedkasi tadqiqot instituti. "Noto'g'ri muvozanat: tsivilizatsiyalar qaerda va qanday tiqilib qoladi".
  15. ^ "" Garri Potter "va o'lmaslikning kaliti", Daniel Snayder, Atlantika
  16. ^ Packer, Jorj (2011). "O'lim yo'q, soliq yo'q: Silikon vodiysi milliarderining liberteristik futurizmi". Nyu-Yorker: 54. Olingan 12 oktyabr, 2015.

Tashqi havolalar