Mapper va reduktorlar qanday ishlaydi?

Mundarija:

Mapper va reduktorlar qanday ishlaydi?
Mapper va reduktorlar qanday ishlaydi?
Anonim

Mapper yoki xarita ishining chiqishi (kalit-qiymat juftlari) Reduktorga kiritiladi Reduktor bir nechta xarita ishlaridan kalit-qiymat juftligini oladi. Keyin reduktor oʻsha oraliq maʼlumotlar kortejlarini (oraliq kalit-qiymat juftligi) kichikroq kortejlar toʻplamiga yoki kalit-qiymat juftliklariga jamlaydi, bu yakuniy natijadir.

Mapper va reduktorlar nima qiladi?

Hadoop Mapper bu fayldagi barcha kirish yozuvlarini qayta ishlash va Reducer uchun kirish sifatida ishlaydigan chiqishni yaratish uchunfoydalaniladigan funksiya yoki vazifadir Yangisini qaytarish orqali natijani ishlab chiqaradi. kalit-qiymat juftliklari. … Xaritachi kirish yozuvlarini kalit-qiymat juftligi sifatida qayta ishlash jarayonida bir qancha kichik maʼlumotlar bloklarini ham yaratadi.

Mapper va reduktor oʻrtasidagi farq nima?

Mapper va reduktor o'rtasidagi asosiy farq nima? Xaritachi vazifasi bu ishlov berishning birinchi bosqichi boʻlib, u har bir kiritilgan yozuvni qayta ishlaydi (RecordReader’dan) va oraliq kalit-qiymat juftligini hosil qiladi. Qisqartirish usuli har bir kalit/qiymatlar roʻyxati juftligi uchun alohida chaqiriladi.

Mapper va reduktorlar sonini qanday hisoblaysiz?

Bu sizning har bir qulda qancha yadro va qancha xotiraga ega ekanligingizga bog'liq. Odatda, bitta xaritachi 1 dan 1,5 yadroli protsessor olishi kerak Shunday qilib, agar sizda 15 yadro bo'lsa, har bir tugunga 10 ta Mapperni ishga tushirish mumkin. Shunday qilib, agar sizda Hadoop klasterida 100 ta maʼlumot tugunlari boʻlsa, bitta klasterda 1000 ta xaritalovchini ishga tushirish mumkin.

Mapper funksiyasi qanday ishlaydi?

Mapper - bu kiritilgan ma'lumotlarni qayta ishlovchi funksiya Xaritachi ma'lumotlarni qayta ishlaydi va bir nechta kichik ma'lumotlar bo'laklarini yaratadi. MapReduce dasturiga kirish fayl yoki katalog (HDFSda saqlanadi) bo'lsa ham, xaritalash funksiyasiga kirish (kalit, qiymat) juftlik shaklida bo'ladi.

Tavsiya: