日韩久久久精品,亚洲精品久久久久久久久久久,亚洲欧美一区二区三区国产精品 ,一区二区福利

hadoop 任務失敗重復次數的處理方法

系統 4322 0

hadoop任務分為map task和reduce task,當map task執行失敗后會重試,超過重試次數(mapred.map.max.attempts指定,默認為4),整個job會失敗,這是我們不想看到的。


    解決辦法:
  
hadoop提供配置參數“ mapred.max.map.failures.percent”解決這個問題。 如果一個Job有 200 個map task,該參數設置為 5 的話,則單個 job最多允許 10 個map task(200 x 5% =10)失敗,這是我想要的。
把下面配置放到mapred-site.xml文件中,重啟jobtracker(hadoop-daemon.sh stop/start jobtracker ),這下大家滿足了吧^_^

Xml代碼 收藏代碼
  1. < property >
  2. < name > mapred.max.map.failures.percent </ name >
  3. < value > 5 </ value >
  4. </ property >

PS: reduce task有類似配置 mapred.max.reduce.failures.percent

hadoop 任務失敗重復次數的處理方法


更多文章、技術交流、商務合作、聯系博主

微信掃碼或搜索:z360901061

微信掃一掃加我為好友

QQ號聯系: 360901061

您的支持是博主寫作最大的動力,如果您喜歡我的文章,感覺我的文章對您有幫助,請用微信掃描下面二維碼支持博主2元、5元、10元、20元等您想捐的金額吧,狠狠點擊下面給點支持吧,站長非常感激您!手機微信長按不能支付解決辦法:請將微信支付二維碼保存到相冊,切換到微信,然后點擊微信右上角掃一掃功能,選擇支付二維碼完成支付。

【本文對您有幫助就好】

您的支持是博主寫作最大的動力,如果您喜歡我的文章,感覺我的文章對您有幫助,請用微信掃描上面二維碼支持博主2元、5元、10元、自定義金額等您想捐的金額吧,站長會非常 感謝您的哦?。?!

發表我的評論
最新評論 總共0條評論
主站蜘蛛池模板: 宜君县| 棋牌| 绥德县| 宁津县| 织金县| 海城市| 卓资县| 梅河口市| 蒙山县| 翁源县| 建德市| 延川县| 万山特区| 泸定县| 兖州市| 扶余县| 迭部县| 山东省| 凤庆县| 方山县| 佛山市| 中江县| 嘉荫县| 和平县| 普兰县| 巨鹿县| 林口县| 长治市| 肥东县| 冷水江市| 西宁市| 会东县| 兖州市| 桦甸市| 呼伦贝尔市| 凉城县| 宁远县| 惠东县| 哈密市| 雷波县| 尚义县|