日韩久久久精品,亚洲精品久久久久久久久久久,亚洲欧美一区二区三区国产精品 ,一区二区福利

CentOs6搭建Hadoop1.2.1分布式集群

系統 3159 0
系統:CentOs6? 64位

環境:1臺namenode???? 2臺datanode?? 用戶名全是gird

master???? 192.168.1.103

slave1????? 192.168.1.104

slave2????? 192.168.1.107



具體的安裝步驟如下:

1、下載jdk1.6以及hadoop1.2.1(去官網下載即可,都是64位)

2、使用filezilla將jdk和hadoop上傳至master服務器,jdk上傳至slave1服務器和slave2服務器

3、設置host,命令如下:

???? vi /etc/sysconfig/network????? 將HOSTNAME=master

???? vi /etc/hosts????? 設置如下內容:

???? 192.168.1.103 master
???? 192.168.1.104 slave1
???? 192.168.1.107 slave2

???? slave1和slave2除了HOSTNAME為slave1和slave2????? hosts的配置一樣

???? 可以使用hostname來驗證是否已經修改

???? 使用ping? master/slave1/slave2 來驗證是否通訊暢通

4、關閉防火墻

??? master、slave1、slave2分別使用root權限關閉防火墻,命令如下:

??? service iptables stop

??? chkconfig iptables off

5、SSH免密碼登錄

??? master、slave1、slave2分別使用grid用戶,在/home/grid下運行ssh-keygen -t rsa

??? master服務器使用

??? scp id_rsa.pub grid@192.168.1.104:/home/grid/.ssh/authorized_keys

??? scp id_rsa.pub grid@192.168.1.107:/home/grid/.ssh/authorized_keys

??? 然后再做免登錄直連自己的操作

??? 將/home/grid/.ssh/id_rsa.pub內容復制到authorized_keys中

??? slave1和slave2也做同樣的操作

??? 最后的效果如下:

??? CentOs6搭建Hadoop1.2.1分布式集群

6、使用grid用戶在master上安裝hadoop,如下圖:
??
???
7、安裝jdk
?? sudo yum install jdk-6u31-linux-amd64.rpm --nogpgcheck
?? 有提示的話輸入"y"
8、進入hadoop安裝目錄下的conf中,進行一系列的配置,修改的文件有:

???? hadoop-env.sh、core-site.xml、hdfs-site.xml、mapred-site.xml、masters、slaves
???? 1)修改hadoop-env.sh
?????
??????

???? 2)修改core-site.xml
???? CentOs6搭建Hadoop1.2.1分布式集群
?????

???? 3)修改hdfs-site.xml
???? CentOs6搭建Hadoop1.2.1分布式集群
?????

???? 4)修改mapred-site.xml
???? CentOs6搭建Hadoop1.2.1分布式集群
?????

???? 5)修改masters
????
????

???? 6)修改slaves
????
????



9、復制hadoop到slave1和slave2,如下圖:
??
??
????

????



10、在master中格式化HDFS,如下圖:
?? CentOs6搭建Hadoop1.2.1分布式集群
???



11、啟動hadoop,在如下圖:hadoop-1.2.1下運行./bin/start-all.sh
?? CentOs6搭建Hadoop1.2.1分布式集群
???



12、驗證hadoop是否啟動成功:

???

???

???
???????



????


總結:在安裝的過程中遇到了很多的問題,前前后后弄了1天半,使用不同的用戶安裝了一次,不成功,然后重新刪除系統,使用統一的grid用戶進行安裝配置,在啟動hadoop的時候提示輸入“yes”,還以為是沒有配置好免密碼登錄,可是驗證沒有問題,原來是這樣的,第一次啟動hadoop的時候提示輸入,第二次開始就不會提示了,再有其他的就是在格式化HDFS的時候,忘記切換用戶了,結果使用的是root,也導致不能正常啟動hadoop。

CentOs6搭建Hadoop1.2.1分布式集群


更多文章、技術交流、商務合作、聯系博主

微信掃碼或搜索:z360901061

微信掃一掃加我為好友

QQ號聯系: 360901061

您的支持是博主寫作最大的動力,如果您喜歡我的文章,感覺我的文章對您有幫助,請用微信掃描下面二維碼支持博主2元、5元、10元、20元等您想捐的金額吧,狠狠點擊下面給點支持吧,站長非常感激您!手機微信長按不能支付解決辦法:請將微信支付二維碼保存到相冊,切換到微信,然后點擊微信右上角掃一掃功能,選擇支付二維碼完成支付。

【本文對您有幫助就好】

您的支持是博主寫作最大的動力,如果您喜歡我的文章,感覺我的文章對您有幫助,請用微信掃描上面二維碼支持博主2元、5元、10元、自定義金額等您想捐的金額吧,站長會非常 感謝您的哦!!!

發表我的評論
最新評論 總共0條評論
主站蜘蛛池模板: 冀州市| 云安县| 滨海县| 钦州市| 长春市| 环江| 抚顺县| 宁安市| 伊金霍洛旗| 博乐市| 阿合奇县| 房山区| 石嘴山市| 祥云县| 天门市| 常熟市| 文安县| 休宁县| 鄂州市| 东辽县| 浪卡子县| 台州市| 修武县| 新巴尔虎左旗| 秦安县| 北宁市| 平邑县| 同江市| 莎车县| 叶城县| 壤塘县| 麻栗坡县| 甘肃省| 合山市| 郯城县| 临西县| 荃湾区| 佛冈县| 富裕县| 渭南市| 宁国市|