hadoop完全分布式

环境依赖不再累述
hadoop安装不再累述。
每台机器部署一个hadoop
一台用于启动namenode
其余三台用于datanode,这三台中还需有一台启动snn
如果用脚本管理其它节点,作为管理的这台服务器需要免密登陆其它所有节点。
scp命令参考

192.168.1.4 nn+管理
192.168.1.5 dn+snn
192.168.1.6 dn
192.168.1.7 dn

1. ssh 免密登陆

如果没有.ssh文件,则用ssh localhost登陆下。
s s h k e y g e n t r s a P f   / . s s h / i d r s a cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys
$ chmod 0600 ~/.ssh/authorized_keys
1)a要免密登陆b,则将a的公钥发送给b。

scp ./id_rsa.pub root@192.168.1.5:`pwd`/hadoopclu1.pub

pwd 代表 /home/hadoop/.ssh/ 目录。pwd是查看当前目录,用在这里是获取当前目录,每个节点的公钥目录都是一样的,这里简写为pwd。
hadoopclu1.pub 这里在拷贝完成后,将拷贝的文件重命名为hadoopclu1.pub便于区分。
在192.168.1.5中使用如下命令可以看到拷贝结果。
[root@192 yum.repos.d]# cd /home/hadoop/.ssh
[root@192 yum.repos.d]# ll
/home/hadoop/.ssh/hadoopclu1.pub
2) 将公钥追加到authorized_keys文件中
cat hadoopclu1.pub >> authorized_keys
这里写图片描述

重复以上操作,完成其他节点

hadoop配置

192.168.1.4第一个节点
1)core-site.xml 配置
fs.defaultFS
hadoop.tmp.dir

2)配置nn
编辑slaves,配置其它nn节点名
[hadoop@192 hadoop]$ vim slaves
hadoopclu1
hadoopclu2
hadoopclu2
3)配置snn
hdfs-site.xml
dfs.replication 副本数量不超过dn数量就行
dfs.namenode.secondary.http-address 按照前面计划,这里启动节点配置为192.168.1.5

猜你喜欢

转载自blog.csdn.net/helloWorldAndYou/article/details/82624279
今日推荐