Hadoop-基础篇-在Windows上安装

下载软件

  • hadoop版本:hadoop-2.8.3.tar.gz。官网下载
  • winutisl插件(window系统才需要,):winutils-master.zip。Git下载地址

安装步骤

  1. 解压hadoop-2.8.3.tar.gz至C:\hadoop-2.8.3。注意:不要安装在有空格的路径中
  2. 设置环境变量:在path添加 ;C:\Program Files\hadoop\2.8.4\bin
  3. 解压winutils-master.zip(我是把所有版本的内容都下载了,选择和你版本符合的内容,复制bin文件夹,覆盖到C:\hadoop-2.8.3\bin)
  4. 复制C:\hadoop-2.8.3\bin\hadoop.dll到C:\windows\System32下
  5. 修改C:\hadoop-2.8.3\etc\hadoop下的5个文件内容,分别如下:

  • core-site.xml

  
  
  1. <?xml version="1.0" encoding="UTF-8"?>
  2. <?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
  3. <configuration>
  4. <property>
  5. <name>fs.default.name </name>
  6. <value>hdfs://localhost:9000 </value>
  7. </property>
  8. </configuration>
  • hadoop-env.cmd
set JAVA_HOME=C:\Progra~1\Java\jdk1.8.0_121
  
  
  • 1

设置JAVA_HOME,注意不能值不能有空格,原来的JAVA_HOME=C:\Program Files\Java\jdk1.8.0_121,用C:\Progra~1\Java\jdk1.8.0_121替换

  • hdfs-site.xml

  
  
  1. <?xml version="1.0" encoding="UTF-8"?>
  2. <?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
  3. <configuration>
  4. <property>
  5. <name>dfs.replication </name>
  6. <value>1 </value>
  7. </property>
  8. <property>
  9. <name>dfs.namenode.name.dir </name>
  10. <value>file:/hadoop-2.8.3/data/dfs/namenode </value>
  11. </property>
  12. <property>
  13. <name>dfs.datanode.data.dir </name>
  14. <value>file:/hadoop-2.8.3/data/dfs/datanode </value>
  15. </property>
  16. </configuration>

不需要手动创建文件夹,程序会自动创建文件

  • mapred-site.xml

  
  
  1. <?xml version="1.0"?>
  2. <?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
  3. <configuration>
  4. <property>
  5. <name>mapreduce.framework.name </name>
  6. <value>yarn </value>
  7. </property>
  8. </configuration>

mapred-site.xml默认是没有,通过mapred-site.xml.template,删除后缀.template得到

  • yarn-site.xml

  
  
  1. <?xml version="1.0"?>
  2. <configuration>
  3. <property>
  4. <name>yarn.nodemanager.aux-services </name>
  5. <value>mapreduce_shuffle </value>
  6. </property>
  7. <property>
  8. <name>yarn.nodemanager.aux-services.mapreduce.shuffle.class </name>
  9. <value>org.apache.hadoop.mapred.ShuffleHandler </value>
  10. </property>
  11. </configuration>

启动服务

  • 运行命令:c:\hadoop-2.8.3\bin>hadoop namenode -format
  • 进入sbin启动服务:c:\hadoop-2.8.3\sbin>start-all.cmd

访问地址

如何学习大数据?学习没有资料?

想学习大数据开发技术,Hadoop,spark,云计算,数据分析等技术,在这里向大家推荐一个学习资料分享群:894951460,里面有大牛已经整理好的相关学习资料,希望对你们有所帮助。

扫描二维码关注公众号,回复: 6411517 查看本文章

猜你喜欢

转载自blog.csdn.net/yimenglin/article/details/90637836