빅 데이터는 초기 학습 경험 : 리눅스 쉘은 기본적인 프로그래밍 + + 하둡 클러스터를 학습 배포

블로그 마지막 시간 이후 구일하고있다, 단순히 요즘 학습 과정을 기록

2020년 2월 15일 10시 38분 47초


A, 리눅스 학습

나는이 부분을 배웠습니다 전에 리눅스 명령에 대한, 그래서 더 이번에 리눅스 학습 리눅스 시스템 설치 및 구성을 배우는 것입니다 조금 더, 다음을 기록 할만큼 더 일반적으로 사용되는 명령의 일부 설치 고려 사항 리눅스 시스템을 구성.

 

 

 

 여기 4g을위한 가상 머신 메모리 구성

에 CentOS-6.5-x86_64에-minimal.iso 사용 매핑 파일

리눅스 시스템을 입력하면, VM의 호스트 이름은 원하는 이름뿐만 아니라 좋은 네트워크와 IP의 준비를 수정해야

#cat을 수정할 수있는 VI 편집기보기
고양이에서는 / etc / sysconfig / network를
VI에서는 / etc / sysconfig / network를

 

 

 

 네트워크 설정

 

 

 

VI / etc / sysconfig / network-scripts에 /이 ifcfg-eth0를

여러 곳을 수정해야

 

 

 

 

  • ONBOOT = 예 :이 카드는 시작을 나타냅니다
  • BOOTPROTO = 정적이 : 지정 라우팅 프로토콜 정적은, 고정 IP 부여 할 수
  • HWADDR : MAC 주소가 가상 머신을 나타내는 가상 머신은 현재의 MAC 주소와 일치 할 필요가
  • IPADDR는 : 가상 머신의 IP 주소를 나타냅니다
  • GATEWAY는 : Gateway는 가상 머신, 일반적으로 마지막 숫자 IP 주소는 2가된다을 나타냅니다
  • 넷 마스크 : 서브넷 마스크는 일반적으로 255.255.255.0 가상 머신이다
  • DNS1은 구글의 무료 DNS 서버 8.8.8.8를 사용합니다 (DNS에 해당 w은 또한 PC 컴퓨터에 설정 될 수 있음) DNS 리졸버를 나타냅니다

같은 HWADDR은 다음 위치가 찾기

 

 

 

 이것은 MAC 주소가 될 수 있습니다 복사합니다.

 

다음으로, IP 주소 범위를 찾을 수

 

 

 

 내 IP 주소는 192.168.42.128에있을 수 있습니다 - 192.168.42.254이 섹션

나 192.168.42.2입니다 xxx.xxx.xx.2 게이트웨이는 일반적으로 값

좋은 준비를 한 후, 가상 컴퓨터를 다시 시작하기 위해 reboot 명령을 실행 정보를 IP를 볼 수 ifconfig 명령을 사용하여

 

로컬 네트워크의 최근 연결 WLAN 네트워크 공유

네트워크에 액세스하려면

 

 

 

 输入命令 ping www.baidu.com

 

 此时,就是虚拟机就可以上网了。

二、Shell编程

这里推荐几个网址进行shell学习

https://www.runoob.com/linux/linux-shell.html

https://blog.csdn.net/weixin_45093060/article/details/94594130

https://blog.csdn.net/happiness_llz/article/details/82809789

http://c.biancheng.net/shell/

三、hadoop集群部署

第一次接触hadoop,部署了两天才部署成功,此过程是相当煎熬的(T_T)/~~

这里也只是简单写出我认为比较麻烦的步骤与需要注意的地方。

1.ssh免密登录功能的配置

!需要在每台虚拟机上都操作一遍

ssh-keygen -t rsa  #创建密钥

ssh-copy-id hadoop02  #分享到免密登录的虚拟机

2.在执行一个jar包时,可能会出现系统内存和资源分配不足的情况而无法将任务执行完,卡死

或者是nodemanager节点无法启动 || 启动后自动结束的情况

在 yarn-site.xml 中添加

 

    <property>
        <name>yarn.nodemanager.resource.memory-mb</name>
        <value>2048</value>
    </property>


    <property>
        <name>yarn.scheduler.minimum-allocation-mb</name>
        <value>2048</value>
    </property>


    <property>
        <name>yarn.nodemanager.resource.cpu-vcores</name>
        <value>1</value>
    </property>

已上这些代码,可以解决这些问题。

 

추천

출처www.cnblogs.com/g-cl/p/12311195.html