欢迎来到冰点文库! | 帮助中心 分享价值,成长自我!
冰点文库
全部分类
  • 临时分类>
  • IT计算机>
  • 经管营销>
  • 医药卫生>
  • 自然科学>
  • 农林牧渔>
  • 人文社科>
  • 工程科技>
  • PPT模板>
  • 求职职场>
  • 解决方案>
  • 总结汇报>
  • ImageVerifierCode 换一换
    首页 冰点文库 > 资源分类 > DOCX文档下载
    分享到微信 分享到微博 分享到QQ空间

    hadoop详细安装配置过程1Word文档下载推荐.docx

    • 资源ID:7774608       资源大小:20.71KB        全文页数:15页
    • 资源格式: DOCX        下载积分:3金币
    快捷下载 游客一键下载
    账号登录下载
    微信登录下载
    三方登录下载: 微信开放平台登录 QQ登录
    二维码
    微信扫一扫登录
    下载资源需要3金币
    邮箱/手机:
    温馨提示:
    快捷下载时,用户名和密码都是您填写的邮箱或者手机号,方便查询和重复下载(系统自动生成)。
    如填写123,账号就是123,密码也是123。
    支付方式: 支付宝    微信支付   
    验证码:   换一换

    加入VIP,免费下载
     
    账号:
    密码:
    验证码:   换一换
      忘记密码?
        
    友情提示
    2、PDF文件下载后,可能会被浏览器默认打开,此种情况可以点击浏览器菜单,保存网页到桌面,就可以正常下载了。
    3、本站不支持迅雷下载,请使用电脑自带的IE浏览器,或者360浏览器、谷歌浏览器下载即可。
    4、本站资源下载后的文档和图纸-无水印,预览文档经过压缩,下载后原文更清晰。
    5、试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓。

    hadoop详细安装配置过程1Word文档下载推荐.docx

    1、$JAVA_HOME/lib/:$JAVA_HOME/lib/export PATH=$JAVA_HOME/bin:$PATH配置完成后,保存退出。不重启,更新命令#source /etc/profile测试是否安装成功# Java version其他问题: 出现unable to resolve host 解决方法参考开机时停在 Starting sendmail 不动了的解决方案 安装软件时出现 E: Unable to locate package vsftpd vi/vim 使用方法讲解分类:Hadoop-克隆master虚拟机至node1 、node2分别修改master的主机名为m

    2、aster、node1的主机名为node1、node2的主机名为node2(启动node1、node2系统默认分配递增ip,无需手动修改)分别修改/etc/hosts中的ip和主机名(包含其他节点ip和主机名)-配置ssh免密码连入hadoopnode1:$ ssh-keygen -t dsa -P -f /.ssh/id_dsaGenerating public/private dsa key pair.Created directory /home/hadoop/.ssh.Your identification has been saved in /home/hadoop/.ssh/id_

    3、dsa.Your public key has been saved in /home/hadoop/.ssh/.The key fingerprint is:SHA256:B8vBju/uc3kl/v9lrMqtltttttCcXgRkQPbVoU hadoopnode1The keys randomart image is:+-DSA 1024-+| . | o+.E . | . oo + | . + + |o +. o ooo +|=o. . o. ooo. o.|*o. .+=o .+.+|+-SHA256-+$ cd .ssh/.ssh$ ll总用量 16drwx- 2 hadoop

    4、 hadoop 4096 Jul 24 20:31 ./drwxr-xr-x 18 hadoop hadoop 4096 Jul 24 20:31 ./-rw- 1 hadoop hadoop 668 Jul 24 20:31 id_dsa-rw-r-r- 1 hadoop hadoop 602 Jul 24 20:31 /.ssh$ cat authorized_keys总用量 2032 ./-rw-rw-r- 1 hadoop hadoop 602 Jul 24 20:32 authorized_keys单机回环ssh免密码登录测试/.ssh$ ssh localhostThe authe

    5、nticity of host localhost () cant be established.ECDSA key fingerprint is SHA256:daO0dssyqt12tt9yGUauImOh6tt6A1SgxzSfSmpQqJVEiQTxas.Are you sure you want to continue connecting (yes/no) yesWarning: Permanently added localhost (ECDSA) to the list of known hosts.Welcome to Ubuntu (GNU/Linux x86_64) *

    6、Documentation: packages can be updated.178 updates are security updates.New release LTS available.Run do-release-upgrade to upgrade to it.Last login: Sun Jul 24 20:21:39 2016 from $ exit注销Connection to localhost closed./.ssh$出现以上信息说明操作成功,其他两个节点同样操作让主结点(master)能通过SSH免密码登录两个子结点(slave)/.ssh$ scp hadoop

    7、master:/.ssh/ ./master ()daO0dssyqtt9yGUuImOh646A1SgxzSfatSmpQqJVEiQTxas.master,hadoopmasters password: 100% 603 s 00:00 如上过程显示了node1结点通过scp命令远程登录master结点,并复制master的公钥文件到当前的目录下,这一过程需要密码验证。接着,将master结点的公钥文件追加至authorized_keys文件中,通过这步操作,如果不出问题,master结点就可以通过ssh远程免密码连接node1结点了。在master结点中操作如下:hadoopmaster

    8、:/.ssh$ ssh node1node1 ()daO0dssyqt9yGUuImOh3466A1SttgxzSfSmpQqJVEiQTxas.node1,39:30 2016 from Connection to node1 closed./.ssh$ 由上图可以看出,node1结点首次连接时需要,“YES”确认连接,这意味着master结点连接node1结点时需要人工询问,无法自动连接,输入yes后成功接入,紧接着注销退出至master结点。要实现ssh免密码连接至其它结点,还差一步,只需要再执行一遍ssh node1,如果没有要求你输入”yes”,就算成功了,过程如下:47:20 20

    9、16 from 如上图所示,master已经可以通过ssh免密码登录至node1结点了。对node2结点也可以用上面同样的方法进行表面上看,这两个结点的ssh免密码登录已经配置成功,但是我们还需要对主结点master也要进行上面的同样工作,这一步有点让人困惑,但是这是有原因的,具体原因现在也说不太好,据说是真实物理结点时需要做这项工作,因为jobtracker有可能会分布在其它结点上,jobtracker有不存在master结点上的可能性。对master自身进行ssh免密码登录测试工作:daO0dssttqt9yGUuImOahtt166AgxttzSfSmpQqJVEiQTxas.maste

    10、r authorized_key/.ssh$ ssh master24 2016 from Connection to master closed.至此,SSH免密码登录已经配置成功。-解压 hadoop然后更新环境变量vi /etc/profileexport JAVA_HOME=/opt/ CLASSPATH=.:export HADOOP_HOME=/opt/hadoopexport PATH=$PATH:$JAVA_HOME/bin:$HADOOP_HOME/bin:$HADOOP_HOME/sbinexport HADOOP_COMMON_LIB_NATIVE_DIR=$HADOOP

    11、_HOME/lib/nativeexport HADOOP_OPTS=alias viprofile=vi /etc/profilealias sourceprofile=source /etc/profilealias catprofile=cat /etc/profilealias cdhadoop=cd /opt/hadoop/alias startdfs=$HADOOP_HOME/sbin/alias startyarn=alias stopdfs=alias stopyarn=-步骤六:修改配置一共有7个文件要修改:$HADOOP_HOME/etc/hadoop/$HADOOP_HO

    12、ME/etc/hadoop/slaves其中$HADOOP_HOME表示hadoop根目录 a) 、这二个文件主要是修改JAVA_HOME后的目录,改成实际本机jdk所在目录位置vi etc/hadoop/ (及 vi etc/hadoop/)找到下面这行的位置,改成(jdk目录位置,大家根据实际情况修改)export JAVA_HOME=/opt/另外 中 , 建议加上这句:export HADOOP_PREFIX=/opt/hadoopb) 参考下面的内容修改: name/namevalue/property/opt/hadoop/tmp/configuration注:/opt/hadoo

    13、p/tmp 目录如不存在,则先mkdir手动创建的完整参数请参考 :50020500752注: 表示数据副本数,一般不大于 datanode 的节点数。的完整参数请参考yarn version=mapreduce_shuffle= 0 Exiting with status 0 SHUTDOWN_MSG:/*SHUTDOWN_MSG: Shutting down NameNode at master/*/等看到这个时,表示格式化ok$HADOOP_HOME/sbin/ 启动完成后,输入jps (ps -ef | grep .)查看进程,如果看到以下二个进程:5161 SecondaryName

    14、Node4989 NameNode表示master节点基本ok了再输入$HADOOP_HOME/sbin/ ,完成后,再输入jps查看进程 5320 ResourceManager如果看到这3个进程,表示yarn也ok了f) 修改 /opt/hadoop/etc/hadoop/slaves如果刚才用mv slaves 对该文件重命名过,先运行 mv slaves 把名字改回来,再vi slaves 编辑该文件,输入node1node2保存退出,最后运行停掉刚才启动的服务步骤七:将master上的hadoop目录复制到 node1,node2仍然保持在master机器上cd 先进入主目录 cd

    15、/optzip -r hadoopscp -r hadoopnode1:/opt/scp -r hadoopnode2:unzip node1 、 node2 上的hadoop临时目录(tmp)及数据目录(data),仍然要先手动创建。-步骤八:验证master节点上,重新启动$HADOOP_HOME/sbin/-/opt/hadoop/sbin$ Starting namenodes on mastermaster: starting namenode, logging to /opt/hadoop/logs/node1: starting datanode, logging to /opt

    16、/hadoop/logs/node2:Starting secondary namenodes starting secondarynamenode, logging to /opt/hadoop/logs/starting yarn daemonsstarting resourcemanager, logging to /opt/hadoop/logs/ starting nodemanager, logging to /opt/hadoop/logs/顺利的话,master节点上有几下3个进程:ps -ef | grep ResourceManagerps -ef | grep SecondaryNameNodeps -ef | grep NameNode7482 ResourceManager7335 SecondaryNameNode7159 NameNodeslave01、slave02上有几下2个进程:ps -ef | grep DataNodeps -ef | grep NodeManager2296 DataNode2398 NodeManager同时可浏览: bin/hdfs dfsadmin -report 查看hdfs的状态


    注意事项

    本文(hadoop详细安装配置过程1Word文档下载推荐.docx)为本站会员主动上传,冰点文库仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对上载内容本身不做任何修改或编辑。 若此文所含内容侵犯了您的版权或隐私,请立即通知冰点文库(点击联系客服),我们立即给予删除!

    温馨提示:如果因为网速或其他原因下载失败请重新下载,重复下载不扣分。




    关于我们 - 网站声明 - 网站地图 - 资源地图 - 友情链接 - 网站客服 - 联系我们

    copyright@ 2008-2023 冰点文库 网站版权所有

    经营许可证编号:鄂ICP备19020893号-2


    收起
    展开