linux查看hadoop版本
㈠ linux下怎么知道hadoop安装成功
验证Hadoop是否安装成功主要通过以下两个网址。
http: //localhost:50030(MapRece的页面)
http: //localhost:50070(HDFS的页面)
如果都能查看,说明安装成功。
一: 查看HDFS是否正常启动。在浏览器中输入http: //localhost:50070
以上界面为MapRece的管理界面,此界面表明MapRece的JobTracker已经正常启动了。
㈡ Linux下安装hadoop遇到的问题——输入jps,不显示SecondaryName、NameNode、DataNode,只显示jps
在Linux下安装Hadoop过程中,遇到安装完成后执行jps命令时,未显示SecondaryNameNode、NameNode、DataNode进程,仅显示jps,这通常表明Hadoop集群配置或启动过程存在一些问题。本文将针对这一现象进行分析,并提供解决方法。
首先,确认Hadoop安装目录及配置文件路径正确。Hadoop的安装路径通常应为`/usr/local/hadoop`,配置文件位于`/etc/hadoop`。确保`core-site.xml`、`hdfs-site.xml`、`mapred-site.xml`及`yarn-site.xml`等配置文件正确无误。
其次,检查Hadoop服务是否成功启动。Hadoop的启动依赖于`start-all.sh`脚本。在`/usr/local/hadoop/bin`目录下执行此脚本,如果一切配置无误,Hadoop各组件将正常启动。
再者,查看Hadoop日志文件以获取启动过程中的具体错误信息。通常日志文件位于`/usr/local/hadoop/logs`目录,其中`hadoop.log`记录了Hadoop启动时的详细信息。通过查看此日志,可以发现启动失败的原因。
在上述步骤中,如果`./bin/hdfs namenode -format`命令执行时出现错误提示,可能是格式化文件系统或初始化命名空间时存在问题。检查`hdfs-site.xml`文件中`dfs.namenode.format.path`和`dfs.namenode.format.class`配置项是否正确。
如果确认Hadoop各组件正常启动,但执行`jps`命令时仍无SecondaryNameNode、NameNode、DataNode进程显示,可以尝试以下步骤进行排查:
1. 确认Hadoop服务启动成功。在`/usr/local/hadoop/logs`目录下,应能看到`hadoop`子目录,其中包含`all.out`日志文件。检查此文件,查找Hadoop服务启动的详细信息。如果有任何错误输出,需根据错误信息进行相应调整。
2. 检查配置文件中涉及服务启动的参数。例如,`mapred-site.xml`中的`maprece.jobhistory.address`、`hdfs-site.xml`中的`dfs.replication`等,确保参数设置符合预期。
3. 使用Hadoop客户端命令,如`hadoop fs -ls /`,尝试访问HDFS文件系统。如果可以正常访问,通常意味着Hadoop服务已成功启动。
通过以上步骤,一般可以解决执行jps命令时不显示SecondaryNameNode、NameNode、DataNode进程的问题。若问题仍未解决,建议检查Hadoop安装环境、系统权限以及防火墙设置,确保所有组件的正确运行。
㈢ 如何查看hadoop版本
通过在集群上执行:hadoop version 命令可以查看对应的hadoop的版本。
查看hadoop集群的位数:
执行:cd $HADOOP_HOME/lib/native
file libhadoop.so.1.0.0
Hadoop属于一个能够对大量数据进行分布式处理的软件框架。 Hadoop 以一种可靠、高效、可伸缩的方式进行数据处理。
Hadoop的发行版除了有Apache hadoop外cloudera,hortonworks,mapR,DKhadoop等都提供了自己的商业版本。
商业发行版主要是提供了更为专业的技术支持,这对于大型企业更为重要,不同发行版都有自己的一些特点。
(3)linux查看hadoop版本扩展阅读:
对比版选择:DKhadoop发行版、cloudera发行版、hortonworks发行版。
1、DKhadoop发行版:有效的集成了整个HADOOP生态系统的全部组件,并深度优化,重新编译为一个完整的更高性能的大数据通用计算平台,实现了各部件的有机协调。
因此DKH相比开源的大数据平台,在计算性能上有了高达5倍(最大)的性能提升。DKhadoop将复杂的大数据集群配置简化至三种节点(主节点、管理节点、计算节点),极大的简化了集群的管理运维,增强了集群的高可用性、高可维护性、高稳定性。
2、Cloudera发行版:CDH是Cloudera的hadoop发行版,完全开源,比Apache hadoop在兼容性,安全性,稳定性上有增强。
3、€Hortonworks发行版:Hortonworks 的主打产品是Hortonworks Data Platform (HDP),也同样是100%开源的产品。
其版本特点:HDP包括稳定版本的Apache Hadoop的所有关键组件;安装方便,HDP包括一个现代化的,直观的用户界面的安装和配置工具。