Mac下配置Hadoop环境

下载Hadoop(我下载的是2.8.0版本)

​点击此处下载​

下载后,使用

tar -zxvf tar包名

解压tar包,解压完成后有这样一个文件出现

Mac下配置Hadoop环境

修改Hadoop的配置文件

需要修改的配置文件在Hadoop安装路径下的 etc/hadoop中

需要修改的文件包括

  • hadoop-env.sh
  • core-site.xml
  • hdfs-site.xml
  • mapred-site.xml
  • yarn-site.xml

hadoop-env.sh修改内容如下

export JAVA_HOME=/Library/Java/JavaVirtualMachines/jdk1.7.0_79.jdk/Contents/Homeexport HADOOP_CONF_DIR=/Users/FengZhen/Desktop/Hadoop/hadoop-2.8.0/etc/hadoop

在对应的位置找到这两行配置,并修改为本机中的路径。

Mac下配置Hadoop环境

core-site.xml的配置修改如下

fs.defaultFShdfs://localhost:9000hadoop.tmp.dir/Users/FengZhen/Desktop/Hadoop/hadoop-2.8.0/tmp

hdfs-site.xml的配置修改如下

dfs.replication1dfs.permissionsfalse

mapred-site.xml的配置修改如下

mapreduce.framework.nameyarn

yarn-site.xml的配置修改如下

yarn.resourcemanager.hostnamelocalhostyarn.nodemanager.aux-servicesmapreduce_shuffle

配置Hadoop环境变量

在 .bash_profile 文件中配置Hadoop环境变量,使用vim打开该文件,进入编辑模式

vim ~/.bash_profile

在该文件中添加

export HADOOP_HOME=/Users/FengZhen/Desktop/Hadoop/hadoop-2.8.0  此处为Hadoop的安装路径export PATH=$PATH:$HADOOP_HOME/bin

添加完成后保存退出。

使用source命令使该文件中的修改立即生效

source ~/.bash_profile

到此所有的配置已经完成,接下来执行该命令格式化namenode

hadoop namenode -format

格式化成功之后,即可启动Hadoop,在Hadoop安装目录下有个/sbin目录,目录下有个start-all.sh,执行该文件

./start-all.sh

启动过程中会需要输入几次密码,输入即可。

启动结束后在shell输入命令 jps 可输出所有java进程及其pid

Mac下配置Hadoop环境

至此,Hadoop环境配置成功。

此时执行以下命令

hadoop fs -mkdir /testdata     在hdfs根目录下创建一个文件夹 testdatahadoop fs -ls /          可查看根目录下的文件及文件夹

结束。。

Original: https://blog.51cto.com/u_15680746/5373867
Author: 蹦擦擦蹦
Title: Mac下配置Hadoop环境

原创文章受到原创版权保护。转载请注明出处:https://www.johngo689.com/517492/

转载文章受原作者版权保护。转载请注明原作者出处!

(0)

大家都在看

亲爱的 Coder【最近整理,可免费获取】👉 最新必读书单  | 👏 面试题下载  | 🌎 免费的AI知识星球