Debian上Hadoop开发环境如何搭建-linux运维-PHP中文网

Debian上Hadoop开发环境如何搭建

畫卷琴夢

发布： 2025-03-26 10:14:31

原创

526人浏览过

debian上hadoop开发环境如何搭建

本指南详细介绍如何在Debian系统上搭建Hadoop开发环境。

一、安装Java开发套件(JDK)

首先，安装OpenJDK：

sudo apt update
sudo apt install openjdk-11-jdk -y

登录后复制

配置JAVA_HOME环境变量：

sudo nano /etc/environment

登录后复制

在文件末尾添加（根据实际JDK版本调整路径）：

JAVA_HOME="/usr/lib/jvm/java-11-openjdk-amd64"

登录后复制

保存并退出，然后执行：

source /etc/environment

登录后复制

验证安装：

java -version

登录后复制

二、安装Hadoop

下载Hadoop 3.3.6 (或其他版本)：

wget https://www.apache.org/dyn/closer.cgi/hadoop/common/hadoop-3.3.6/hadoop-3.3.6-src.tar.gz

登录后复制

验证下载完整性：

wget https://downloads.apache.org/hadoop/common/hadoop-3.3.6/hadoop-3.3.6-src.tar.gz.sha512
sha256sum -c hadoop-3.3.6-src.tar.gz.sha512

登录后复制

创建目录并解压：

sudo mkdir /opt/hadoops
sudo tar -xzvf hadoop-3.3.6-src.tar.gz -C /opt/hadoops --strip-components 1

登录后复制

三、配置Hadoop环境变量

编辑/etc/profile文件，添加：

export HADOOP_HOME="/opt/hadoops/hadoop-3.3.6"
export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin

登录后复制

刷新环境变量：

source /etc/profile

登录后复制

四、配置Hadoop核心配置文件

编辑core-site.xml：

sudo nano $HADOOP_HOME/etc/hadoop/core-site.xml

登录后复制

添加：

<configuration>
  <property>
    <name>fs.defaultFS</name>
    <value>hdfs://localhost:9000</value>
  </property>
</configuration>

登录后复制

编辑hdfs-site.xml：

sudo nano $HADOOP_HOME/etc/hadoop/hdfs-site.xml

登录后复制

添加：

<configuration>
  <property>
    <name>dfs.replication</name>
    <value>1</value>
  </property>
  <property>
    <name>dfs.namenode.name.dir</name>
    <value>/opt/hadoops/hdfs/namenode</value>
  </property>
</configuration>

登录后复制

编辑mapred-site.xml：

sudo nano $HADOOP_HOME/etc/hadoop/mapred-site.xml

登录后复制

添加：

<configuration>
  <property>
    <name>mapreduce.framework.name</name>
    <value>yarn</value>
  </property>
</configuration>

登录后复制

编辑yarn-site.xml：

sudo nano $HADOOP_HOME/etc/hadoop/yarn-site.xml

登录后复制

添加：

<configuration>
  <property>
    <name>yarn.nodemanager.aux-services</name>
    <value>mapreduce_shuffle</value>
  </property>
</configuration>

登录后复制

五、设置SSH无密码登录

生成SSH密钥：

sudo su - hadoop
ssh-keygen -t rsa -P ""

登录后复制

复制公钥：

cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys

登录后复制

测试连接：

ssh localhost

登录后复制

六、格式化NameNode

hdfs namenode -format

登录后复制

七、启动Hadoop服务

start-dfs.sh
start-yarn.sh

登录后复制

八、验证Hadoop安装

检查集群状态：

hdfs dfsadmin -report

登录后复制

访问NameNode Web界面：http://localhost:9870

完成以上步骤后，您的Debian系统上的Hadoop开发环境就搭建完成了。请根据实际情况调整路径和Hadoop版本。

以上就是Debian上Hadoop开发环境如何搭建的详细内容，更多请关注php中文网其它相关文章！