本指南详细介绍如何在Debian系统上搭建Hadoop开发环境。
一、安装Java开发套件(JDK)
首先，安装OpenJDK：
sudo apt updatesudo apt install openjdk-11-jdk -y
登录后复制
配置JAVA_HOME环境变量：
sudo nano /etc/environment
登录后复制
在文件末尾添加（根据实际JDK版本调整路径）：
JAVA_HOME="/usr/lib/jvm/java-11-openjdk-amd64"
登录后复制
保存并退出，然后执行：
source /etc/environment
登录后复制
验证安装：
java -version
登录后复制
二、安装Hadoop
下载Hadoop 3.3.6 (或其他版本)：
wget https://www.apache.org/dyn/closer.cgi/hadoop/common/hadoop-3.3.6/hadoop-3.3.6-src.tar.gz
登录后复制
验证下载完整性：
wget https://downloads.apache.org/hadoop/common/hadoop-3.3.6/hadoop-3.3.6-src.tar.gz.sha512sha256sum -c hadoop-3.3.6-src.tar.gz.sha512
登录后复制
创建目录并解压：
sudo mkdir /opt/hadoopssudo tar -xzvf hadoop-3.3.6-src.tar.gz -C /opt/hadoops --strip-components 1
登录后复制
三、配置Hadoop环境变量
编辑/etc/profile文件，添加：
export HADOOP_HOME="/opt/hadoops/hadoop-3.3.6"export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin
登录后复制
刷新环境变量：
source /etc/profile
登录后复制
四、配置Hadoop核心配置文件
编辑core-site.xml：
sudo nano $HADOOP_HOME/etc/hadoop/core-site.xml
登录后复制
添加：
fs.defaultFS hdfs://localhost:9000
登录后复制
编辑hdfs-site.xml：
sudo nano $HADOOP_HOME/etc/hadoop/hdfs-site.xml
登录后复制
添加：
dfs.replication 1 dfs.namenode.name.dir /opt/hadoops/hdfs/namenode
登录后复制
编辑mapred-site.xml：
sudo nano $HADOOP_HOME/etc/hadoop/mapred-site.xml
登录后复制
添加：
mapreduce.framework.name yarn
登录后复制
编辑yarn-site.xml：
sudo nano $HADOOP_HOME/etc/hadoop/yarn-site.xml
登录后复制
添加：
yarn.nodemanager.aux-services mapreduce_shuffle
登录后复制
五、设置SSH无密码登录
生成SSH密钥：
sudo su - hadoopssh-keygen -t rsa -P ""
登录后复制
复制公钥：
cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys
登录后复制
测试连接：
ssh localhost
登录后复制
六、格式化NameNode
hdfs namenode -format
登录后复制
七、启动Hadoop服务
start-dfs.shstart-yarn.sh
登录后复制
八、验证Hadoop安装
检查集群状态：
hdfs dfsadmin -report
登录后复制
访问NameNode Web界面：http://localhost:9870
完成以上步骤后，您的Debian系统上的Hadoop开发环境就搭建完成了。 请根据实际情况调整路径和Hadoop版本。
以上就是Debian上Hadoop开发环境如何搭建的详细内容，更多请关注【创想鸟】其它相关文章！
版权声明：本文内容由互联网用户自发贡献，该文观点仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容， 请发送邮件至253000106@qq.com举报，一经查实，本站将立刻删除。
发布者：PHP中文网，转转请注明出处：https://www.chuangxiangniao.com/p/3271152.html
