Windows 10下Hadoop安装教程详解

08-05 827阅读

Windows 10下Hadoop安装教程详解

随着大数据时代的浪潮席卷而来,Hadoop作为一款卓越的分布式计算框架,已成为处理海量数据不可或缺的工具,本文将深入解析如何在Windows 10操作系统上安装Hadoop,助您轻松掌握大数据处理技术。

准备工作

在开始安装之前,请确保满足以下硬件和软件要求:

硬件要求

  • 处理器:至少1GHz
  • 内存:至少2GB(建议4GB以上)
  • 硬盘:至少20GB的空闲空间

软件要求

  • 操作系统:Windows 10
  • Java开发包(JDK):推荐使用Java 8
  • Git:用于版本控制,可选

安装步骤

下载Hadoop

访问Hadoop官网(https://hadoop.apache.org/),下载适用于Windows系统的Hadoop版本,以下以Hadoop 3.3.4为例,下载hadoop-3.3.4.tar.gz文件。

解压Hadoop

将下载的hadoop-3.3.4.tar.gz文件解压到指定目录,例如D:\hadoop。

配置环境变量

  • 右键点击“此电脑”选择“属性”,点击“高级系统设置”。
  • 在系统属性窗口中,点击“环境变量”按钮。
  • 在系统变量中,找到Path变量,点击“编辑”。
  • 在变量值中添加Hadoop的bin目录路径,例如D:\hadoop\bin。
  • 点击“确定”保存设置。

配置Hadoop

  • 在Hadoop的根目录下,找到etc\hadoop文件夹,打开hadoop-env.sh文件。
  • 在文件中设置JDK路径,
    export JAVA_HOME=C:\Program Files\Java\jdk1.8.0_251
  • 保存并关闭文件。

配置hadoop配置文件

  • 在etc\hadoop文件夹下,找到core-site.xml文件,将其内容替换为以下内容:

    <configuration>
        <property>
            <name>fs.defaultFS</name>
            <value>hdfs://localhost:9000</value>
        </property>
    </configuration>
  • 同样,替换hdfs-site.xml、mapred-site.xml、yarn-site.xml文件的内容,具体配置如下:

    hdfs-site.xml:

    <configuration>
        <property>
            <name>dfs.replication</name>
            <value>1</value>
        </property>
    </configuration>

    mapred-site.xml:

    <configuration>
        <property>
            <name>mapreduce.framework.name</name>
            <value>yarn</value>
        </property>
    </configuration>

    yarn-site.xml:

    <configuration>
        <property>
            <name>yarn.resourcemanager.hostname</name>
            <value>localhost</value>
        </property>
    </configuration>
  • 保存并关闭文件。

格式化HDFS

  • 打开命令提示符,切换到Hadoop的bin目录,执行以下命令:
    bin/hdfs namenode -format
  • 执行完成后,HDFS格式化成功。

启动Hadoop服务

  • 在命令提示符中,切换到Hadoop的bin目录,执行以下命令启动HDFS和YARN:
    bin/start-dfs.sh
    bin/start-yarn.sh
  • 启动成功后,可以在浏览器中访问http://localhost:9870/查看HDFS Web界面,以及访问http://localhost:8088/查看YARN Web界面。

验证Hadoop安装

  • 在命令提示符中,切换到Hadoop的bin目录,执行以下命令创建一个文件:
    bin/hadoop fs -put etc/hadoop/core-site.xml core-site.xml
  • 执行以下命令查看文件:
    bin/hadoop fs -cat core-site.xml
  • 如果成功查看文件内容,说明Hadoop安装成功。

本文详细介绍了在Windows 10系统下安装Hadoop的步骤,通过以上步骤,您可以快速搭建一个Hadoop环境,为后续的大数据处理工作打下坚实基础,祝您学习愉快!

文章版权声明:除非注明,否则均为原创文章,转载或复制请以超链接形式并注明出处。
取消
微信二维码
微信二维码
支付宝二维码