Skip to content

Hadoop集群的搭建及配置-任务1安装及配置虚拟机 ​

📊 集群架构图 ​

🛠️ 环境准备 ​

硬件要求 ​

组件最低配置推荐配置
内存8GB16GB+
硬盘100GB可用空间200GB+
CPUIntel i5Intel i7+ (8核)

软件清单(需要可私) ​

软件版本安装包说明
Linux OSCentOS 7.8CentOS-7-x86_64-DVD-2003.iso64位操作系统
JDK1.8+jdk-8u281-linux-x64.rpmJava开发环境
VMware15+VMware-workstation-full-15.5.7-17171714.exe虚拟机软件
Hadoop3.1.4hadoop-3.1.4.tar.gz大数据处理框架
SSH工具Xshell 8Xme8.exe远程连接工具

🔧 第一部分:虚拟机安装与配置 ​

1.1 创建Master虚拟机 ​

步骤一:安装和配置 Linux 虚拟机 ​

安装 VMware Workstation:双击下载的 VMware-workstation-full-15.5.7-17171714.exe 安装包,点下一步,选择安装目录,输入产品序列号即可完成安装.

image-20250818165827122image-20250818170904067

  1. 创建新的虚拟机:

    • 打开 VMware 软件,选择

      “创建新的虚拟机” 选项 。

      image-20250819231455354
    • 在“新建虚拟机向导”中,选择

      “典型(推荐)” 模式,然后单击 “下一步” 。

      image-20250819231409169
    • 选择

      “稍后安装操作系统”,然后单击 “下一步” 。

      image-20250819231347604
    • 选择客户机操作系统为

      “Linux”,版本为 “CentOS 7 64 位”,然后单击 “下一步” 。

      image-20250819231549533
    • 将虚拟机命名为

      master,并指定一个存放位置,例如 E:\VMware\master 。

      image-20250819231641385
    • 指定最大磁盘容量为

      20GB,并选择 “将虚拟磁盘拆分成多个文件” 。

      image-20250819231711963
    • 在“准备创建虚拟机”界面,单击

      “自定义硬件” 。

      image-20250819231755317
    • 在硬件设置中,选择

      “新CD/DVD”,在右侧选择 “使用 ISO 映像文件”,然后浏览找到 CentOS-7-x86_64-DVD-2003.iso 镜像文件 。,然后单击 “关闭” “完成” 。

      image-20250819231948409
    bash
    # 虚拟机配置参数
    名称: master
    内存: 2GB
    硬盘: 20GB (拆分存储)
    网络: NAT模式
    操作系统: CentOS 7 64位

步骤2:安装CentOS系统 ​

  1. 选择"Install CentOS 7"
  2. 语言选择:English (United States)
  3. 时区设置:Asia/Shanghai
  4. 主机名设置:master
  5. Root密码:123456

步骤2:安装CentOS系统 ​

  1. 安装 CentOS 7:

    • 在 VMware 主界面,选择新建的

      master 虚拟机,单击 “开启此虚拟机” 。

      image-20250819232444178
    • 在安装界面中,选择

      “Install CentOS 7” 。

      image-20250819232622492
    • 语言选择「English(United States)」

      image-20250819232918810
    • 进入安装页面后,进行以下配置:

      • 配置「DATE & TIME」为「Asia/Shanghai」。

        image-20250819235502646image-20250819233127210
      • 「INSTALLATION DESTINATION」保持默认自动分区,点击「Done」。

        image-20250819235602193image-20250819233235985
      • 「NETWORK & HOST NAME」设置主机名为master,点击 “Begin Installation” 开始安装。

      • ROOT 密码:设置密码(例如 123456),需要输入两次。

        image-20250820000634613image-20250820000706392

    • 安装完成后单击 “Reboot” 重启.

      image-20250820000928441image-20250820001246756

步骤3:配置固定IP ​

  1. 设置 master 节点固定 IP:

    • 登录 master 节点(用户名root,密码123456)。

      image-20250820003031109
    • 重启网卡服务

      bash
      service network restart

      image-20250820005325118

    • 修改网络配置文件:

      bash
      vi /etc/sysconfig/network-scripts/ifcfg-ens33
    • 将 ONBOOT 的值改为 yes,将 BOOTPROTO 的值改为 static.

    • 添加 IPADDR(例如 192.168.128.130)、NETMASK、GATEWAY 和 DNS1 等配置信息.

      ini
      ONBOOT=yes
      BOOTPROTO=static
      #添加内容
      IPADDR=192.168.128.130
      NETMASK=255.255.255.0
      GATEWAY=192.168.128.2  # 根据VMware虚拟网络设置
      DNS1=8.8.8.8

      image-20250820004519930

    • 再次重启网络服务:

      bash
      service network restart
    • 验证 IP:

      bash
      ip addr  # 确认显示192.168.128.130

      image-20250820005036622

步骤3命令汇总 ​

bash
# 编辑网络配置文件
vim /etc/sysconfig/network-scripts/ifcfg-ens33

# 修改配置内容
ONBOOT=yes
BOOTPROTO=static
IPADDR=192.168.128.130
NETMASK=255.255.255.0
GATEWAY=192.168.128.2
DNS1=8.8.8.8

# 重启网络服务
service network restart

# 验证IP配置
ip addr

1.2 配置远程连接 ​

  1. 安装 Xshell:双击Xme8.exe,按提示完成安装。

  2. 配置 VMware 虚拟网络:

    • 点击「编辑」→「虚拟网络编辑器」,选择 VMnet8,子网 IP 设置为192.168.128.0。

    image-20250820011537875image-20250820011716825

  3. Xshell 连接 master:

    • 新建会话,名称为master,主机填写192.168.128.130。
    • 「用户身份验证」输入用户名root和密码123456,点击连接并接受密钥。
    image-20250820011907759

使用Xshell连接虚拟机 ​

bash
# 连接信息
主机: 192.168.128.130
用户名: root
密码: 123456
端口: 22

1.3 配置YUM源和软件安装 ​

  1. 进入 YUM 配置目录:

    bash
    cd /etc/yum.repos.d
  2. 禁用默认源:

    bash
    mv CentOS-Base.repo CentOS-Base.repo.bak
    mv CentOS-Debuginfo.repo CentOS-Debuginfo.repo.bak

    image-20250820012331840

  3. 编辑本地源配置:

    bash
    vi CentOS-Media.repo

    修改为:

    ini
    baseurl=file:///media
    gpgcheck=0
    enabled=1

    image-20250820012628818

  4. 挂载 ISO 镜像:

    bash
    mount /dev/sr0 /media  # 若失败,检查虚拟机CD/DVD是否勾选「已连接」

    image-20250820012801443

  5. 清理缓存并验证:

    bash
    yum clean all
    yum install -y vim zip openssh-server openssh-clients  # 安装常用工具

    image-20250820013750993

配置本地YUM源-命令汇总 ​

bash
# 进入YUM配置目录
cd /etc/yum.repos.d

# 备份原有配置文件
mv CentOS-Base.repo CentOS-Base.repo.bak
mv CentOS-Debuginfo.repo CentOS-Debuginfo.repo.bak

# 修改Media源配置
vim CentOS-Media.repo
# 修改以下内容:
# baseurl=file:///media/
# gpgcheck=0
# enabled=1

# 挂载光盘
mount /dev/sr0 /media

# 清理缓存并测试
yum clean all
yum list

安装必要软件 ​

bash
# 安装常用工具
yum install -y vim zip openssh-server openssh-clients

🛡️ 第九部分:常见问题与解决方案 ​

问题1:虚拟机无法联网 ​

bash
# 检查网络服务
service network status

# 重启网络服务
service network restart

# 检查IP配置
ip addr show

​

✅ 验证清单 ​

在完成集群搭建后,请按照以下清单验证:

  • [ ]

🎯 下一步学习建议 ​

📝 总结 ​

基于 Vite 强力驱动 | 纯静态轻量托管