Ambari搭建Hadoop集群 — — 问题总结

Ambari搭建Hadoop集群 — — 问题总结

一、部署教程:

参考链接:基于Ambari搭建大数据分析平台-CSDN博客

二、问题总结:

1. VMwear Workstation 查看网关

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

2. 资源分配

参考

  1. 硬盘:master(29 GB)、slave1(29 GB)、slave2(29 GB)
  2. 内存:master(4 GB)、slave1(2 GB)、slave2(2 GB)
  3. 处理器:master(1个处理器,4个内核)、slave1(1个处理器,2个内核)、slave2(1个处理器、2个内核)

推荐配置

  1. 硬盘:master(30 GB)、slave1(25 GB)、slave2(25 GB)
  2. 内存:master(4 GB)、slave1(2 GB)、slave2(2 GB)
  3. 处理器:master(1个处理器,4个内核)、slave1(1个处理器,2个内核)、slave2(1个处理器、2个内核)

3. CentOS-7 语言问题

在这里插入图片描述

在安装 CentOS-7 时,如果选择了使用中文进行安装,那么在之后使用 Ambari 安装 Hadoop 时,在步骤 confirm hosts时会出现无限读条问题,就是每一个节点都SUCCESS但是无法进行下一步,进入无限等待状态,此时极大可能时语言的问题,需要进行额外的配置:

  1. 修改/etc/locale.conf文件:

    vim /etc/locale.conf
    
  2. 将内容设置为:

    LANG="en_US.UTF-8"LANGUAGE="en_US:en"
    

4. YUM 换源

  1. yum 的源换为国内的阿里源:

    curl -o /etc/yum.repos.d/CentOS-Base.repo http://mirrors.aliyun.com/repo/Centos-7.repo
    
  2. 清除 yum 缓存:

    yum clean all
    
  3. 生成 yum 的元数据缓存:

    yum makecache
    

5. 安装 ifconfig

CentOS-7 没有安装 ifconfig 命令的情况下,可通过以下办法进行解决:

  1. 搜索 ifconfig 关键字的软件包:

    yum search ifconfig
    

    在这里插入图片描述

  2. 可以查找到 ifconfig 命令在 net-tools.x86_64 包里,安装 net-tools.x86_64 包:

    yum install net-tools.x86_64
    

    在这里插入图片描述

  3. 使用 ifconfig 查看网卡信息,检验能否正常使用:

    ifconfig
    

    在这里插入图片描述

6. HDP 版本号丢失

在 ambari 部署服务的时候,第二步 Select Version 无法找到安装的 HDP版本号(HDP版本号丢失)问题:

在这里插入图片描述

此时有两种解决办法:

  1. 加载 HDP-xxx.xml 文件,我的路径为 /var/www/html/HDP/centos7/2.6.3.0-235/HDP-2.6.3.0-235.xml,将该文件通过 xftp 等软件传输到 windows 系统上,然后在将该文件添加即可。
    在这里插入图片描述

  2. 加载 URL,根据自己的IP以及文件路径进行设置,我的路径为:http://master/HDP/centos7/2.6.3.0-235/HDP-2.6.3.0-235.xml,其中 master 为主节点的 IP,如没有配置映射,需要使用完整的 IP 来进行访问,如:http://192.168.93.131/HDP/centos7/2.6.3.0-235/HDP-2.6.3.0-235.xml,然后选择添加该URL即可。

    在这里插入图片描述

三、致谢

  • 基于Ambari搭建大数据分析平台-CSDN博客

  • Ambari部署及hdp部署的疑难问题解答汇总_ambarihdp-CSDN博客

  • Ambari2.7.3+HDP3.1.0部署集群时-HDP Version丢失问题_hdp-select versions报错-CSDN博客

  • Ambari安装----Confirm Hosts Registering with the server failed解决办法_registering with the server… registration with t-CSDN博客

  • 解决CentOS7的yum无法安装的问题_cenos 安装不了任何服务-CSDN博客

  • 【尚硅谷】大数据技术之Ambari(安装丨配置丨部署)_哔哩哔哩_bilibili

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/440310.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

面试题1-fail-safe机制与fail-fast 机制

1.定义 Fail-safe 和 Fail-fast,是多线程并发操作集合时的一种失败处理机制。 1.1.Fail-Safe机制 1.1.1.定义 Fail-Safe 机制的设计目标是在发生故障时,系统仍然能够继续运行,尽量避免导致整个系统崩溃。即使发生错误或异常,系统…

task【XTuner微调个人小助手认知】

1 微调前置基础 本节主要重点是带领大家实现个人小助手微调,如果想了解微调相关的基本概念,可以访问XTuner微调前置基础。 2 准备工作 环境安装:我们想要用简单易上手的微调工具包 XTuner 来对模型进行微调的话,第一步是安装 XTu…

vmstat命令:系统性能监控

一、命令简介 ​vmstat​ 是一种在类 Unix 系统上常用的性能监控工具,它可以报告虚拟内存统计信息,包括进程、内存、分页、块 IO、陷阱(中断)和 CPU 活动等。 ‍ 二、命令参数 2.1 命令格式 vmstat [选项] [ 延迟 [次数] ]2…

‌多系统萎缩患者的锻炼秘籍:科学运动,守护健康

亲爱的朋友们,今天我们要聊一个既重要又温馨的话题——多系统萎缩患者的锻炼方法。面对这一挑战,科学而合理的锻炼不仅能帮助患者控制病情,还能提升生活质量。让我们一起走进这份“锻炼秘籍”,为爱加油,为健康护航&…

京东云主机怎么用?使用京东云服务器建网站(图文教程)

京东云主机怎么用?非常简单,本文京东云服务器网jdyfwq.com使用以使用京东云服务器搭建WordPress博客网站为例,来详细说下京东云主机的使用方法。使用京东云服务器快速搭建WordPress网站教程,3分钟基于应用镜像一键搞定&#xff0c…

医院综合服务系统小程序的设计

管理员账户功能包括:系统首页,个人中心,患者管理,医生管理,就诊信息管理,科室信息管理,挂号信息管理,系统管理 微信端账号功能包括:系统首页,订单排队&#…

深度学习:词嵌入embedding和Word2Vec

目录 前言 一、词嵌入(Embedding) 1.传统自然语言处理问题 2.什么是词嵌入 二、Word2vec模型 1.Word2Vec的基本原理 三、CBOW模型训练过程 前言 在机器学习里的自然语言处理,是将语料库中的词语转换成词向量矩阵,再使用朴素…

【车载开发系列】ParaSoft单元测试环境配置(四)

【车载开发系列】ParaSoft单元测试环境配置(四) 【车载开发系列】ParaSoft单元测试环境配置(四) 【车载开发系列】ParaSoft单元测试环境配置(四)一. 如何设置过滤二. 如何设置静态扫描的规则三. 如何设置单…

气膜馆的多元化盈利模式与市场前景—轻空间

随着市场经济的不断繁荣,气膜馆作为一种创新型场馆,凭借其独特的结构设计和灵活的运营模式,逐渐成为创业者关注的焦点。那么,气膜馆如何通过多元化经营实现盈利?本文将为您详细解析气膜馆的经营模式与发展机会。 气膜馆…

【测试】接口测试与接口自动化

壹、接口测试基础 一、接口测试概念 I、基础概念 是测试系统组件间接口的一种测试。 主要用于检测外部系统与系统间、内部子系统间的交互点;测试重点检查数据的交换、传递和控制管理过程,以及系统间的相互逻辑依赖关系。 内部接口调用相当于函数调用&am…

Spring Boot与iTextPdf:高效生成PDF文件预览

​ 博客主页: 南来_北往 系列专栏:Spring Boot实战 在现代应用程序开发中,生成PDF文件是一个常见的需求。PDF文件因其跨平台性和易读性,被广泛应用于文档交换、报告生成和打印预览等场景。Spring Boot作为一个用于简化Spring应用开发的框…

毕设 大数据抖音短视频数据分析与可视化(源码)

文章目录 0 前言1 课题背景2 数据清洗3 数据可视化地区-用户观看时间分界线每周观看观看路径发布地点视频时长整体点赞、完播 4 进阶分析相关性分析留存率 5 深度分析客户价值判断 0 前言 🔥 这两年开始毕业设计和毕业答辩的要求和难度不断提升,传统的毕…

基于51单片机的多路电压测量proteus仿真

地址:https://pan.baidu.com/s/1cpgtfl571DcKfjhKvcKqSA 提取码:1234 仿真图: 芯片/模块的特点: AT89C52/AT89C51简介: AT89C52/AT89C51是一款经典的8位单片机,是意法半导体(STMicroelectron…

三种环境下,没有公网ip的虚拟机访问公网的方法

1. windows真机vmware虚拟机 2. 云平台,虚拟机A(有公网ip,有内网ip)虚拟机B(只有内网ip) 3. linux真机kvm虚拟机 ------------------------------------------------------------------------------ 第…

基于 springboot vue中学生日常行为评分管理系统设计与实现

博主介绍:专注于Java(springboot ssm 等开发框架) vue .net php python(flask Django) 小程序 等诸多技术领域和毕业项目实战、企业信息化系统建设,从业十五余年开发设计教学工作☆☆☆ 精彩专栏推荐订阅☆☆☆☆☆不然下次找…

Spring源码学习:SpringMVC(4)DispatcherServlet请求入口分析

目录 前言HttpServlet &FrameworkServletHttpServlet #serviceFrameworkServlet#processRequest DispatcherServlet#doServicedoDispatchcheckMultipartgetHandlerAbstractHandlerMapping#getHandlerRequestMappingInfoHandlerMapping#getHandlerInternalAbstractHandlerMe…

Dit架构 diffusion范式分类+应用

1.ping 网址 2.ssh nscc/l20 3.crtl,打开vscode的setting 4.win 10修改ssh配置文件及其密钥权限为600 - 晴云孤魂 - 博客园 整体来看: 使用transformer作为其主干网络,代替了原先的UNet 在latent space进行训练,通过transformer处理潜…

Spring MVC__@RequestMapping注解、获取请求参数、域对象共享数据、视图、Restful

目录 一、RequestMapping注解1、RequestMapping注解的功能2、RequestMapping注解的位置3、RequestMapping注解的value属性4、RequestMapping注解的method属性5、RequestMapping注解的params属性(了解)6、RequestMapping注解的headers属性(了解…

动手学大模型应用开发之大模型简介

动手学大模型应用开发之大模型简介 主要学习目标什么是大语言模型大模型的能力和特点涌现能力作为基座模型支持多元应用的能力支持对话作为统一入口的能力大模型特点 常见大模型ChatGpt通义千问 LangChainLangChain的核心模块 总结相关学习链接 主要学习目标 学习如何进行大模…

【实战】Nginx+Lua脚本+Redis 实现自动封禁访问频率过高IP

大家好,我是冰河~~ 自己搭建的网站刚上线,短信接口就被一直攻击,并且攻击者不停变换IP,导致阿里云短信平台上的短信被恶意刷取了几千条,加上最近工作比较忙,就直接在OpenResty上对短信接口做了一些限制&am…