腾讯云弹性MapReduce

提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档

文章目录

  • 前言
  • 一、弹性MapReduce产品架构
  • 二、弹性MapReduce 应用功能
  • 三、弹性MapReduce优势
  • 四、弹性MapReduce试用场景
  • 总结


前言

   腾讯云弹性MapReduce是结合云技术和 Hadoop、Hive、Spark、Hbase、Presto、Flink、Druid、ClickHouse 等社区开源技术,提供安全、低成本、高可靠、可弹性伸缩的云端泛 Hadoop 大数据架构。


一、弹性MapReduce产品架构

      EMR 主要由开源组件、腾讯云基础设施和集群管理三部分构成:
      1)    开源组件;
      2)    腾讯云基础设施
      3)    集群管理

 

二、弹性MapReduce 应用功能

       弹性 MapReduce 结合云技术和 Hadoop、Hive、Spark、Storm 等社区开源技术,为您提供安全、低成本、高可靠、可弹性伸缩的云端 Hadoop 服务。其主要功能体现在以下方面:
      1.弹性伸缩:
     (1)分钟级集群创建
     (2)分钟级集群扩缩容
     (3)API 支持
     2.存储计算分离:
    (1) 集群内存储计算分离
    (2) 基于 COS 的存储计算分离
    3.运维支撑:
    (1) 监控与多渠道告警
    (2)技术服务支持
    (3)安全

三、弹性MapReduce优势

      与自建 Hadoop 集群相比,弹性 MapReduce 能提供更方便、更安全、更可靠的云端 Hadoop 服务。
     1.灵活;
     2.可靠;
     3.安全;
     4.易用;
     5. 节约成本;

四、弹性MapReduce试用场景

     1.离线数据分析
      把游戏、Web 应用、手机 App 等业务服务器上的海量日志同步到 EMR 的数据节点或 COS 后,可借助于 Hue 等工具,使用 Hive、Spark、Presto 等主流计算框架快速获取数据洞察力。可使用 Sqoop 等工具加载分散于各 TencentDB 或其他存储引擎的数据,并把分析后的数据同步到 TencentDB,为 RayData 这样的数据可视化产品提供数据支撑。


 


         在程序/工具中通过 API、SDK 把位于业务服务器上实时产生的数据 Push 到 CMQ 消息中间件之后,可在 EMR 产品中选择合适的流式数据处理引擎来分析数据,以实现对业务变动的实时告警;还可以把分析结果实时同步到 TencentDB 等存储引擎,以便于通过 RayData 等数据可视化产品对业务状态进行实时可视化检测。

          2.流式计算
        把游戏、Web 应用、手机 App 等业务服务器上的海量日志同步到 EMR 的数据节点或 COS 后,可借助于 Hue 等工具,使用 Hive、Spark、Presto 等主流计算框架快速获取数据洞察力。可使用 Sqoop 等工具加载分散于各 TencentDB 或其他存储引擎的数据,并把分析后的数据同步到 TencentDB,为 RayData 这样的数据可视化产品提供数据支撑。

       3.分析COS数据
       可通过 EMR 产品快速分析存储于 COS 上的海量数据,以实现彻底的存储计算分离。通过这样的设计,可充分利用 COS 提供的丰富数据同步工具,同时还可以让多个不同版本 Hadoop 集群分析同一份数据,以满足数据一致性及历史原因导致的多版本 Hadoop 集群共存的问题。

 

总结

        本文大概介绍了EMR产品,后面会把搭建过程分享出来。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/35203.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

Xshell远程连接腾讯云服务器(Xshell无法使用密码登录)

1.新建 填写云服务器IP地址后选择连接 输入root 如果上方密码处为灰色无法点击,则通过云服务器网页登录终端 输入命令cd /etc/ssh命令进入文件夹修改sshd_config(注意!不要与ssh_config混淆) 输入命令vim sshd_config对该配置…

腾讯云域名购买和域名解析教程

一. 域名购买操作步骤 1. 登录 腾讯云 域名注册 2. 选择合适的域名,添加到购物车,然后支付。 二. 添加解析操作步骤 步骤1:添加记录 1. 登录 腾讯云 DNS 解析控制台。 2. 在 “域名解析列表” 中,可查看全部已添加的域名。如下…

Java后端利用腾讯云短信服务发短信

利用手机验证码进行注册或进行下一步操作已经是非常普遍的,这篇文章就教你如何是用腾讯云短信服务发送手机验证码。 文章目录 一、前提条件 二、代码实现 1.引入依赖 2.Java代码实现 3.代码改进 4.实现效果 三,关于项目中验证码验证逻辑分享 1.…

腾讯云完整建站过程

整个网站的建立其实是很简单的,总共包含如下几个步骤: 第一步:购买自己的云域名,首推腾讯云域名,学生党优惠力度很大 第二步:购买自己的云空间,我也是在腾讯云上购买的轻量级云服务器 第三步:将域名和云空间绑定起来,也就是域名的解析 第四步…

腾讯云服务器入门使用流程 新手必看教程

一、根据个人需要选择云服务器配置, 打开首页》云服务器,选好cpu、内存、带宽,地域,这几个是主要的。其他都可以默认选择。 二、登陆控制台 1、登陆账号之后,在首页右上角,点击控制台 进去看到服务界面,控制台比较容易看懂。搜索你需要的云产品 2、以云服务器为例,…

腾讯云GPU云服务器配置初体验

一、故事背景 GPU 云服务器(GPU Cloud Computing)是基于 GPU 的快速、稳定、弹性的计算服务,因此,可以广泛应用到深度学习训练/推理、图形图像处理以及科学计算等场景中。 GPU 云服务器提供和标准 CVM 云服务器一致的方便快捷的管…

使用腾讯云发送短信API接口实现(完整流程)

步骤 一、开通腾讯云短信服务二、申请签名前的准备(申请公众号)三、创建签名和模板四、腾讯云API实现发送短信五、使用springboot进行调用六、可能会报的错误 一、开通腾讯云短信服务 在腾讯云官网找到短信服务,开通 二、申请签名前的准备…

使用腾讯云发送短信 ---- 手把手教你搞定所有步骤

最近在跟着一位大佬搞他的Austin项目,austin项目核心功能:发送消息。 这里作者使用了腾讯云发送短信,因为注册就送 100条免费短信的额度。发短信的功能就不用花钱了。 这里就记录了使用腾讯云的整个过程 第一步:注册腾讯云 注…

注册免费使用腾讯云企业邮箱

新手小白适用 在狗爹上买的域名 然鹅现在并不赠送邮箱了 买空间倒是有赠送的 但是我还专门打客服问过 说是不稳定…. 还是入鹅厂的坑吧 小绿锁也是在鹅厂申请的 别问我为啥…. (还不是因为穷。。) 如果你是阿里云的空间或是那几个某空间都是赠送企业…

腾讯云账户注销操作教程

本篇文章为腾讯云账号注销操作教程,操作前请认真查阅腾讯云官方文档。 腾讯云官方文档地址:https://cloud.tencent.com/document/product/378/30252 文章说明:解决小白不知道如何注销腾讯云账号的问题。 操作必读的注意事项: 1.注…

使用腾讯云搭建青龙面板

一、申请一个轻应用服务器 我申请的Ubuntu20.04-Docker20-1Kmy服务器 点击面板进去,在防火墙中添加规则 5700端口 设置好防火墙后,使用本地工具或者直接在页面连接进服务器 二、下载青龙镜像 1、拉取镜像 docker pull whyour/qinglong:latest 注&…

腾讯云个人账号如何多开注册8个新用户账号

众所周知,腾讯云的优惠活动基本上都是新用户首购最优惠,然而腾讯云个人账号只能实名认证三个账号,3个账号都注册了,又想买服务器又不是新用户了怎么办,下面就由我来教大家如何实现再次注册5个账号,废话不多说了下面看教程。 新账…

使用腾讯云COS对象存储(详细流程)

一、开通COS对象存储 二、创建存储桶 基本信息 所属地域:请选择与您业务(或用户数量)相对集中的物理区域所对应的 COS 地域,设置后不可修改。地域的更多信息请参见 地域和访问域名。名称:请输入自定义的存储桶名称。设…

使用xshell连接腾讯云服务器

使用xshell连接腾讯云服务器 文章目录 使用xshell连接腾讯云服务器1.软件工具2.连接步骤a.确认自己的用户名和密码b.通过xshell进行连接 3.补充点 1.软件工具 xshell、云服务器(轻量应用服务器) 2.连接步骤 a.确认自己的用户名和密码 可以在腾讯云的…

腾讯云注册的域名怎么绑定ip?

首先要先弄个宝塔 输入公网ip要能看到下图才算成功。看这位大神教你 然后就可以开始我们的绑定啦! 1、点击腾讯云的控制台: 2、点击域名注册: 3、我的已经注册好了,如果你没注册先去注册、备案。 4、点击解析: …

腾讯云账号注册方法介绍

腾讯云提供几百种云产品服务,在开始使用腾讯云服务之前,你要先注册一个腾讯云账号。拥有腾讯云账号后,就可以登录腾讯云,选购和使用稳定的云产品和服务。 腾讯云注册方式包括以下几种: 注册方式 描述 微信扫码注册 微信扫码注册腾讯云,后续使用微信扫码登录腾讯云,方便…

腾讯云OSS使用指南

腾讯云OSS使用指南 我之前做的小程序Markdown-img使用指南使用的图床都是白嫖图床,但最近好像都不太好用了,遇见图床等都相继出问题了。 只能感慨白嫖果然不靠谱,虽然之前对腾讯云OSS之类的服务很不感冒,因为这明显是个被套住吃…

ESP8266和腾讯云的使用

1. ESP8266简介 在乐鑫官网(ESP芯片技术厂家)可以看到,乐鑫把ESP8266称之为面向物联网应用的高性价比、高度集成的 Wi-Fi MCU 简单来说,ESP8266可以有两种功能,一是WiFi模块,二是32位MCU WiFi模块&…

如何使用腾讯云存储图片

一、图片存储方案介绍 1.存到自己公司购买的服务器上 优点: 好控制 缺点 成本高由于图片都存放到自己的服务器上,占据空间很大 2. 存到三方云服务器(阿里云,七牛云,腾讯云) 各种云有专门的为图片存储提…

腾讯云函数使用方法及注意事项

本人博客 https://blog.thatcoder.cn 本文以建立一个python推送课表为例 写好python文件 打包依赖 配置云函数 大功告成 写好python文件 def get_class(name, passwd):登入并获得课表网站数据 def findall(soundCode):将数据处理成answer数列 def msg(answer):判断当天有…