处理大数据的基础架构，OLTP和OLAP的区别，数据库与Hadoop、Spark、Hive和Flink大数据技术

2022找工作是学历、能力和运气的超强结合体，遇到寒冬，大厂不招人，可能很多算法学生都得去找开发，测开
测开的话，你就得学数据库，sql，oracle，尤其sql要学，当然，像很多金融企业、安全机构啥的，他们必须要用oracle数据库
这oracle比sql安全，强大多了，所以你需要学习，最重要的，你要是考网络警察公务员，这玩意你不会就别去报名了，耽误时间！
与此同时，既然要考网警之数据分析应用岗，那必然要考数据挖掘基础知识，今天开始咱们就对数据挖掘方面的东西好生讲讲最最最重要的就是大数据，什么行测和面试都是小问题，最难最最重要的就是大数据技术相关的知识笔试

文章目录

处理大数据的基础架构，OLTP和OLAP的区别，数据库与Hadoop、Spark、Hive和Flink大数据技术
@[TOC](文章目录)

处理大数据的基础架构
之后我们一个个来学习上述提到的东西，形成一个大数据处理的框架，备考大数据类的试题
Hadoop、Spark、Hive和Flink
OLTP是啥？
为什么要大数据？

kafka传输技术，快速
现有的消息模型？
kafka监听器
kafka的消息模型
生产者api
kafka序列化
实际订餐和菜品看不到

总结

处理大数据的基础架构

处理大数据的基础架构主要有以下几种：

分布式计算框架。
如Hadoop、Spark、Hive和Flink等，这些框架可以处理大规模的数据，并支持分布式存储和计算。

分布式文件系统。
如HDFS（Hadoop Distributed File System）和Google File System等，这些系统可以存储大规模的文件，并支持分布式访问和读取。

数据库集群。
如MySQL集群、PostgreSQL集群等，这些集群可以提高数据处理效率和可用性，并支持分布式事务处理。

NoSQL数据库。
如MongoDB、Cassandra和Redis等，这些数据库可以处理半结构化和非结构化的数据，并支持高并发写入和读取。

云平台。
如Amazon AWS、Google Cloud和阿里云等，这些云平台可以提供虚拟化资源、弹性伸缩和自动化运维等功能，使得处理大数据更加灵活和高效。

这些基础架构可以相互组合和扩展，以适应不同的大数据处理场景和需求。

之后我们一个个来学习上述提到的东西，形成一个大数据处理的框架，备考大数据类的试题

冲

Hadoop、Spark、Hive和Flink

在这里插入图片描述
小数据问题不大

OLTP是啥？

OLTP( On-Line Transaction Processing ) 联机事务处理过程，
通常也可以成为面向交易的处理系统。

个人理解为主要场景针对用户人机交互频繁，数据量小，操作快速响应的实时处理系统中。
Mysql以及Oracle等数据库软件可以理解为OLTP的工业应用软件体现。

OLAP( On-Line Analytical Processing)，联机分析处理过程。
个人理解为主要场景针对大批量数据，实时性无要求，基于数仓多维模型，进行分析操作的系统中。
Hadoop体系中MapReduce、Hive、Spark、Flink等都可以进行为OLAP实现。

原来如此了，数据库做不了大数据的分析类的问题

T是事务
A是分析

为什么要大数据？

在这里插入图片描述

06年写Java的MapReduce程序，难理解

后来写sql得了，很简单
在这里插入图片描述

yarn出来就调度一把
美滋滋

docker现在听说得很多：隔离空间
yarn是container集装箱

在这里插入图片描述

只写sql然后转译为hive那边的Java

还有pyspark，写Python很容易
在这里插入图片描述
相当于是兼容超级多的程序

批处理，这些是【离线一大批】

下面是流式计算【实时快速处理】
在这里插入图片描述

两家很骚，后来俩都能处理了
各种技术你看看是不是穿起来了………………
在这里插入图片描述

你是做那一层呢？

kafka传输技术，快速

我们从传输开始学起

在这里插入图片描述

TB级别量的数据，后续可以对接很多大数据处理技术框架

在这里插入图片描述
有点厉害了

现有的消息模型？

在这里插入图片描述

半结构化的东西

kafka是分布式消息系统
在这里插入图片描述
使得kafka有扩展性

offset不可重复

map消息

不给key那就随机分配
否则分区

同样的key，同样的key放一起

follower就去复制数据，同步，保持数据的可恢复性
这样的话，就不会丢失了

broker就是一台服务器，负责读写
在这里插入图片描述
主分区由broker读写