关于大数据的基础知识（一）—

成长路上不孤单😊😊😊😊😊😊

【14后😊///计算机爱好者😊///持续分享所学😊///如有需要欢迎收藏转发///😊】

今日分享关于大数据的基础知识（一）——定义&特征&结构&要素的相关内容！

关于【大数据的基础知识（一）——定义&特征&结构&要素】

目录：

一、大数据的定义
二、大数据的特征
三、大数据的结构
四、大数据的要素

一、大数据定义

大数据(big data)，或称巨量资料，指的是所涉及的资料量规模巨大到无法透过主流软件工具，在合理时间内达到撷取、管理、处理、并整理成为帮助企业经营决策更积极目的的资讯。

对于“大数据”（Big data）研究机构Gartner给出了这样的定义。“大数据”是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力来适应海量、高增长率和多样化的信息资产。

在维克托·迈尔-舍恩伯格及肯尼斯·库克耶编写的《大数据时代》 [1]中大数据指不用随机分析法（抽样调查）这样捷径，而采用所有数据进行分析处理。大数据的5V特点（IBM提出）：Volume（大量）、Velocity（高速）、Variety（多样）、Value（低价值密度）、Veracity（真实性）。

“大数据”一词列出了商务印书馆推出的《汉语新词语词典（2000—2020）》中国这20年生命活力指数最高的十大“时代新词”。

麦肯锡全球研究所给出的定义是：一种规模大到在获取、存储、管理、分析方面大大超出了传统数据库软件工具能力范围的数据集合，具有海量的数据规模、快速的数据流转、多样的数据类型和价值密度低四大特征。

大数据技术的战略意义不在于掌握庞大的数据信息，而在于对这些含有意义的数据进行专业化处理。换而言之，如果把大数据比作一种产业，那么这种产业实现盈利的关键，在于提高对数据的“加工能力”，通过“加工”实现数据的“增值”。

从技术上看，大数据与云计算的关系就像一枚硬币的正反面一样密不可分。大数据必然无法用单台的计算机进行处理，必须采用分布式架构。它的特色在于对海量数据进行分布式数据挖掘。但它必须依托云计算的分布式处理、分布式数据库和云存储、虚拟化技术。

随着云时代的来临，大数据（Big data）也吸引了越来越多的关注。分析师团队认为，大数据（Big data）通常用来形容一个公司创造的大量非结构化数据和半结构化数据，这些数据在下载到关系型数据库用于分析时会花费过多时间和金钱。大数据分析常和云计算联系到一起，因为实时的大型数据集分析需要像MapReduce一样的框架来向数十、数百或甚至数千的电脑分配工作。

大数据需要特殊的技术，以有效地处理大量的容忍经过时间内的数据。适用于大数据的技术，包括大规模并行处理（MPP）数据库、数据挖掘、分布式文件系统、分布式数据库、云计算平台、互联网和可扩展的存储系统。

最小的基本单位是bit，按顺序给出所有单位：bit、Byte、KB、MB、GB、TB、PB、EB、ZB、YB、BB、NB、DB。

它们按照进率1024（2的十次方）来计算：

1 Byte =8 bit

1 KB = 1,024 Bytes = 8192 bit

1 MB = 1,024 KB = 1,048,576 Bytes

1 GB = 1,024 MB = 1,048,576 KB

1 TB = 1,024 GB = 1,048,576 MB

1 PB = 1,024 TB = 1,048,576 GB

1 EB = 1,024 PB = 1,048,576 TB

1 ZB = 1,024 EB = 1,048,576 PB

1 YB = 1,024 ZB = 1,048,576 EB

1 BB = 1,024 YB = 1,048,576 ZB

1 NB = 1,024 BB = 1,048,576 YB

1 DB = 1,024 NB = 1,048,576 BB

二、大数据的特征

下面用一张表格来总结大数据所具备的几点特征：

三、大数据的结构

大数据包括结构化、半结构化和非结构化数据，非结构化数据越来越成为数据的主要部分。据IDC的调查报告显示：企业中80%的数据都是非结构化数据，这些数据每年都按指数增长60%。 [6]大数据就是互联网发展到现今阶段的一种表象或特征而已，没有必要神话它或对它保持敬畏之心，在以云计算为代表的技术创新大幕的衬托下，这些原本看起来很难收集和使用的数据开始容易被利用起来了，通过各行各业的不断创新，大数据会逐步为人类创造更多的价值。 [7]

其次，想要系统的认知大数据，必须要全面而细致的分解它，着手从三个层面来展开：

第一层面是理论，理论是认知的必经途径，也是被广泛认同和传播的基线。

在这里从大数据的特征定义理解行业对大数据的整体描绘和定性；从对大数据价值的探讨来深入解析大数据的珍贵所在；洞悉大数据的发展趋势；从大数据隐私这个特别而重要的视角审视人和数据之间的长久博弈。

第二层面是技术，技术是大数据价值体现的手段和前进的基石。

在这里分别从云计算、分布式处理技术、存储技术和感知技术的发展来说明大数据从采集、处理、存储到形成结果的整个过程。

第三层面是实践，实践是大数据的最终价值体现。

在这里分别从互联网的大数据，政府的大数据，企业的大数据和个人的大数据四个方面来描绘大数据已经展现的美好景象及即将实现的蓝图。

四、大数据的要素

1、概念

数据技术的发展伴随着数据应用需求的演变，影响着数据投入生产的方式和规模，数据在相应技术和产业背景的演变中逐渐成为促进生产的关键要素。因此，“数据要素”一词是面向数字经济，在讨论生产力和生产关系的语境中对“数据”的指代，是对数据促进生产价值的强调。即数据要素指的是根据特定生产需求汇聚、整理、加工而成的计算机数据及其衍生形态，投入于生产的原始数据集、标准化数据集、各类数据产品及以数据为基础产生的系统、信息和知识均可纳入数据要素讨论的范畴。

1、数据产品

（1）数据库商品：数据库是结构化信息或数据的有序集合，一般以电子形式存储在计算机系统中。通常由数据库管理系统 (DBMS) 来控制。在现实中，数据、DBMS 及关联应用一起被称为数据库系统，通常简称为数据库。

（2）数据库分类：

关系数据库——关系数据库在 20 世纪 80 年代成为了主流。在关系数据库中，项被组织为一组具有列和行的表。这为访问结构化信息提供了一种有效、灵活的方法。
面向对象数据库——面向对象数据库中的信息以对象的形式表示，这与面向对象的编程相类似。
分布式数据库——分布式数据库由位于不同站点的两个或多个文件组成。数据库可以存储在多台计算机上，位于同一个物理位置，或分散在不同的网络上。
数据仓库——数据仓库是数据的中央存储库，是专为快速查询和分析而设计的数据库。
NoSQL 数据库——NoSQL 或非关系数据库，支持存储和操作非结构化及半结构化数据（与关系数据库相反，关系数据库定义了应如何组合插入数据库的数据）。随着 Web 应用的日益普及和复杂化，NoSQL 数据库得到了越来越广泛的应用。
图形数据库——图形数据库根据实体和实体之间的关系来存储数据。
OLTP 数据库——OLTP 数据库是一种高速分析数据库，专为多个用户执行大量事务而设计。
云数据库——云数据库指基于私有云、公有云或混合云计算平台的结构化或非结构化数据集合，可分为传统云数据库和数据库即服务 (DBaaS) 两种类型。在 DBaaS 中，管理和维护工作均由服务提供商负责。
多模型数据库——多模型数据库指的是将不同类型的数据库模型整合到一个集成的后端中，以此来满足各种不同的数据类型的需求。
文档/JSON 数据库——文档数据库专为存储、检索和管理面向文档的信息而设计，它是一种以 JSON 格式（而不是采用行和列）存储数据的现代方法。
自治驾驶数据库——基于云的自治驾驶数据库（也称作自治数据库）是一种全新的极具革新性的数据库，它利用机器学习技术自动执行数据库调优、保护、备份、更新，以及传统上由数据库管理员 (DBA) 执行的其他常规管理任务。 [25]
向量数据库（Vector Database）——向量数据库是专门用来存储和查询向量的数据库。这些向量通常来自于对文本、语音、图像、视频等的向量化。与传统数据库相比，向量数据库可以处理更多非结构化数据。在机器学习和深度学习中，数据通常以向量形式表示，因此向量数据库在这些领域中非常有用。

2、核验接口

（1）概念/定义

核验接口是指通过网络或其他方式，将需要核验的信息传输到指定的接口，进行核验并返回核验结果的一种接口。在实名认证、身份验证、数据安全等方面，核验接口都有着广泛的应用。

（2）常见的核验接口

身份信息核验接口——用于核验身份证号码和姓名是否一致，可以包括身份证二要素核验（核验姓名、身份证号是否一致）和身份证四要素核验（核验姓名、身份证号、有效期始、有效期止是否一致）。
个人实名认证接口——用于进行个人实名认证，验证个人身份信息的真实性和合法性。
企业四要素核验接口——用于核验企业的组织机构代码、营业执照号码、纳税人识别号码等信息是否一致。
银行卡信息核验接口——用于银行卡类型查询、银行卡真伪核验，校验银行卡四要素（姓名、手机号码、身份证号码和银行卡号）信息是否一致。